本校於大正二年(西元1913年)創立,「臺灣總督府國語學校附屬小學校」為本校的創校名稱,二月十三日為創校日。

在日據時代,本校以大學教授、醫生和高官的子弟居多,就算是日本人,也要家境良好的才能就讀本校。昭和二年(西元1927年)四月一日,第一位臺灣人--許伯珽進入本校就讀(父親許丙先生是日本貴族院議員)。當時如果要進本校就讀,除了要通過入學考試之外,還要抽籤,所以能入學的學生都是相當優秀的。

第二次世界大戰日本戰敗,當時本校名為「臺灣總督府臺北師範學校附屬第一國民學校」。被中華民國政府接收後,於民國三十四年(西元1945年)改名為「臺灣省立臺北女子師範學校附屬小學」。之後,又經歷了師範改師專、從隸屬於臺灣省改隸屬於臺北市、師專改制師範學院、師範學院改制教育大學等等時空的變遷,而校名屢有更改。本校於民國九十四年(西元2005年)更名為「台北市立教育大學附設實驗國民小學」。

從大正二年(西元1913年)發展至今民國一零一年(西元2012年),本校已有九十九年歷史。日據時代前後共計三十二年,換了九任主事先生(校長);臺灣光復至今已有六十七年歷史,現任校長為方慧琴女士。