青山学院は、1874年にアメリカのメソジスト監督教会の宣教師たちによって始められた
3つの学校をみなもとにしています。
1874年スクーンメーカー先生によって麻布で始められた女子小学校（Girl's Elementary School）、
1878年に築地に開かれた耕教学舎、そして次の年横浜に開かれた美會神学校の3校です。
これらが後に現在の青山の地に移り、青山学院の基を築き、今日に至りました。


1937年に阿部義宗院長、米山梅吉先生の努力により青山学院緑岡小学校として初等教育がはじまりました。
そして、1946年に青山学院初等部と改称され、1964年に青山学院創立90周年を期に常磐松の現在地に移りました。

2003年から始まった新校舎への建て替え工事も2007年に終わり、
桜・梅・桃の3クラスに杏組を加えた4クラス32名学級が実現し、新しい一歩を踏み出しました。
2017年には、初等部創立80周年を児童・教職員そろって祝いました。