Pendirian Madrasah ini didasari oleh keinginan masyarakat akan adanya pendidikan Islami, maka pada tanggal 17 Februari 1970 terbentuklah panitia, hasil dari musyawarah tokoh masyarakat di rumah H. Basuki Zakaria, yang terdiri dari:

1.    Ketua          : H. Basuni Zakaria

2.    Sekretaris    : Drs. Mursyidi, GA

3.    Bendahara   : Wahi Senalip

4.    Anggota       : a. Bustanul Arifin

  b. Amar Napi

     Setelah terbentuk Kepanitiaan pendirian tersebut, pada tahun pelajaran 1970/1971 terwujudlah keinginan masyarakat dengan berdirinya Madrasah Negeri 50 Filial Ariodilah dengan jumlah peserta didik 30 orang. Adapun bangunan ruang belajar masih menumpang pada di atas tanah Ibrahim Tangin yang kemudian pindah ke Madrasah Darul Hikmah Mesjid Al-Jihad Palembang pimpinan Oemar Hamid. Perkembangan selanjutnya, atas kemufakatan Drs. Mursyidi, GA selaku kepala MIN 50 Filial Ariodillah dengan Oemar Hamid pimpinan Madrasah Darul Hikmah Mesjid Al-Jihad Palembang, melebur kedua madrasah tersebut, yang kemudian disampaikan kepada kepala Kantor Departemen Agama Kota Palembang yang saat itu dijabat oleh Drs. Syafaruddin. Hasil kemufakatan tersebut diteruskan ke walikota Palembang yang dijabat oleh A. Riva’i Tjekyan. Atas persetujuan walikota Palembang maka berdirilah madrasah ibtidaiyah negeri yang diberi nama Madrasah Ibtidaiyah Negeri Kota Palembang 1, yang selanjutnya berkembang sesuai dengan kaedah kebahasaan menjadi Madrasah Ibtidaiyah Negeri 1 Kota Palembang.