PGM Indonesia di bentuk pada tanggal 23 Juli 2008 di Jakarta serta dideklarasikan pada tanggal 24 Juli 2008 di Aula Pandansari, Cibubur Jakarta dengan dihadiri oleh 1.260 guru madrasah yang berasal dari 12 Provinsi dan 26 Kabupaten/Kota yang ada di Provinsi Jawa Barat dan DKI Jakarta.
Agar keberadaan Persatuan Guru Madrasah (PGM ) lebih diakui oleh berbagai pihak, maka atas inisiatif DPW PGM Jawa Barat, DKI Jakarta dan Banten diadakanlah Musyawarah Nasional Guru Madrasah yang pertama pada tanggal 23-24 Juli 2008 di Taman Wiladatika Cibubur, Jakarta dengan menghasilkan beberapa keputusan antara lain berdirinya Organisasi Profesi Guru Madrasah yaitu Persatuan Guru Madrasah (PGM) serta penetapan Anggaran Dasar dan Anggaran Rumah Tangga Persatuan Guru Madrasah.
Dalam perkembangan selanjutnya Persatuan Guru Madrasah Indonesia yang disingkat PGM Indonesia mengubah nama menjadi Perkumpulan Guru Madrasah yang disingkat PGM berdasarkan hasil Musyawarah Nasional II Persatuan Guru Madrasah yang dilaksanakan pada tanggal 27-28 Desember 2012 di Taman Wiladatika, Cibubur.
Langkah awal kepengurusan yang baru, maka diadakan Pelantikan Pengurus DPP PGM Indonesia Masa Bakti 2013-2018 di Asrama Haji Provinsi Jawa Barat, Kota Bekasi sekaligus Pencanangan Gerakan Nasional Cinta Madrasah yang disingkat GENCAR.
Program pendidikan diarahkan kepada perwujudan masyarakat Indonesia yang beriman kepada Tuhan dan berakhlak mulia, menguasai ilmu pengetahuan dan teknologi, memiliki kecerdasan intelektual, sosial dan spiritual, memiliki kecakapan hidup, berbudaya dan berkepribadian Indonesia. Dan untuk mencapai hal tersebut kesempatan memperoleh pendidikan berkualitas harus sungguh-sungguh merata dan dikelola secara efektif, produktif, afisien, akuntabel dan transparan.
Sejumlah hal yang perlu diperhatikan dalam menciptakan pendidikan nasional yang berkualitas, antara lain kualitas guru madrasah, fasilitas belajar yang cukup dan sesuai standar, dan relevansi kurikulum.[4]
Perkumpulan Guru Madrasah Indonesia (PGM Indonesia) didirikan salah satu tujuannya adalah untuk menjawab tantangan diatas, yaitu bagaimana menciptakan guru-guru yang berkualitas yang pada akhirnya bangsa ini akan untuk bersaing bangsa lain. Melalui PGM Indonesia peningkatan kualitasa guru madrasah dapat dilakukan melalui kegiatan seminar pendidikan, pendidikan dan pelatihan bagi guru, diskusi ilmiah, dan sebagainya, yang hasil dari kegiatan tersebut dapat implementasikan dalam proses belajar mengajar di madrasah.
Selain itu PGM Indonesia dibutuhkan pula dalam rangka membela hak-hak guru madrasah, antara lain meningkatkan kesejahteraan guru madrasah dengan mendorong kepada pemerintah agar tidak ada lagi diskriminasi pengangkatan PNS bagi guru-guru honorer di madrasah serta teralokasikannya dana insentif bagi guru-guru madrasah didaerah baik yang bersumber dari APBN maupun APBD Provinsi dan APBD Kabupaten/Kota, karena hakikatnya guru madrasah mampu berkontribusi terhadap upaya mencerdaskan kehidupan bangsa serta ikut menunaikan kewajiban sebagai warga negara dengan membayar misalkan, yang sesungguhnya pajak tersebut harus pula dikembalikan kepada rakyat, termasuk guru didalamnya.
Disinilah arti penting didirikannya PGM Indonesia dalam rangka meningkatkan kualitas pendidikan di Indonesia yang dibarengi dengan adanya peningkatan kesejahteraan guru, hingga guru madrasah menjadi lebih bermartabat yang pada akhirnya tujuan pendidikan dapat terwujud.