Pendidikan islam di Indonesia sejalan dengan perkembangan penyebaran islam di nusantara. Tujuan pendidikan islam adalah menciptakan manusia yang mengabdi sepenuhnya kepada Allah sesuai dengan ajaran yang disampaikan Rasulullah dalam Al-Qur’an dan Hadist untuk mencapai kebahagiaan dunia dan akhirat. Islam mengajarkan keimanan, ketakwaan dan akhlak.pendidikan islam yang diselenggarakan di nusantara tidak dilaksanakan secara terpusat tetapi diupayakan oleh perseorangan.(Redja Mundyahardjo: 2001, 223-224; 228). Pendidikan islam tradisional biasanya didentikan dengan pesantren.
Ada dua pendapat mengenai asal-ussul pesantren di Indonesia. Pertama, pesantren berasal dari tradisi tarekat. Pendapat ini berdasarkan fakta bahwa penyiaran agama di Indonesia pada awalnya dalam bentuk tarekat yang melakukan zikir-zikir dan wirid-wirid tertentu. Pemimpin tarekat yang disebut kiayi mewajibkan pengikutnya untuk melaksanakan suluk yang dilakukan selama empat puluh hari dengan cara tinggal bersama-sama dalam masjid untuk melaksanakan ibadah dibawah bimbingan kiayi. Perkembangan selanjutnya pengajian ini tumbuh menjadi pesantren. Kedua, pesantren adalah akulturasi dari mandala pada masa Hindhu-budha. Konsep mandala dianggap sama dengan pesantren karena santri dan kiayi hidup dalam satu tempat yang sama untuk belajar agama islam, pimpinan tertingginya adalah kiayi. Anggapan ini diperkuat dengan tidak ditemukannya system pendidikan seperti pesantren di Negara-negara islam, tetapi justru system ini banyak ditemukan di Negara-negara penganut Hindu-Budha seperti India, Myanmar dan Thailand.(Suryadi Siregar, 1996:2-3)
System pendidikan islam di Indonesia berkembang melalui tiga tahap, yaitu pendidikan di langgar, pendidikan pesantren dan pendidikan madrasah. Pendidikan Langgar adalah model pendidikan islam yang pertama kali berkembang. Dalam pendidikan langgar masyarakat datang ke langgar (masjid kecil) untuk belajar membaca Al-Qur’an kepada ulama dan biasanya dilakukan pada pagi atau petang selama 1-2 jam. Tujuan dari pendidikan ini bahwa santri dapat selesai membaca dan mampu melagukan menurut irama tertentu seluruh isi dari Al-Qur’an. Pendidikan ini kemudian berkembang menjadi cikal bakal pesantren karena banyak santri yang berasal dari tempat yang cuup jauh dan harus menginap. Pendidikan Pesantren adalah sekolah islam berasrama. Dalam system pesantren santri dan kiayi tinggal dalam satu komplek yang sama untuk belajar agama islam. Pelajaran utama yang diberikan adalah dogma keagamaan (usuluddin) yaitu dasar keprcayaan dan keyakinan islam, dan Fikh yaitu kewajiban-kewajiban yang harus dilakukan oleh orang islam. Pendidikan dan pengajran di langgar dan di pesantren ditemukan di pulau jawa. Sedangkan minangkabau lebih dikenal dengan pendidikan melalui surau dan di Aceh pendidikan surau ini dikenal dengan istilah rangkang.(Sumarsono Mestoko, 1979: 32-34) Madrasah mulai dimasukan kedalam system pesantren mulai saat menjamurnya sekolah-sekolah sekuler di Indonesia. Madrasah merupakan upaya dari para tokoh pembaharu islam. Pada model ini pendidikan islam yang diselenggarakan bersifat lebih modern, terprogram dan sistematis. Adapun materi pembelajaran meliputi pendidikan intelaktual melalui pelajaran umum dan aspek pendidikan kepribadian melalui mata pelajaran agama.(Asep daud, dkk., 2008:2)