Daerah Istimewa Yogyakarta (DIY) menjadi salah satu pusat penyebaran agama Islam di Pulau Jawa, sebagaimana terlihat dari peninggalan Kerajaan Mataram Islam, khususnya di kawasan Kotagede, bekas ibu kota kerajaan tersebut. Masjid Gedhe Mataram Kotagede merupakan salah satu bukti nyata perkembangan Islam di wilayah ini, menjadikannya masjid tertua di Yogyakarta. Pembangunan masjid ini dimulai pada tahun 1578 dan selesai pada 1587, di masa Panembahan Senopati, dengan partisipasi masyarakat yang pada waktu itu mayoritas beragama Hindu dan Buddha. Sebuah versi sejarah lain menyebutkan bahwa masjid ini didirikan pada masa Sri Sultan Hamengkubuwono I, berdasarkan prasasti berbahasa Jawa dengan huruf Arab yang menyatakan pembangunannya terjadi pada 27 Juni 1773.
Saat masjid ini dibangun, umat Islam dan umat Hindu berkontribusi bersama, di mana umat Islam membangun bagian utama masjid, sedangkan umat Hindu berperan dalam pembangunan pagar. Hal ini tampak jelas pada bentuk gapura yang menyerupai Pura, mencerminkan akulturasi budaya yang diajarkan Sunan Kalijaga. Panembahan Senopati juga mengamanatkan agar bentuk fisik masjid, termasuk gapura, tidak diubah. Tujuan dari perpaduan budaya ini adalah untuk mempermudah penyebaran ajaran Islam di Mataram, mengingat masyarakat saat itu masih banyak yang menganut kepercayaan animisme dan dinamisme. Pendekatan budaya ini terbukti efektif dalam menyebarkan Islam di wilayah tersebut. Pada masa Sultan Agung, sekitar tahun 1611, masjid ini mengalami perkembangan lebih lanjut dengan dibangunnya serambi dan halaman.
Masjid Gedhe Mataram berada di dalam satu kompleks dengan Pesaren Agung (makam besar) Kotagede, yang dikelilingi oleh pagar setinggi 2,5 meter. Masjid ini juga merupakan bagian dari konsep tata ruang kerajaan Islam Jawa yang dikenal dengan “catur gatra tunggal,” yang mencakup keraton (pusat pemerintahan), alun-alun (pusat sosial budaya), masjid (pusat spiritual), dan pasar (pusat ekonomi). Arsitekturnya menampilkan pagar bercorak Hindu yang mencerminkan akulturasi antara Islam dan Hindu. Atap utama masjid berbentuk tajug bertingkat dua, terbuat dari kayu dan dilengkapi genteng, sementara puncaknya dihiasi dengan mahkota yang disebut pataka. Serambi masjid memiliki atap berbentuk limasan, dengan ornamen “kluwih” yang bermakna kemakmuran. Desain masjid berbentuk bujur sangkar mencerminkan filosofi Jawa “klebat papat limo pancer,” yaitu simbol kemantapan dan keselarasan.
Masjid ini juga memiliki bedug kuno yang seumuran dengan masjid, terbuat dari kayu besar yang ditemukan oleh Sunan Kalijaga di Kulon Progo. Hingga saat ini, Masjid Gedhe Mataram tetap berfungsi sebagai tempat ibadah sekaligus menjadi destinasi wisata religi yang populer di Yogyakarta.