Sejarah GMI Jemaat Gloria dimulai pada tahun 1904 ketika Hong Teen seorang bekas murid Sekolah Methodist di Penang, Malaya, yang membuka suatu sekolah berbahasa Inggris di Medan. Atas permintaannya, pada tahun yang sama Pdt. G.F. Pykett, pimpinan distrik di Penang, datang ke Medan untuk meninjau kemungkinan memulai misi Methodist di Medan. Pada kesempatan itu, Pdt. G.F. Pykett juga mengunjungi beberapa keluarga Tionghoa Kristen, seperti keluarga Thio Gim Tong, Peh Yo Pek. Chou Pai Chi dan lain-lain.

Pdt. Solomon Pakianathan yang juga seorang guru di Methodist Bagai Serai, Penang, pada tahun 1905 diutus untuk menjadi pimpinan di Anglo Chinese School milik Hong Teen. Satu tahun kemudian Pdt. G.F. Pykett juga mengutus Pdt. Ng Kuan Jiu dari Malaya sebagai misionaris pertama untuk kalangan masyarakat Tionghoa di Medan dan sekitarnya.

Pada tahun 1910 Pdt. J.R. Denyes, pimpinan distrik Gereja Methodist di Penang, mengutus Khoo Cheong Bie dan Lim Huai Gim, untuk membuka kembali sekolah berbahasa Inggris The English Public School yang ditutup tahun 1908 dan menyewa sebuah rumah sebagai gedung sekolah sekaligus untuk Kebaktian berbahasa Mandarin di Jalan Kapitan.

Pada tahun 1912 Pdt. W.T. Ward ditempatkan untuk memimpin sekolah berbahasa Inggris The English Public School yang kemudian berganti nama menjadi American Methodist School di bawah naungan Badan Misi Gereja Methodist. Di kemudian hari tepatnya pada tahun 1923, sekolah ini dibagi menjadi Methodist Boys School (sekarang PKMI-1 Jalan Hang Tuah) dan Methodist Girls School (sekarang PKMI-2 Jalan Thamrin).

Pdt. Ong Lim Eng, seorang imigran yang berasal dari Tiongkok, memulai pelayanan di Medan pada tahun 1919 dan kemudian menjadi Gembala Sidang pertama sejak tahun 1922 hingga 1936. Saat pelayanan beliau, tepatnya pada tahun 1922 diresmikan pemakaian gedung gereja di Jalan Hakka (sekarang Jalan MT Haryono) dengan nama Gereja Yesus oleh Bishop Bickley.

Gembala Sidang berikutnya berturut-turut adalah Pdt. Cang Yuen Huang dan Pdt. Chen Ce Chi. Pada bulan Agustus 1943 Pdt. Yap Un Han diutus melayani Gereja Yesus yang kemudian menjadi Gereja Methodist. Pada tahun 1947 Pdt. Yap Un Han melayani di Pulau Penang untuk sementara waktu. Satu tahun kemudian beliau kembali ke Medan untuk melanjutkan pelayanan.

Pada tahun 1949 Pdt. Yap Un Han dan para Majelis mendirikan Methodist Chinese School dengan mengambil tempat di Methodist Girls School (sekarang PKMI-2) yang ditutup selama masa pendudukan Jepang. Pada tahun yang sama, Ibu Pendeta Lim Bie Giok dan Ibu Chen Chin Chu juga mendirikan sekolah Taman Kanak-kanak yang berlokasi di Jalan Hakka (sekarang Jalan MT Haryono). Ibu Pendeta Lim Bie Giok adalah pimpinan sekolah TK yang pertama dan satu tahun kemudian, pimpinan sekolah diserahkan kepada Ibu Chen Chin Chu karena Ibu Pendeta Lim ingin membantu pelayan Pdt. Yap Un Han. Sekolah TK ini kemudian berkembang dan menjadi cikal-bakal PKMI-3 di kemudian hari.

Pada tahun yang sama Pdt. Yap Un Han memulai Perkumpulan Pemuda-pemudi (sekarang P3MI). Kebaktian Pemuda-pemudi kemudian berkembang dengan pesat. Bahkan atas inisitiatif beberapa pemuda-pemudi, pada tahun 1952 dibuka Pos PI di Belawan yang dilayani oleh para pemuda-pemudi.

Pada tahun 1950 pastori gereja yang pertama diresmikan. Untuk mendirikan bangunan pastori gereja ini, selain dana yang dikumpulkan dari Jemaat, Pdt. Yap Un Han dan Ibu Pendeta Lim juga mendatangi gereja-gereja di Malaya untuk mendapatkan bantuan. Gedung pastori gereja ini kemudian berdiri hingga tahun 2002 yang baru lalu sebelum direnovasi menjadi gedung serba guna GMI Jemaat Gloria saat ini.

Pada tahun 1954 Sdri. Lim Chin Ling dan beberapa siswa-siswi Sekolah Alkitab yang fasih berbahasa Hakka menginjili di Pat Su Hwee Koan. Oleh karena anggota terus bertambah, akhirnya mereka pindah ke gereja dan mendirikan Kebaktian berbahasa Hakka. Beberapa tahun kemudian tepatnya pada tahun 1958 yaitu satu tahun setelah Pdt. Lim Chen Ye dari Gereja Kemah Injil Jakarta yang berbahasa Kong Hu mengadakan KKR, Kebaktian berbahasa Kong Hu juga dimulai.

Selama periode tahun 1959 -C 1963 Pdt. Cang Lee Hoa melayani sebagai Gembala Sidang. Pada tahun 1964 diadakan Konperensi Tahunan Istimewa yang menetapkan Gereja Methodist Indonesia yang otonom dan Pdt. Samuel Kosasih ditempatkan untuk melayani Gereja Methodist Jalan Nusantara (sekarang Jalan MT Haryono). Hingga masa pertengahan tahun 1970-an telah dibuka Pos PI Kampung Lalang (sekarang Jemaat Persiapan Karmel), Pos PI Polonia (sekarang GMI Jemaat Markoni), Pos PI Sambu Baru (sekarang Jemaat Persiapan Bethel), Pos PI Glugur (sekarang Jemaat Persiapan Elim), Pos PI Tanjung Morawa (sekarang GMI Tanjung Morawa). Sementara Pos PI Tanjung Mulia baru didirikan tahun 1978 untuk menginjil imigran-imigran yang berasal dari daerah Aceh.

Pada tahun 1969 Gereja Methodist Jalan Nusantara direnovasi karena bertambahnya Jemaat dan kebutuhan ruang belajar untuk Taman Kanak-kanak yang merupakan cikal-bakal PKMI-3 di kemudian hari. Lantai 2 pada hari-hari biasa digunakan sebagai ruang belajar Taman Kanak-kanak dan digunakan pada hari Minggu sebagai ruang Sekolah Minggu.

Satu tahun setelah gedung gereja selesai direnovasi, didirikan pula gedung berlantai 3 yang mengambil lokasi di ruang belajar TK yang lama. Sebagian dari bangunan ini masih berdiri saat ini dan sebagian lainnya sudah direnovasi menjadi bagian dari gedung serba guna GMI Jemaat Gloria yang baru diresmikan tahun 2007.

Pada tahun 1973 gereja membeli sebuah rumah penduduk untuk dijadikan sebagai pusat kegiatan kaum wanita dan saat ini dikenal sebagai Rumah Sosial PWMI Jalan Bintang. Tiga tahun kemudian yaitu tahun 1976 Rumah Sakit Methodist juga didirikan.

Berturut-turut hamba-hamba Tuhan yang melayani sebagai Gembala Sidang adalah Pdt. Luther Leono (1976 -C 1979), Pdt. Samuel Kosasih (1979 -C 1981) dan Pdt. Jacob Beriman (1981 -C 1983). Pada tahun 1982 didirikan gedung sekolah TK Methodist (sekarang PKMI-3) di Jalan Jati. Satu tahun kemudian tepatnya bulan Juni 1983 TK Methodist yang berlokasi di gedung gereja Jalan Nusantara (sekarang Jalan MT Haryono) dipindahkan ke TK Methodist Jalan Jati.

Oleh karena kondisi bangunan yang sudah tidak layak dipakai lagi dan bertambahnya anggota Jemaat, pada tanggal 11 Mei 1989 dimulailah pekerjaan renovasi gedung GMI Jemaat Gloria Jalan MT Haryono. Selama masa renovasi, Kebaktian Mandarin -C Indonesia (d/h Kebaktian Pemuda-pemudi) dan Kebaktian Umum dipindahkan ke PKMI-3 Jalan Jati, sedangkan khusus Kebaktian Remaja dipindahlan ke PKMI-2 Jalan Thamrin. Pada Paskah tahun 1992 Kebaktian Mandarin -C Indonesia resmi diubah menjadi Kebaktian Umum I dan kertas tertib acara diseragamkan dengan Kebaktian Umum II.

Kita bersyukur GMI Jemaat Gloria juga diberkati dengan adanya tanah pemakaman sendiri. Tanah pemakaman milik GMI Jemaat Gloria telah berpindah beberapa kali. Pada tahun 1990 digunakan tanah pemakaman yang baru yang dinamakan Taman Eden. Terakhir tanah pemakaman berlokasi di Kecamatan Sunggal sebelum dipindahkan ke Taman Eden Tanjung Morawa. Saat ini tanah pemakaman lama masih dimiliki oleh GMI Jemaat Gloria Medan.

Pada tahun 1992 gedung gereja yang baru selesai direnovasi mulai ditempati dan baru ditahbiskan pada Hari Paskah tanggal 4 April 1993 oleh Bishop H. Pangabean M.A dan Pdt. Yap Un Han yang masih berkesempatan menyampaikan firman Tuhan. Gedung gereja masih terlihat kokoh berdiri hingga hari ini dan masih dipergunakan oleh Jemaat.

Tahun 2004 ketika GMI Jemaat Gloria berusia 82 tahun, sungguh tak diduga badai datang mendera. GMI Jemaat Gloria dilanda konflik yang tak terduga siapapun dan berkepanjangan hingga hari ini. Konflik GMI Jemaat Gloria sesungguhnya berawal dari permintaan sebagian besar Majelis Jemaat agar sebaiknya lembaga-lemaga di bawah GMI Jemaat Gloria memberikan laporan keuangan kepada Majelis Jemaat. Selama ini belum semua lembaga-lembaga memberikan laporan keuangan kepada Majelis Jemaat. Permintaan sederhana ini ternyata mendapat respons yang luar biasa paniknya dari beberapa Majelis Jemaat dan dengan segala upaya berusaha untuk mengalihkan perhatian Jemaat, termasuk menciptakan berbagai konflik, baik dalam tubuh GMI Jemaat Gloria sendiri mau pun dalam tubuh GMI Wilayah I. Permintaan agar lembaga-lembaga memberikan laporan keuangan sesungguhnya tidaklah berlebihan. Keberatan atas permintaan ini membuat Jemaat bertanya-tanya, adakah sesuatu yang disembunyikan di balik semua ini ?

Saat ini, sesungguhnya segenap Jemaat GMI Gloria Medan seharusnya bersyukur kepada Tuhan atas berkat dan anugerah Tuhan yang berkelimpahan yaitu berupa gedung gereja yang megah, anggota Jemaat yang cukup banyak, pelayanan Gereja yang beraneka-ragam dan berbagai lembaga serta fasilitas lengkap berada di bawah naungan GMI Jemaat Gloria. Segala suka dan duka telah dilalui oleh para pendahulu kita. Oleh karena itu, tidak ada seorang pun yang boleh merasa diri paling berjasa. Terlalu banyak Jemaat dan hamba Tuhan yang telah berjerih-payah dalam pelayanan yang tidak dapat disebut namanya satu per satu. Jerih payah, keringat dan air mata para pendahulu tidaklah sia-sia. Semua yang kita miliki saat ini adalah buah dari pohon yang ditanam dan dipupuk oleh para pendahulu kita. Namun terlebih penting adalah bersyukur untuk penyertaan Tuhan dari awal kepada para pendahulu kita yang setia hingga hari ini.