Terbinanya Sekolah Menengah Batu Gajah yang kita kenal hari ini ialah hasil kesedaran masyarakat sekitarnya tentang kepentingan pelajaran menengah kepada anak-anak mereka. Sebelumnya, murid-murid dari Lawang, Gual Jedok, Lalang Pepuyu, Batang Merbau dan Batu Gajah sendiri yang menjadi murid saluran ke sekolah ini terpaksa melanjutkan pelajaran menengah ke Tanah Merah atau Ayer Lanas.
Berpunca dari kesedaran tersebut, maka tampillah beberapa orang tokoh antaranya Tan Sri Hj. Mohamed Bin Yaacob ( Ahli Parlimen Tanah Merah ketika itu ), Ibrahim Bin Adam, Tuan Hj. Wan Jaafar Bin Wan Mahmud dan Hamid Bin Suud ( Pak Da Hamid ) dan Penggawa Batu Gajah ketika itu, Encik Wan Zin.
Tahun 1973
Setelah berjuang beberapa tahun, akhirnya pada tahun 1973, Sekolah Menengah Batu Gajah diwujudkan dengan menumpang bangunan SK Batu Gajah, dikenali dengan nama SMR Batu Gajah. Kumpulan pertama pelajarnya berjumlah 120 orang dan jumlah guru seramai 8 orang sahaja.
Tahun 1975
Kumpulan pertama SMR Batu Gajah mengambil peperiksaan SRP. Pelajar-pelajar yang lulus masih terpaksa melanjutkan pelajaran peringkat menengah atas di Sekolah Menengah Dato' Mahmud Paduka Raja atau Sekolah Menengah Ayer Lanas.
Tahun 1977
Bangunan SMR Batu Gajah mula dibina.
Tahun 1979
SMR Batu Gajah mempunyai bangunan sendiri, iaitu :
- Satu blok bangunan tiga tingkat
- Satu blok bangunan satu tingkat untuk bengkel
- Satu bangunan kantin
Tahun 1981
Mulai tahun ini, SMR Batu Gajah mula bertukar nama menjadi Sekolah Menengah Batu Gajah setelah pembelajaran peringkat menengah atas mula ditawarkan di sekolah.
Tahun 1982
Kumpulan pertama calon dari Sekolah Menengah Batu Gajah mengambil peperiksaan SPM dan calon-calon yang lulus akan meneruskan pengajian peringkat Tingkatan Enam di Sekolah Menengah Dato' Mahmud Paduka Raja, Tanah Merah. Pada tahun ini juga berlaku catatan sejarah, iaitu pada tanggal 24 Ogos, Sekolah Menengah Batu Gajah telah dirasmikan oleh YB. Dato' Dr. Sulaiman Bin Hj. Daud, Menteri Pelajaran Malaysia ketika itu.
Tahun 1984
Pada tahun ini satu lagi bangunan satu tingkat dibina di bawah projek PIBG yang dibina secara gotong-royong.
Tahun 1986
Satu lagi bangunan satu tingkat dibina untuk keperluan Pusat Sumber Sekolah (PSS).
Tahun 1988
Sekolah Menengah Batu Gajah mendapat peruntukan pembinaan asrama desa. Apabila siap, bangunan ini boleh menampung seramai 60 orang pelajar.
Tahun 1990
Sekali lagi Sekolah Menengah Batu Gajah mendapat peruntukan khas dua blok bangunan dua tingkat. Satu Blok untuk asrama pelajar lelaki dan satu blok lagi untuk asrama pelajar perempuan. Bangunan baru ini lengkap dengan pedralatan terkini.
Tahun 1991
Satu lagi blok bangunan tiga tingkat dibina untuk menampung keperluan kelas yang tidak mencukupi.
Tahun 1993
Bangunan kelas tiga tingkat dan bangunan itu diserahkan kepada pihak sekolah untuk digunakan.
Tahun 1994
Para pelajar mula menetap di asrama baru dengan jumlah seramai 120 orang. Pada tahun ini juga didirikan satu lagi bangunan dua tingkat untuk pejabat ( pentadbiran ) dan makmal sains. Pada tahun ini juga menyaksikan pembinaan satu bilik stor sains pertanian. Ketika itu, Sekolah Menengah Batu Gajah telah dinaikkan gred iaitu dari Gred B menjadi Gred A tetapi cuma hingga peringkat Tingkatan 5 sahaja.
Tahun 2003
Pada tahun 2003, empat bangunan telah dibangunkan iaitu dua blok bangunan bertingkat untuk kegunaan pejabat dan untuk menampung kelas yang tidak mencukupi. Dua blok bangunan lagi untuk makmal komputer dan bengkel Kemahiran Hidup.
Tahun 2005
Pada tahun ini, SMK Batu Gajah mula menerima kemasukan pelajar Tingkatan Enam Rendah untuk disalurkan ke sekolah ini. Pelajar-pelajar yang disalurkan ke Tingkatan Enam adalah pelajar dari SMK. Kemahang dan juga pelajar dari SMK. Batu Gajah sendiri. Pada tahun ini juga bermulalah pendidikan Pra-Universiti untuk pelajar Tingkatan Enam di SMK. Batu Gajah ini.
Tahun 2006 hingga kini...
Pada tahun 2006, SMK. Batu Gajah berjaya menampung pelajar Tingkatan Enam Seramai 160 orang dan dibahagikan kepada empat kelas. Mulai tahun 2010, SMKBG telah menyediakan tiga Dewan Kuliah untuk kemudahan pelajar Pra Universiti. Sekarang, Sekolah Menengah Kebangsaan Batu Gajah telah menjadi sebuah sekolah yang mampu melahirkan generasi yang Cemerlang, Gemilang dan Terbilang selari dengan hasrat kerajaan dalam mencapai Wawasan 2020 dan juga gagasan 1 Malaysia.