Cadangan penubuhan sebuah Mahkamah khusus untuk mengendalikan kes-kes berkaitan Pihak Berkuasa Tempatan telah dikemukakan oleh Majlis Bandaraya Johor Bahru pada tahun 1995 ekoran kejayaan yang telah dicapai oleh Mahkamah Majistret (Dewan Bandaraya) Kuala Lumpur dan Mahkamah Majistret (Majlis Perbandaran) Petaling Jaya. Peningkatan kes-kes yang tertangguh di Majistret Johor Bahru serta pertambahan bilangan kes-kes saman yang didaftarkan di mahkamah merupakan antara faktor yang mendorong penubuhan Mahkamah Majistret (Majlis Bandaraya Johor Bahru).

Pada tahun 1997 Yang Amat Arif Presiden Mahkamah Rayuan yang menjalankan kuasa sebagai Hakim Besar Malaya telah bersetuju untuk menubuhkan sebuah mahkamah khas bagi mengendalikan semua kes berkaitan Majlis Bandaraya Johor Bahru. Sehubungan itu Majlis Bandaraya Johor Bahru telah membeli sebuah bangunan rumah kedai tiga tingkat yang beralamat di No. 36, Jalan Garuda 1, Larkin, Johor Bahru bagi menempatkan Mahkamah Bandaraya .