Gazi Lisesi, orta kısım dahil olmak üzere 1932-1933 öğretim yılında bu binada eğitim ve öğretim hizetine başlamıştır. Gazi Lisesi adını bizzat Atatürk vermiştir. O devirde Ankara'da Ankara Lisesi ve yeni açılan Birinci Ortaokulu vardı. Fazla öğrenci olmadığından Gazi Lisesi pek az öğrenci ile eğitime başlaıştır. Gazi Lisesi Atatürk'ün arzuları üzerine Kolej olarak ingilizce olarak ingilizceöğretime başlamış İngiltere'den öğretim görelisi olarak iki profesör getirtilmiş 1936 yılından 1971 yılına kadar klasik olarak öğrenim devam etmiştir. 1971-1972 öğretim yılından itibaren modern matematik ve fen öğrenimi uygulanmaya başlamıştır.

Lise dört yıla kadar Gazi Eğitim Entitüsü binasında faaliyette bulunuş, zamanla öğrenci artışı nedeniyle yeni bir lise binasının yapılmasına karar verilmiş itfaiye meydanında bugünkü binanın yapılmasına başlanmış, bina 1936 yılında bitirilerek 36-37 öğretim yılında bugünkü binasına taşınmıştır. Gazi Lisesi Gençlik Parkının karşısında hergelen meydanının doğusundaki Gazi Lisesi Mimar E. Egli'nin tasarımıdır. "L" biçimli bir kütleye sahip olan yapı yarım bodrum üzerine iki katlı olarak 1936 yılında inşa ediliştir.

"L" biçimli kütlenin kuzey-güney doğrultusundaki uzun koluna derslikler güneydeki kısa koluna ise alttan üste doğru srasıyla yönetim, fizik labaratuarı ve müzik odası birimleri yerleştirilmiştir. Yarı bodrum olan at katta ise küçük bir spor salonu servis mekanları ve depolar yerleştrilmiştir.

Yapıya günaybatı köşesinde cephenin geriye çekilmesiyle oluşan sadece üstü kapalı köşesindeki yuvarlak bir sutunla desteklenen ilginç ve yüksek mekandan girilir. Küçük bir holden hemen sonra gelen ana merdiven üst katlara ulaşımı sağlar. Dersliklerin yer aldığı bloğun kuzey ucunda ikinci bir merdiven daha bulunaktadır.

Yapının cepheleri oldukça yalın bir anlayışla düzenlenmiştir. Batı cephesinde anıtsal giriş ile kütlenin yuvarlatılmış köşeleri hemen dikkat çekmektedir. Bundan başka dersliklerin yer aldığı bloğun doğu cephesinde birkat yüksekliğindeki pertik düzenlemesi ise bu cepheyi zenginleştiren bir mimari öğe olarak hemen fark edilir. Yapıyı yüksekçe bir parapet duvarı ile çevrilmiş olan kiremit kaplı ahşap bir kırma çatı örter.