Küçük Mustafa, Haziran 1887'de başladığı ilk öğrenimine bir süre annesinin arzusuna uyarak Hafız Mehmet Efendi'nin mahalle mektebinde devam etti; fakat çok geçmeden babasının isteği ile Selanik'te çağdaş eğitim yapan Şemsi Efendi Mektebi'ne geçti ve ilkokulu burada bitirdi. Şemsi Efendi, yeni öğrencisinin yeteneklerini ve zekâsını takdir ettiğinden, küçük Mustafa'nın kendi okulunda bulunmasından son derece memnundu.
Küçük Mustafa, bu okulda okurken babası öldü. Ali Rıza Efendi'nin ölümü üzerine, Zübeyde Hanım üç çocuğu ile bir süre Selânik yakınlarındaki Lankaza'da bulunan Rapla çiftliğinde subaşılık yapan kardeşi Hüseyin Efendi'nin yanına yerleşti. Çiftlik hayatı nedeniyle küçük Mustafa'nın öğrenimi ister istemez bir süre aksamıştı. Fakat, çok geçmeden Selanik'e dönerek halasının yanında, bıraktığı yerden öğrenimine devam etti.
Küçük Mustafa, Şemsi Efendi İlkokulundan sonra bir süre Selanik Mülkiye Rüştiyesi'ne devam etti ise de Kaymak Hafız adlı Arapça öğretmeninin kendisine haksız yere sopa ile vurması üzerine bu okuldan ayrıldı ve 1894 yılının Temmuz-Ağustos aylarında kendi kararı ile Askerî Rüştiye'ye müracaat ederek öğrenimine burada devam etti. Yazları, dayısı Hüseyin Efendi'nin yanına gider, okul zamanına kadar çiftlikte kalırdı. Mustafa, bu okulu gerçekten sevmişti. Arkadaşları arasında zekâsı ve üstün yetenekleri ile kısa zamanda kendisini gösterdi ve öğretmenlerinin sevgisini kazandı; öğretmenleri neredeyse kendisine bir arkadaş muamelesi yapma gereğini hissetmişlerdi.
Bu okulda matematik öğretmenliği yapan Yüzbaşı Mustafa Efendi, genç öğrencisinin yetenekleri ve zekâsı karşısında sınıftaki diğer Mustafa'larla aralarındaki farkı belirtmek üzere öğrencisinin adının sonuna "Kemal" ismini ilâve etti. Artık genç öğrenci Mustafa Kemal olmuştu.
Mustafa Kemal, Selanik Askerî Rüştiyesini bitirdikten sonra 13 Mart 1896'da Manastır Askerî İdadisine girdi. Burada Ömer Naci ile arkadaşlık etti. İlerde ünlü bir hatip olarak tanınacak olan bu kişi, Mustafa Kemal'in hitabet ve edebiyat sevgisinde etkin rol oynadı. Yakın arkadaşlarından biri olacak Ali Fethi (Okyar) de bu okulda öğrenci idi. Genç Mustafa Kemal, askerî öğreniminin yanı sıra yabancı dil öğrenimini de ihmal etmiyor; yazları izinli olarak Selânik'e döndüğü zaman Fransızca dersleri alıyordu.
Genç Mustafa Kemal, Manastır Askerî İdadisini de başarı ile bitirerek 13 Mart 1899 tarihinde İstanbul'da Harp Okulu'na girdi. 3 senelik başarılı bir Harbiye öğreniminden sonra 10 Şubat 1902'de bu okulu Teğmen rütbesiyle bitirdi ve öğrenimine Harp Akademisinde devam etti.1903 yılında Üsteğmen olmuştu.11 Ocak 1905 tarihinde de Kurmay Yüzbaşı rütbesiyle Harp Akademisinden mezun oldu
.
Harp Okulunda ve Harp Akademisinde de zekâsı, yetenekleri ve üstün kişiliği ile kendisini arkadaşlarına ve hocalarına tanıtmış, onların içten sevgi ve saygısını kazanmıştı. Askerlik derslerine büyük ilgisi yanında matematiğe, edebiyata ve güzel söz söylemeye karşı da merakı ve eğilimi vardı. Harbiye'de ve Harp Akademisi'nde, memleket ve millet davaları ile ilgilenmesi, düşüncelerini cesaretle ifadeden çekinmemesi sebebiyle aydın ve inkılâpçı bir subay olarak tanınmıştı. Devir istibdat idaresi idi ve bu davranışları aleyhine olabilirdi; ancak çevresince gerçekten çok sevilişi, düşüncelerinde samimî oluşu, onun herhangi bir tertibe kurban gitmesini önlemişti. Bununla beraber Harp Akademisi'nden mezuniyetini izleyen günlerde istibdat ve padişahlık rejimi aleyhindeki düşünceleri ve durumu, şüphe çekerek birkaç ay İstanbul'da tutuklu kaldı; sonra bir nevi sürgün olarak vazife ile 5 Şubat 1905 tarihinde Suriye bölgesine, Şam'a atandı.