İnalcık, ilk ve ortaokulu Ankara ve Sivas'ta okuduktan sonra liseyi Balıkesir Necati Bey Muallim Mektebi'nde tamamladı. Lisans eğitimini ise 1935'te Ankara Üniversitesi Dil, Tarih ve Coğrafya Fakültesinde bitirdi.
Üniversitenin Yeniçağ Tarihi Bölümünde yaptığı çalışma ile Prof. Dr. Fuat Köprülü'nün dikkatini çeken İnalcık, onun tavsiyesi ile ilmi yardımcı olarak görevlendirildi. "Tanzimat ve Bulgar Meselesi" adlı doktora tezini 1942'de tamamlayan İnalcık, 1943'te "Viyana'dan Büyük Ricat'e Osmanlı İmparatorluğu ve Kırım Hanlığı" başlıklı teziyle doçent ünvanı aldı.