1880 yılında Anavutluk- İşkodra'da doğdu. Harp Okulu'nu 1900, Harp Akademisi'ni de 1902 yılında bitirdi. Kurmay yüzbaşılığı sırasında, ilk görev yeri olan VI. Ordu'da Dersim ve çevresindeki aşiret süvari alaylarının sayıca azaltılmasıyla görevlendirildi. Bu bölgede sekiz yıl kalan Fahrettin Altay, 1910'da Erkanı Harbiye I. Şube müdürlüğüne atandığı zaman binbaşıydı.


Büyükçekmece'deki Donanma Komutanlığı'nda bir süre refakat subaylığı yaptı (1912). 1913'te Çatalca'da kendisini önemli bir görev bekliyordu. Balkan Savaşı'nı kazanan Bulgar ordusu Edirne'ye kadar gelmiş, bölgeyi egemenliği altına almıştı. Çatalca Aşiret Süvari Tugayı'nın başında Bulgar birliklerini geri püskürttü. 1914 yılı da Fahrettin Altay için oldukça hareketli geçti. O yıl yarbaylığa yükselmişti. Önce IV. Kolordu kurmayı oldu. Arkasından ikinci defa Erkanı Harbiye Şube Müdürlüğü yaptı.


Birinci Dünya Savaşı'nın yaklaşması yüzünden asker taşıma işleri arttığı için Anadolu demiryollarını düzenlemekle görevlendirildi. Yıl sona ermeden Harbiye Nezareti emrinde çalışmak üzere İstanbul'a döndü. 1915'te Albay oldu ve Harbiye Nezareti Müsteşar yardımcılığından başka askeri protokol memurluğu yaptı. V.Ordu'nun emrinde çalıştı.


1917'de Vehip Paşa ile birlikte Almanya'ya giden heyette yer aldı. 1917'de 26. Tümen komutanlığı, 1918'de 15. Kolordu Komutan vekilliğine ve gene aynı yıl 12. Ordu komutanlığına atandı.


Birinci Dünya Savaşı'nın bittiği sıralarda Altay, 3. Kolordu kumandanıydı (Nisan 1919). Kurtuluş Savaşı'nın başlarında 12. Kolordu Kumandanlığına atandı. Bu görevi 1921, ortalarına kadar sürdü. Birliğinin başında, Konya'da patlak veren Delibaş Ayaklanmasının bastırılmasından (1920), Birinci ve ikinci İnönü ve Sakarya savaşlarına kadar hep ateş hattında bulundu.


Kurtuluş Savaşı'nın belirli bir aşamaya ulaştığı 1921'de Altay, tümgeneralliğe yükseltildi. Sorumluluğu da genişletilerek kolordu komutanı yetkisiyle Süvari grup komutanlığına getirildi.


1920'den beri milletvekili olarak Meclis'te adı okunuyor, fakat kendisi sürekli olarak cephede bulunuyordu. Kurtuluş Savaşı'nın son yılındaki çarpışmalarda Afyon, Alaşehir, Uşak, Altıntaş çevresindeki çarpışmalarda Altay'ın süvarileri büyük hizmet gördü. Kaçış halinde yunan ordusunu kovalayarak İzmir'e giren ilk süvari birlikleri de Altay'ın komutasındaydı. Bu başarılarının sonucu olarak Altay o yıl korgeneralliğe yükseltildi.


Süvari kolordu komutanlığının yanı sıra bir ara I. Ordu komutan vekilliği de yaptı. 1923 seçimlerinde Milletvekili olarak Meclis'teki yerini korudu. Bu arada askerlik görevini de sürdürüyordu. 1924'te, on yıl boyunca kalacağı II. Ordu Müfettişliğine atandı.


Hem komutan, hem milletvekili olduğu sırada Atatürk'ün dileğine uyarak orduda kaldı. 1944'te I. Ordu komutanlığına getirildi.


Aynı yıl İran ile Afganistan arasındaki sınır anlaşmazlığında hakemlik yaptı. Hazırladığı rapor anlaşmazlığın çözümlenmesinde yararlı oldu.


1945'te, Yüksek Askeri Şüra üyeliği sırasında yaş haddinden emekliye ayrıldı.


1946-1950 yılları arasında CHP'den Burdur milletvekilliği yaptı. 1950’den sonra siyasi hayattan da çekilerek İstanbul'a yerleşti.


25 Ekim 1974’de uykudayken hayatını kaybetti. Mezarı, Ankara'daki Devlet Mezarlığı'ndadır.