晉孝武帝司馬曜，字昌明，生于晉哀帝隆和元年(362年)。他的祖父是東晉開國皇帝晉元帝司馬睿，父親是會稽王司馬昱(后來的簡文帝)，母親是李陵容(孝武文太后)。司馬昱共有七個兒子，但前五個都早亡，只有司馬曜和胞弟司馬道子存活下來。

興寧三年(365年)瑯玡王司馬奕繼承皇位后，司馬昱徙封瑯玡王，四歲的司馬曜則繼其父會稽王之位。太和六年(371年)十一月，大軍閥桓溫帶兵入京，發動宮廷政變，通過崇德太后褚蒜子之命廢司馬奕為東海王，并擁立瑯玡王司馬昱即皇帝位，是為晉太宗簡文帝，司馬曜也就成為皇子。

東晉自司馬睿開國江左以來，一直處于士族門閥的輪流支配之下，形成門閥政治的格局，而除了元帝司馬睿、明帝司馬紹稍有作為以外，其他皇帝都是幾乎傀儡般的存在。到了簡文帝司馬昱時，這種皇權不振、士族專權的局面更達到極點，桓溫完全掌控了朝廷大政，連謝安都視其為“君”，史稱“政由桓氏，祭則寡人”，而他的野心則是要簡文帝“禪位于己”，達到傾移晉鼎的目的。

簡文帝登基僅八個月便得了重病，于咸安二年(372年)七月二十三日連發四詔，催促尚居姑孰的桓溫入朝輔政，桓溫故意推辭;五天后，簡文帝病情加劇，遂冊封會稽王司馬曜為皇太子，并遺詔“大司馬溫依周公居攝故事”，又說：“少子可輔者輔之，如不可，君自取之。”此時的晉朝國運可以說到了千鈞一發的地步，因為桓溫完全可以憑借簡文帝遺詔而篡晉自立，這是其他士族所不愿看到的。

因此，出身太原王氏的侍中王坦之當著簡文帝的面撕掉了這封詔書，簡文帝被迫同意將遺詔改為““家國事一稟大司馬，如諸葛武侯(諸葛亮)、王丞相(王導)故事。”隨即簡文帝駕崩。但群臣中仍有懾于桓溫淫威的人提議：““當須大司馬處分。”出身瑯琊王氏的尚書仆射王彪之正色說：“天子崩，太子代立，大司馬何容得異？

若先面諮，必反為所責。”于是朝議確定，皇太子司馬曜登基為帝，是為孝武帝。崇德太后又以司馬曜年幼，又在為大行皇帝服喪為由，再次命桓溫行周公居攝故事，命令下達后，王彪之說：“此異常大事，大司馬必當固讓，使萬機停滯，稽廢山陵，未敢奉令，謹具封還。”此令遂未施行。就在晉室命懸一線、不絕如縷的關鍵時刻，各家士族門閥聯手阻止了桓溫篡晉的陰謀，確保了司馬曜的順利即位及東晉王朝的延續。

孝武帝司馬曜剛繼位三個月，就發生了道教徒盧悚率眾三百人攻入建康殿庭，略取庫兵，欲復辟海西公司馬奕的變亂。此亂矛頭直指桓溫，客觀上增加了王、謝等士族抗拒桓溫的效果。桓溫在寧康元年(373年)二月自姑孰入京，風傳他有誅王、謝，移晉鼎的打算，王坦之、謝安等嚴陣以待，桓溫也只就前一年冬所謂彭城妖人盧悚率眾突入殿庭一事窮加究治。稍后桓溫生病，病中猶要求朝廷為其加九錫，王坦之、謝安等延宕其事。是年七月，桓溫死。孝武帝繼位之初的危機期總算有驚無險地過渡了。