蔣介石有一句口頭禪 “中正不可一日無辭修”，中正是他自己，而這個辭修，指的就是陳誠。這句話足可見蔣介石對陳誠的信任和倚重。陳誠崛起于黃埔后，30多年跟隨蔣介石出生入死，無怨無悔，特別是他對蔣介石忠心耿耿，使其成為蔣介石最重要最可靠的親信。在國民黨軍隊撤退到臺灣的歲月里，他亦是少有的，最能獲得蔣介石信任的人之一。

陳誠曾被美國記者譽為“氣質人物”，但他的身高(一米六)實在算不上超群。當年他報考保定軍校時，就因為個子偏矮，差一點被拒之門外。到黃埔軍校后，他決心干出一番事業來，很想表現自己，但由于身材矮小，其貌不揚，起初并沒有進入蔣介石的視線。一個偶然的機會改變了陳誠的命運。一天晚上，蔣介石查哨，看見一房間里有微弱燈光，以為是學生兵不按照作息時間作息，非常生氣，立即開門，他看見一個人正在點著蠟燭，借助微弱的光看書。蔣介石起先以為是小說，拿起來一看，原來是《三民主義》一書，立即轉怒為喜。蔣再看看此人，雖然其貌不揚，但眉宇之中透出一種靈氣。蔣問：“你叫什么名字，哪里人？”此人一看是蔣校長，隨即立正回答：“我是學生陳誠，浙江人。”隨后蔣介石連問：“孫總理倡導的三民主義是什么？”“你記得本校開學時總理對本校師生的訓詞嗎？”陳誠隨后逐一背誦。蔣介石聽了連連點頭，拍拍其肩：“好的！好的！詩曰：風雨如晦，雞鳴不已，你努力吧！”次日清晨，早操完畢，蔣介石就宣布：提升陳誠為少校炮兵隊長，以資鼓勵。

1925年元旦，黃埔軍校成立炮兵營。陳誠被蔣介石任命為第一連連長。2月，參加第一次東征，討伐陳炯明。在棉湖之戰中，陳誠三炮定江山，一舉奠定了他日后擢升和發展的基石。棉湖戰役是蔣介石一生之中最值得夸耀的三大戰役之一。此戰不僅影響到蔣介石主持黃埔軍校以來第一次出征之戰的勝敗;還直接關系到他能否得到執掌國民黨最高軍事指揮權的問題。此戰以黃埔軍校教導第一團為主力，當時教導1團只有1000人，而敵軍多至10倍，戰斗從拂曉進行到下午4時，全團官兵傷亡近三分之一，教導1團還能否承受巨大的壓力，讓蔣介石心急如焚。在這關鍵時刻，右臂已經受了傷的陳誠，一咬牙走上炮臺，將炮口瞄向敵方指揮所，連發三炮，發發炮彈都在敵方大本營中開花。這三炮立刻鼓舞了士氣，全連炮兵個個抖擻精神，敵軍被炮火轟散，四處奔逃。最終取得棉湖戰役的勝利。

其后陳誠憑借黃埔的師生關系，在國民黨軍組建了“土木系”(因其起家部隊是國民黨軍的第十一師和第十八軍，該部因“土”拆開為“十一”、“木”拆開為“十八”，故而得名)。其所部在抗戰中多次與日軍有過惡戰，這也使得“土木系”部隊的名號更加響亮，到抗戰結束后，已被視為國軍的五大主力之一。“土木系”先后產生了四個一級上將、三個參謀總長、兩任海軍總司令、一個空軍總司令、一個聯勤總司令、二十多位軍長以及數以百計的師長、團長。

蔣介石總是在最關鍵的時刻把最重要的任務交給陳誠。那是什么原因使他受到蔣的如此信任？據說蔣介石提拔人的時候有三條不成文的規定，一是重用黃埔系出身的軍人，因為蔣是靠黃埔系起家的。第二就是重用同鄉。第三是重用對蔣介石個人十分忠誠的人。同時兼備這三個條件的，唯有陳誠。除了這三個條件，陳誠還和蔣介石有著另外一層特殊的關系。1931年12月，蔣介石和宋美齡親自做媒，把蔣介石的干女兒、宋美齡留美時的同學譚祥，介紹給了陳誠。陳譚結合，使陳蔣之間不僅有同鄉、黃埔的關系，又多了一層翁婿的關系。

陳誠死后，蔣曾題挽聯：

光復志節己至最后奮斗關頭，那堪吊此國殤，果有數耶

革命事業尚在共同完成階段，竟忍奪我元輔，豈無天乎