武昌陸軍第二預備學校是全國四所陸軍中級學校之一。與薛嶽一起到這所軍校學習的有不少是來自廣東的同學，其中有張發奎、葉挺、鄧演達等，他們後來都成為粵軍中的將才。
在這些同學中，薛嶽與張發奎的友誼最深。他們都是韶關老鄉，又是同年生，薛嶽只比張發奎小几個月。他倆在陸軍小學堂雖然不是同屆學生，但早在廣州時就已認識，彼此性格、愛好相投，兩人走在一起打打鬧鬧的，有說不完的話。後來，愛讀書的葉挺也經常來找他倆玩，並買來當時最時尚的《新青年》雜誌，相互傳閱。
1916年12月，薛嶽在武昌陸軍第二預備學校畢業，次年春，他與葉挺、鄧演達、黃琪翔等一起升入保定陸軍學校。張發奎卻因故未能與他一起同上保定軍校，薛嶽為之感到遺憾。
三、北上保定，百鍊成鋼
保定軍校是中國近代軍事教育史上成立最早、規模最大、設施最完整、學制最正規的軍事學府。自1902年起，保定先後開辦了北洋陸軍行營將弁學堂、陸軍速成武備學堂、陸軍速成學堂、陸軍軍官學堂以及陸軍預備大學堂。1912年2月，袁世凱任大總統後，把陸軍預備大學堂遷北京，改稱陸軍大學。為培養北洋初級軍官，遂在保定速成學堂和預備大學堂的基礎上，又開辦了保定陸軍軍官學校。
保定的冬天是寒冷的。但透徹的寒冷並沒有擋住當時許多胸懷巨集圖抱負的青年對北方這座城市追隨的步伐。建在保定的軍事學堂影響了多少心靈，成了多少青年的嚮往之地？作為保定軍校的第六期學生，薛嶽滿懷希望地跨入這個校園。在廣東來的學生中，葉挺、鄧演達、李振球學習工兵科，黃琪翔等進入炮兵科，薛嶽則與餘漢謀、李漢魂等進入步兵科。
保定軍校從組織機構、教學骨幹、教育體制到教育理論等方面都仿效德、日等國家的軍校，首次改變了清末各軍事學堂的取官制度,設有校長、教育長、副官等。薛嶽進校後才知道，在教育體制上，保定軍校形成了一套從低階到高階的循序漸進的新式完善的軍事教育體制。學生一般須接受從陸軍小學、陸軍中學到陸軍軍官學校的三級正規教育，爾後才到部隊見習，從而受到嚴格、系統的軍事訓練。其教學裝置比較齊全,是當時中國第一流的,不僅早期的武備學堂、速成學堂所不具備,就是初期的黃埔軍校在這方面也不及。
雖然來到新的學習環境，薛嶽仍然保持“老虎仔”那股子韌勁、猛勁，除學好規定的課程外，繼續堅持不懈地閱讀各種社會科學的書刊，追求進步。同時，他保持著農村孩子的儉樸品格，喜歡參加各種勞動，自己的衣服鞋襪破了，自己縫補。為此，有的人訕笑他寒酸，不像個真正的預備軍官。薛嶽對此只報以淡然一笑，根本不放在心上。這種勤儉樸素的作風一直保持到他當將軍。
薛嶽最喜歡上的一門課是戰術作業。這是一門很重要的功課，先由教官講授基本原理後，由教官出題，假設一種敵情，讓學生們根據所學原理，用軍用符號在地圖上標明敵我態勢，繪製成圖，由教官審評。假設敵情從一個連，逐增到一個營、一個團、一個旅，並由單純的步兵增至騎兵、工兵、炮兵,成為混成部隊,最後到一個師的兵力。還要定期到野外進行模擬戰術演習，鞏固學習成果。後來，薛嶽任司令長官時，仍十分重視地圖作業。
保定學校這所當時中國規模最大、裝置最完善的軍事學堂共辦了九期，培養出6000餘名軍事領導人才，僅後來成為將軍的就有1500餘人，是名副其實的“將軍的搖籃”。薛嶽所在的軍校六期，風雲際會，人才濟濟，同學當中，葉挺、顧祝同、鄧演達、黃琪翔、餘漢謀、趙博生、郝夢齡、吳奇偉、何柱國、黃鎮球、上官雲相、韓德勤等人，在中國近現代史均曾驚鴻閃影、大名鼎鼎。應該說，在保定的三年學習中，薛嶽在知識積累和思想成熟上都有了質的飛躍，為其成為一代名將打下了結實基礎。
然而，薛嶽並沒有拿到畢業證就離開學校，他算是肄業生。這是為什麼呢？