蔣百里到達日本第二年,就因為出色的學業,被選為中國留日學生代表。不僅如此,蔣百里還創建了《浙江潮》雜志,他在上面發表了大量關於民族精神、和民主的革命,思想非常深刻、尖銳。
在這一時期,他第一次接觸到了飲冰室主任梁啟超,以及同樣留日學習的魯迅先生,三人建立了非常良好的友誼,經常在一起商討救國、救民之策。
蔣百里在日本的時間過得很快,1905年,蔣百里順利以第一名的身份,從日本陸軍士官學校畢業,接過了代表軍官成績第一名的日本天皇佩劍,被派遣到了中國東北地區。
蔣百里到達東北以後,來到了東北總參謀趙爾巽的手下。當時,趙爾巽正在籌建新軍,蔣百里的到來讓他非常開心。
可是,蔣百里的才能大大超出了他的想像。趙爾巽覺得蔣百里在自己手下是屈才了,就屢次上書清政府,說蔣百里是「特異之才,可以大用」。
最終,清政府又把蔣百里送去了德國,繼續學習軍事戰略。蔣百里這一去德國,就是四年時間,在這段時間里蔣百里的軍事能力大成。