相较而言，蓝玉的境遇着实好上许多。蓝玉的姐夫常遇春是明太祖朱元璋的老班底，常遇春也一再对蓝玉的军旅生涯有所提携。
洪武四年（1371年）以前，蓝玉便升至大都督府佥事。此时北元政权几乎覆灭，被迫北撤，而明太祖也出兵予以追击。在其统治早期，他有意扫清北元在漠北的统治，甚至在北部沿线地区建立前沿阵地，即便在洪武五年（1372年）岭北之役失利以后，他也并未放弃进击漠北的决心。
终明太祖一朝，若不计附属战役，由明朝方面主动发起的战争达19次，而北元方面组织的战争仅为6次。明太祖这种有意“永清边患”的决心，与宋高宗屈服求和的态度形成强烈的对比，而蓝玉也是在明廷的支持下顺利崛起的。
洪武五年，明太祖命徐达率十五万军队分三路北征，中路军由大将军徐达亲自统率，其时蓝玉充当先锋，但最终未能获胜。洪武七年（1374年），蓝玉于白酒泉击败元兵，两年后受命备边延安。洪武十一年（1378年）以后，蓝玉先后受命征讨西番、云南等地，建功颇丰。洪武二十一年（1388年），蓝玉率十五万明军出征，至通州之时忽闻谍报“元兵有屯庆州者”，故而在大雪的掩护下悄然潜行，最终于捕鱼儿海大破元军。其中固然有意外的因素，但也展现了蓝玉把握时机的能力。