尤其是1916年张作霖升任奉天督军兼省长后，吴俊升便开始死心塌地追随张作霖。1917年，张作霖宣布奉天独立，将"后路巡防营"与骑兵第二旅合并为奉天陆军第29师，任命吴俊升为师长。吴俊升对张作霖感激涕零。1921年3月，张作霖再次提拔吴俊升为黑龙江省督军兼省长，成为"奉系集团"中的封疆大吏。
一年，吴俊升到张氏帅府给张作霖拜年。由于吴俊升是张作霖的把兄弟，张作霖的儿女们便齐刷刷地给吴俊升磕头。吴俊升说："过年了，给孩子们每人一千元押岁钱。"说着就要掏钱。这时，张作霖脸儿一沉，大骂吴俊升："扯他妈拉巴子这个干什么?有这精神头儿，把黑龙江的事儿整好，比什么都强。"吴俊升挨了骂，立即给张作霖磕头，说："大帅别生气，我一定照大帅说的办。"说完，乖乖地退了出去。
