1930年，雅科夫考取铁路运输工程学院，毕业后分配至吉尔汽车制造厂工作;1937年，又听从父亲的意见考入炮兵学院指挥系。因已有大学学历，他获准从一年级跳到四年级，上学期间，与芭蕾舞演员尤丽娅·梅尔策喜结良缘，并育有一女加林娜(小名加利娅)。
1941年6月23日，德国入侵苏联的第二天，雅科夫就上了前线。临行前来不及见父亲一面，只通了个电话，斯大林说："去吧，好好打仗。"
