1924年回国后，张申府参加了黄埔军校的筹建工作，并担任了蒋介石的德文翻译，是中共从事早期军事工作的党员之一。1924年5月，孙中山任命张申府为黄埔军校政治部副主任，是当时中共在黄埔军校最高的任职，张还负责黄埔第一期学生的口试、笔试监考和阅卷工作，可以说黄埔一期都是张申府的学生。
张申府对于周恩来可谓恩重如山，他为周恩来解决了从欧洲回国的经费，又将其推上了黄埔军校政治部主任的位子，也将他推上了政治舞台。张申府对周恩来有这样的评语："我是一个宁折不弯的人，而恩来则不同，他是弯而不折的。"
张申府后来退出了中国共产党，退党之后，张申府以教学和翻译著述为生，先后在暨南大学、大陆大学、大夏大学、中国大学、北京大学、清华大学等校任教，所教的都是罗素哲学或逻辑。
当时的哲学界，杜威实验主义哲学的主要介绍者是留美的胡适，柏格森生命哲学的主要介绍者是留德的张君劢，黑格尔哲学的主要介绍者是留美留德的贺麟，罗素新实在论哲学的主要介绍者则是留法的张申府。1931年，张申府被清华大学聘为哲学教授，讲授逻辑与西洋哲学史，与冯友兰、金岳霖、邓以蛰三位教授，并称"四大金刚"。
