蒋介石的"先见之明"包含个人想法，但他的判断还是较为明智的。因为他的建议不被任何人重视，所以蒋不得不再次"辞职回乡"。蒋介石回到上海后，一面忙于安顿新家，一面仍经由孙中山的秘书林直勉保持对广州情况的了解。
林来信告诉蒋：自离去之后，谣言繁兴，已至惊人地步。孙中山乃尽其努力，设法消解，而其上上策厥为直探困扰的根源，因为他可以洞察，如果根源未泯，将可能造成极大损害。他就请陈炯明前来作一次剖心以对的会谈，以求端正舛误。在其后十天中，又送去了
三封类似的邀函，但均无答复。
1922年1月中旬，蒋介石与戴季陶陪同徐树铮至桂林北伐军大本营，蒋仍任第二军参谋长。在与许崇智、李烈钧、胡汉民商讨北伐作战计划时，主张以进攻湖北为目的，其他人主张以江西为目的，最后决定湖北为第一目的，江西为第二目的。
当时接受孙中山北伐大本营统辖的军队有：粤军第二军许崇智部、福军李福林部、滇军朱培德部、赣军彭程万部、黔军谷正伦部，共有13个旅3万人。陈炯明所统率的粤军第一军，邓铿从第一师抽调三个营组成大本营警卫团外，皆不准再派兵参加北伐。
陈炯明身任广州中华民国政府的内务、陆军总长，又任粤军总司令兼广东省省长，控制着军、政、财等大权。他暗中与吴佩孚等北洋军阀相勾结，蓄意阻挠和破坏北伐。他一边串通湖南的赵恒惕阻挡北伐军入湘作战，一面断绝北伐军饷械供给。5月21日，陈的部属还收买歹徒刺杀了支持北伐的粤军参谋长兼第一师师长邓铿。至此，北伐军处在被前后夹击、左右为难的危险境地。
蒋介石见此情形，知道此次北伐已是凶多吉少，危在旦夕，遂写信请廖仲恺发电调其回粤，在后方办兵站，廖仲恺复信答曰："要弟电兄归粤，此则虽以刀锯加颈亦不肯为。弟自得兄西行已不啻如灭之福，岂得于此破坏大局之举，以重罪戾。"看似指责，实有褒奖鼓励之意。
3月26日，因情况突变，孙中山在桂林主持召开紧急军事会议，蒋介石主张先回粤，后北伐，遂决议潜师回粤，但此时直奉战争爆发，为顾全大局，经多数人赞成改道北伐。
