1949年前，张国焘携全家前往台湾，但未能继续在军统任职，后隐居香港，1968年移居加拿大，晚年张国焘靠给美国人写回忆录为生。
关于他的死，大陆有一种流传很广的说法：这位中共创始人因无人照顾，冻死于加拿大多伦多的一家养老院，其夫人辗转求助于蒋经国，才凑足了丧葬费用。但也有人指出，在加拿大这种福利健全的国家如果发生这样的事情，这家养老院将面临巨额赔偿和法律问责，所以此事不实。
无论怎样，1979年12月，82岁的张国焘离开人世，死前叮嘱儿子，他的墓要朝向东南。
