陈赓深知国防高等教育的重要性，只有把科学和教育搞上来，才能兴国强军。1957年5月16日，清华大学校长蒋南翔给聂荣臻写信，说学校筹办几个国防新专业，但缺少急需的设备器材，请求国防部有关部门给予援助。聂帅阅后，批请陈赓解决，陈赓坚决照办。后来清华大学成立自动化系，也是陈赓批由国防科委资助的。
为了统筹国防科技人才的培养，集中国家有限的人力、物力、财力，办好国防科技高等院校，陈赓提出把有关院校划归国防科委领导。他指示国防科委安东秘书长同有关工业部的业务部门和院校领导商量。其中有第一机械工业部教育局局长周一萍、北京航空学院院长武光、北京工业学院院长魏思文、西北工业大学校长寿松涛等。陈赓亲自向中共中央和国务院主管部门汇报、请教。
直到各方面的意见一致了，再由聂荣臻向周恩来、邓小平、彭真等中央领导人报告，1961年2月6日中共中央批准并发出通知将北京航空学院、北京工业学院、哈尔滨工业大学，西北工业大学、南京航空学院、成都电讯工程学院、上海交通大学等7所国防科技工业高等院校划归国防科委统一领导与管理，为国防科技工业培养人才。这些院校划归国防科委领导前，为取得中央有关部门的领导和支持，加强院校建设，提高教学质量，陈赓支持并去中央书记处请求批准把这些院校列入了国家重点院校，在经费和物资方面增加投入，使院校教学、科研工作，得到更快更好的发展。
陈赓为国防科研战线大力培养人才之事，聂荣臻直到晚年写回忆录时仍念念不忘说："陈赓同志是我们党内热心科学事业的老同志。"并称赞陈赓以高度负责的精神，源源不断地为国防科技事业培养了大批研究设计人才。
《中苏国防新技术协定》实行后开头的一年多时间里，协定执行得比较顺利。从1957年底开始，苏联相继运来了几种导弹样品以及有关的图纸资料和工程设备，派来了几批技术专家。这些专家大多态度比较好。对中国科技人员熟悉情况、掌握技术，是有帮助的。在原子能、导弹、火箭和作战飞机、试验基地建设等方面，使中国的前进步伐得以加快。
但是，陈赓心里非常清楚，从根本上说，不能奢望苏联会把最先进的东西提供给中国。在国防新技术产品上，若认为苏联会对我们毫无保留地支持，那是太天真了。所以，他对哈军工领导干部说："国防新技术协定是签了，但我们工作总的指导思想还是自力更生为主，争取外援为辅。你们不要完全依赖那个'大公无私的援助'，苏联给我们的东西，都是我们花钱买的。他们有许多资料不给我们，先进的实验室不叫我们看，有些东西不是现在的装备，都是他们用过的，不是最先进的。当然专家来了，我们还要好好关照。多知道和了解一些情况，总比我们自己从头摸索研究好嘛。'自力更生'不是说不吸收别人好的东西，美国等西方国家的资料和技术我们也照样用。"
1958年5月27日至7月22日，中央军委在北京召开扩大会议，研究加强军队建设问题。毛泽东在会上提出了研制、试验核武器的任务。他说："原子弹就是这么大的东西，没有那东西，人家就说你不算数，那么好吧，我们就搞一点吧，搞一点原子弹、氢弹，我看有10年功夫完全可能。"
1958年9月，苏联援建的7000千瓦实验性重水反应堆和1、2米直径的回旋加速器在北京建成，聂荣臻参与验收，随后发表了热情洋溢的讲话。此时，二机部已成立了核武器研究所，中国科学院的物理研究所已更名为原子能研究所，接受二机部和中国科学院双重领导，以二机部为主。中国的核武器研制加快了步伐。
1958年秋，陈赓邀请核物理学家钱三强来到三座门的军委会议室探讨研制核武器的问题。
陈赓问道："搞导弹的事落实了，我们现在究竟能不能研制原子弹？时间能不能再提早一点？我想听听你这位专家的意见。"
钱三强说："我们的科技力量还是有的，关键是核反应堆的问题还卡着脖子。"
陈赓问："咱们不是有了核反应堆吗？"
钱三强答："那个研究型的核反应堆不能搞，要搞浓缩铀的。"
