这些机器由纽约运到上海，江南制造局便由此而来。1867年，曾国藩视察江南制造局，容闳借此机会，又成功说服他在制造局内附设一学校，以培养中国青年学习机器工程的理论和操作。紧接着在容闳建议下，曾国藩又在兵工厂内设一所兵工学校。在曾国藩带动之下，中国的洋务运动蓬勃开展起来。
虽然洋务运动迈出了自发地以西方文明改造中国的第一步，但它还只是停留在器物的层面，这与容闳意欲以西学影响中国人的内心、进而改造中国的理想，依然相距甚远。容闳的教育计划在心中已经蕴藏了十五年之久，尽管近来的事实，已令他深受鼓舞，但他依然在等待着下一个机会。
首批赴美留学生
幼童出洋
对于容闳的工作，曾国藩大加赞扬，不久即保奏容闳为五品实官，封为江苏省候补同知，在江苏省衙署任通事译员。期间，容闳结识了丁日昌，丁也是一位洋务派官员，"对于一切革新措施，都跃跃欲试"，容闳曾多次与他谈及自己的教育计划。丁日昌说，他与总理衙门大臣文祥时常有书信来往，假如容闳可以将计划写成条陈，丁日昌可帮忙寄到北京，请文祥奏请采用。
容闳喜出望外，立即离开苏州回到上海，并在一位朋友的帮助下，提出了四条建议：
一、组织轮船股份公司。
二、建议选派青年学生往外国留学。
三、开发矿产资源，提倡铁路事业。
四、严禁教会干涉人民词讼，以防外国干涉中国主权。
这四条建议中，容闳真正注意的是第二条，也是唯一希望得到采纳的一项。丁日昌认可这份建议书后，即附在给文祥的信中寄往北京。然而，此时文祥因母亲去世正在丁忧，不得参与政事。不久，更坏的消息传来，在居丧的第三个月，文祥也去世了。容闳的教育理想又一次陷入挫折。
从1868年到1870年，容闳心情不安地等待了至少三年，机会终于又一次出现了。1870年夏天，"天津教案"发生，朝廷命曾国藩、丁日昌等处理善后事宜。丁日昌拍来电报，命容闳到天津担任翻译。容闳认为这是与曾密切接触的良机，于是急忙赴津。
乘钦差大臣都在天津的机会，容闳又向丁日昌提出自己的教育计划，并敦促他向曾国藩进言。丁对此事极为热心，多次与曾国藩晤谈，终于获得曾的首肯。得知此喜讯时，容闳竟一夜不能入睡，"像一只猫头鹰似的睁着两眼躺在床上。"
两天以后，曾国藩联合其他大臣联名上奏，1870年冬得到清廷批准。1871年8月、1872年2月，曾国藩、李鸿章又联名上奏，进一步明确了幼童留学的规章和具体方法，由陈兰彬任出洋局委员、容闳为副委员，并催促朝廷将计划尽快实行。
按照规划，朝廷决定挑选120名十二岁左右的学生，分4年派赴美国，每年30名。经过百般努力，首批30名官派赴美留学生终于招生完毕，并于1872年8月中旬从上海起航送往美国。容闳深埋在内心里近二十年的教育理想，终于走出了付诸实践的第一步。
然而，这一计划自开始实践的第一天起，便是举步维艰。首先招生之初，纵使官费留学，也竟然无人愿去。当时的人们仍然认为只有读"四书五经"，由科举入仕才是"正途"，国内新式学校只能招收没有身份地位的穷人家子弟，出洋留学更被认为是有辱门楣之举。
出国之后，那些年幼的孩子很快融入了美国社会，行为举止也自然开始变化。他们参加各种社团活动、体育运动；因为经常运动，开始讨厌中国的长袍马褂；有的幼童则剪掉了辫子；美国社会的交往礼仪耳濡目染着学生们的内心，令他们对陈腐的仪式日益反感；而这些令清朝官员们都大为震怒。
对于学生们的变化，容闳以为正常，但其他的官员却认为大逆不道，双方矛盾日深。他们开始向朝廷汇报容闳的"劣迹"，攻击容闳对学生失职纵容，"任其放荡滛佚"。他们认为，这些学生不遵孔孟之道，不愿行尊师跪礼，"若令其久居美国，必致失其爱国之心，他日纵能学成回国，非特无益于国家，亦且有害于社会。"于是，他们奏请"速解散留学事务所，撤回留学生"。
此时，在国内，曾国藩已于早几年去世，恭亲王奕訢态度也发生改变，顽固派便借机反对留学，一时间，朝野对留学事业的攻击、指责甚嚣尘上，沸沸扬扬。在美国，容闳虽四处奔走、积极呼吁，但也终究无法改变国内朝廷的态度了。
1881年6月，总理衙门大臣奕訢上《奏请撤回留美肄业学生折》，两个月后，留美学生开始分三批撤回，将近十年的留学计划被迫终结。这也意味着，容闳"藉西方文明之学术以改良东方之文化"的理想，草草收尾。在中国近代化的过程中，幼童留美在当日壁垒森严的"夷夏之大防"中毕竟还打开了一个缺口，"西学东渐"的道路还任重而道远。
1881年底，由于留美学生的被撤回，容闳的副公使职务任期已满，他回到北京述职。在北京期间，他写了一份关于鸦片问题的材料给政府，但也一直都没人去执行。1882年，深受留学问题打击的容闳由上海回到美国，此后十三年，他再没回过中国。
