最高人民检察署为此特别成立了有366名干部的东北工作团，设办公室、询问室。询问室下设四个大组，具体负责对日本战犯的侦查审讯工作。
其实，侦讯工作早在1954年3月即已启动。专案组在全国12个省查阅档案8000余件，提取人证2.67万件。讯问、调查、取证核实的43.14万页材料被装订成2918册案卷。
后来在日本战犯罪行调查联合办公室办公组工作的阎玉堂向《瞭望东方周刊》回忆，山西的联合调查工作组由山西省军区、公安厅、工会等部门组成。
因那时还年轻，他每天的工作是，"工作组整理出材料，我把他们发到各地，再负责督促收回来。"
固执的战犯们
战犯下围棋
1954年底，中国政府决定允许在押战犯与其日本家人通信。
另一项人道主义措施是，如战犯因患有重病不能到庭，法庭特派审判员到被告人住地进行讯问，国家公诉人和被告人的辩护律师也一同前往。
在太原的公开审判，旁听者达4000余人。
阎玉堂对日本战犯的胆怯记忆犹新，"当住冈义一等被告接受起诉书时，精神极度紧张，有的双手发抖，脸色变白；有的满头大汗，手足无措，连签字的地方都找不到。在检察人员的帮助下，他们才艰难地签上了自己的名字。"
太原特别军事法庭对8名战犯分别处以8至18年不等的有期徒刑。由于其中多人于1945年之后曾秘密为阎锡山等服务，在"战争罪"之外再加"反革命罪"。
93岁的马明记忆中，后来太原战犯管理所人员曾告诉他："他们(战犯)经过10年的思想改造，低头认罪了。"
面对证人和证物、证言，战犯永富博之在众目睽睽之下，曾"跪倒在地，叩头谢罪"。
另一名战犯菊地修一在受害幸存者控诉他活埋11位农民暴行时，连声说："请严惩我吧！"
不过也有意外--曾担任日伪山西省政府顾问辅佐官和山西保安队指挥官的战犯城野宏，曾三次策划、指挥日伪军"扫荡"晋中各县，大量掠夺粮食财物。但他只承认有一次是自己策划、指挥的。
审判员当即令曾任日伪山西保安队副司令的赵瑞出庭作证。赵瑞说："每次'扫荡'都是先由城野宏决定后才通知我。"
其实调查和审讯刚开始的时候，很多战犯态度都比较"横"，拒不开口。
在自视甚高的日本战犯眼中，这些中国年轻人不值得对话。伪"满洲国""总务厅"长官武部六藏，前三天都没有开口。
很多战犯剃了光头，准备赴死，更有人想尽办法自裁。
公开资料显示，当时的中国政府，同样想尽办法救治企图自杀的日本战犯。
在沈阳的审判是秘密的，座无虚席的旁听席上大多是司法机关人员。
审判动用了大量证人，每个战犯都配有一到两名律师，每一桩罪行，公诉人都提供了详尽证据。
审判日本战犯的现场，悲伤、愤怒，震撼人心。
来自全国各地的证人们，在法庭上往往无法控制自己的情绪，而面对证人即受害者的当场指证，很多日本战犯"长跪不起，泪流满面"。
60多岁的受害人党翠娥当场对日军团长永富博之说："1943年农历九月九日，永富博之带领驻在沁源县的日伪情报处工作队窜到俺自强村'扫荡'，用手推脚踢把12个妇女、儿童赶进一孔窑洞里，点燃柴草烧了两次，又用大石板盖住洞口，烧死8人。"
其中有党翠娥的三个儿女、两名侄女和两位邻居老人，她的丈夫被气死。党翠娥自己被哥哥救出而死里逃生。
战后曾试图恢复军国主义"荣誉"并在国民党军队中服务的永富博之随后在自述中，"对全中国的人民跪下来叩头，向中国人民谢罪。"跪倒在党翠娥面前。
他承认了党翠娥所述事实，并说"日本投降以后，我又梦想复活日本军国主义，继续留在山西，屠杀中国人民。因此，我认为我的罪行是非常严重的，我现在诚恳地向受害者的家属和伟大的中国人民谢罪。"
末代皇帝溥仪也曾以证人的身份出现。他自我介绍说，我是中国最大的汉奸，伪满洲国皇帝溥仪。
最后宣判时，大部分犯人都哭了，"没想到能活着回去"，没有人被判处死刑，最高刑期是20年--这个结果当时让人们大吃一惊。
