至于在中国境内对日本战犯的审判，则要分两部分。一是1946年初，盟军中国战区参谋长兼驻华美军司令魏德迈将军奉命在上海组建的美军军事法庭，地点就设在提篮桥监狱。1946年1月24日上午，美军军事法庭正式开庭审判18名日本战犯，审判过程向全球广播。经过几次庭审，2月28日法庭对18名日本战犯作出宣判，判处镝木正隆等5人死刑，除一人无罪释放外，其余从1年半徒刑到无期徒刑不等。除了这一批外，此后又对29名日本战犯进行过多次审判。
二是国民政府也设立了军事法庭。从1946年5月起，先后在北平、沈阳、南京、上海、台北等10个城市设立了专门审判日本战犯的军事法庭。这10个城市中，审判最早的是上海和北平，都是在1946年4月。上海审判日本战犯的军事法庭设在虹口江湾路1号。而美军军事法庭则于1946年1月24日在提篮桥审判日本战犯，所以说上海提篮桥监狱是中国境内第一个审判日本战犯的地方。
美军军事法庭在提篮桥内共审判了8批47名日本战犯，5人在提篮桥执行了绞刑，当年的绞刑房完好如初，目前是上海监狱陈列馆的亮点之一。
国民政府的军事法庭在上海审判了116名日本战犯，判处死刑14人（其中1人后改判为10年），有11人是在提篮桥监狱刑场枪决的。另外由于广州军事法庭审判结束后就被撤销，还有3名日本战犯从广州移送到提篮桥执行。总之，提篮桥共执行了19名日本战犯死刑，其中处绞刑5人，枪决14人。
所以，鉴于提篮桥监狱在对日本战犯关押、审判和执行上的重要性，在1997年8月份，提篮桥监狱被市政府列为上海市抗日纪念地点。2015年春节期间，央视的法制频道播放的七集纪录片《远东第一监狱》中，其中一集的题目就是"中国的海牙"。
