由于在佐尔格的住处附近经常出现发报机信号，日本警察组织特高课的特工们对这一片监视了很久。他们逐渐对佐尔格怀疑起来，但由于佐尔格是"友邦"德 国公民，贸然动手可能会引起两国外交纠纷，于是决定首先从佐尔格的女友花子身上打开缺口。一天晚上，花子与佐尔格幽会后回家时，被特高课"请"进了警察 局。她如实把与佐尔格认识的经过，佐尔格为她买钢琴、租房子的事情讲了出来。除了经济原因值得怀疑以外，别的没有什么构成间谍的罪证。搜查花子的房间警察 们也几乎一无所获，但是他们发现了花子从佐尔格住处拿来的那只打火机。请反间谍专家拆开一看，这原来是一架微型照相机。特高课确信佐尔格是一名间谍无疑， 于是马上逮捕了他，又根据他平时和别人来往的情况，将整个"拉姆扎"小组一网打尽了。
1944年9月，佐尔格被日本法庭判处死刑。在知道获救无望后，佐尔格向日本当局提出的唯一要求是：希望在11月7日十月革命纪念日这一天对他执行死刑。
1944年11月7日，东京监狱对佐尔格执行了绞刑。在敌人的绞架下，佐尔格面不改色地高呼"苏联万岁！红军万岁！共产主义万岁！"而英勇就义。
