接下来，希特勒想安抚一下罗姆。他任命他为内阁成员，并在1934年元旦那天给他去了一封热情洋溢的信，感谢他为"冲锋队"的发展"做出了不可磨灭的贡献"。然而，与此同时，希特勒又玩起了两面派手法。他把新组建的普鲁士秘密警察组织"盖世太保"队长鲁道夫•迪尔斯叫来，要他收集有关"冲锋队"恐怖主义活动及"罗姆先生是否忠诚"方面的情报。私下里，元首还讨论削减"冲锋队"膨胀的人数。
这事做得好，因为在2月初，即在希特勒担任总理第一个周年纪念日后几天，"冲锋队"队长罗姆开始炫耀他的军事野心，这比他的第二次革命要求更让元首忧虑。罗姆向内阁提议，"冲锋队"应该成为扩充后的国防军的基础，以组建一支"人民的军队"，由某一位内阁部长来控制--言下之意就是由他自己来控制。这正是罗姆的一贯想法："灰色的礁石一定要让褐色的潮汐淹没。"希特勒对这一想法早就嗤之以鼻，但在国防军的军官中掀起震惊的波浪，他们既愤怒又害怕。
希特勒不能让军队有麻烦。他需要将军们的能力来重新装备德军，他要依靠他们的忠诚来维持自己的权力。可能除了他自己的"冲锋队"而外，只有军队才有实力推他下台。他恬不知耻地讨好将军们，绝不干涉军中的提升及其他内部事务，他甚至秘密同意把国防军的人数增加3倍(《凡尔赛条约》限定的人数是10万)。
在将军们要求控制住罗姆的压力下，希特勒于2月28日早晨召开了一次高层会议。他对到会的国防军指挥官们和"冲锋队"领导们训话，并对各自的角色作了明确的规定。国防军将代表德国作战；"冲锋队"将帮助保卫国家疆界，并在体育运动的掩饰下对未来的战士进行初级军事训练，而在其他情况下，只能从事内部政治事务。
罗姆暂时好像接受了这一挫折。在会议结束时，他和国防部长魏尔纳•冯•布伦堡签署了一项体现希特勒讲话精神的协定。然后，罗姆邀请每一位在场的人共赴他所称的"和解早餐"。直到希特勒和将军们离开，罗姆才大发一通脾气泄愤。他说他根本就不想签署那份协定，他称希特勒是一个"无知的下士"，并说他"不忠心，迫切需要去度假了"。当时，罗姆的一位手下维克托•卢茨听了十分震惊，这过激的言论简直就是叛逆，他马上如实报告了希特勒。
然而，元首不愿意立刻行动，他要等到形势紧张的时候。罗姆的行为变得日益大胆，他给"冲锋队"增加了武器，加速军事训练，举行盛大游行，甚至建立了他自己的对外办公室，在那里，他举行记者招待会，设宴款待外交人员。相形之下，国防军在此期间加强了与希特勒的关系。布伦堡把纳粹思想灌输到军队的训练中去，他在4月20日希特勒45岁生日时发表了一篇文章，连篇累牍地对总理大加颂扬。这位国防部长还竭力讨好那位前下士，他把希特勒的旧军服收藏在慕尼黑的兵营里，以作为纪念。
在春天快要过去时，紧张的形势达到了高峰。副总理巴本--这位在内阁里一直唯唯诺诺的人，于6月17日在马堡大学发表了一次讲话，猛烈抨击了纳粹的激进主义，并要求希特勒与那些主张二次革命的人脱离关系。副总理的言论体现了全国很多人的焦虑，引起了一阵骚动。戈培尔禁止出版他的讲话。
希特勒暴跳如雷，当着他的手下人大骂那个"蛆虫"和"可笑的矮瓜蛋"巴本。他一直担心巴本的讲话可能预示着保守派联合势力的起死回生，那将把总统和将军们也包括进去了。在那次讲话4天后，希特勒飞往兴登堡在东普鲁士的住地。总统患有前列腺癌，已病入膏肓了。当这位纳粹领袖赶到时，他从布伦堡那儿获悉(之后又从兴登堡本人那儿获悉)，总统准备宣布实行军事管制法，如果政府控制不住罗姆，可以让军队负责。想到有可能失去军队的联合，希特勒只好动手。既然兴登堡好像现在已近死期，而希特勒比以往任何时候都更需要军队，因此他打算等那位老人一去，他就要大胆地宣布废除总统制，由他自己承担总统的各项职能。
如果希特勒想再看看情况才对罗姆下手的话，那么这会儿有两个人前来提供情况了。他们是罗姆在纳粹党内的两大主要对手，海因里希•希姆莱和赫尔曼•戈林，前者是"黑衫党"头目，后者是"盖世太保"副队长。他俩都急不可耐地想干掉罗姆，因此编造了一些报告，说他马上要举行暴动。希特勒可以相信、也可以不相信他俩的假话；反正，罗姆没有遮掩的谈话和咄咄逼人的行为已足以证明他不能再被信任。希特勒利用这些谣传为借口要清算账目了。他命令戈林和希姆莱发动了"血洗事件"，或称"长刀之夜事件"。
6月30日，星期五，凌晨时分，大清洗开始。希特勒本人飞往巴伐利亚，在武装警察的陪伴下，在巴特维塞的一家旅馆里逮捕了罗姆及其高级属僚。那天早晨，在德国各地，"盖世太保"和"黑衫党"的执行小分队开始执行任务。多数人拿着枪，也有一些人拿着刀和其他武器，对"冲锋队"大开杀戒。在几百名死难者中，包括各色人物，如曾于1923年镇压过"啤酒馆暴动"的古斯塔夫•冯•卡尔，巴本6月17日讲话稿的作者埃德加•荣格，希特勒多年的纳粹党同事格雷戈尔•斯特拉塞，还有前总理库尔特•冯•施莱舍尔将军。
到7月1日星期天下午，大屠杀实际上已经结束，希特勒在总统府花园里举行了一次聚会。纳粹党领袖们和内阁成员们都到场，其中一些还带来了妻子、孩子。根据记载，希特勒很友好地与大家寒暄。他一边喝着茶，一边与大人们轻松诙谐地交谈，并以叔伯般的慈祥与孩子们打招呼。中途，他说他有事要离开聚会，一去就是很长时间。他是去发布执行枪决的命令。被枪决的人是他那位已成为报复者的朋友厄内斯特•罗姆，当时被监禁在慕尼黑的一座监狱里。
这是希特勒争夺权力的一种手段，从此，在德国能够听到的重要声音不再是让人吃惊的抗议，而是一片赞扬。在7月1日同一天，国防部长布伦堡公开感谢希特勒以军队的名义进行大清洗。第二天，戈林命令警察把所有有关大清洗的资料烧毁，而兴登堡发来电文，感激希特勒"把一切叛逆的阴谋扼杀在襁褓之中"。7月3日，内阁赞同希特勒的做法是合法的，是"国家自卫的行动"。
希特勒本人一直等到7月13日才出现在国会代表们面前，对他所采取的行动进行解释。他对涉及罗姆的那个假定阴谋的细节作了一些透露，他向军队保证，军队将是"唯一的武器携带者"，并道出了如此惊人的辩白："如果有人指责我，问我为什么不求助于正规的法庭来处置那些罪犯，那么我所能说的只有这一点：在这个时刻，我要对德国人民的命运负责，因此，我成了德国人民的最高法官。"
身为最高法官和执行长官，希特勒现在可以继续夺取绝对权力了。在不到3个星期之后的8月2日，兴登堡总统在只差两个月就满87岁的时候逝世。机会就在这时候不请自来了。那位老军人临终前不愿躺在任何舒适的东西上，而只愿躺在一张斯巴达式的铁床上，他手里拿着《圣经》，嘴里吐出这几个词："我的皇上，我的祖国！"
希特勒已做好准备。他在头一天曾经坐飞机去总统的床边看了一下，然后匆匆赶回柏林，当晚召开了一次内阁会议。在兴登堡去世前几个小时，内阁已通过一项法律，允许总统办公室和总理办公室合并，两个办公室的权力都归希特勒。巴本副总理当时不在会场，但元首强制性地在这条新法律后面附上了副总理的签名。这公然违背了"权力授予法案"关于禁止采用不正当手段干预总统办公室的规定。
不满足于依靠内阁对该项法律的一致同意，也不满足于每一位德国士兵和海员重新宣誓无条件地服从，希特勒还要求在8月19日举行一次全民公决。这一次，投票仍然是强制性的。每一位参加投票的人都发了一个很大的别针，必须别在衣服的翻领上，这样，纳粹党的强制人员可以发现谁没有参加投票。没有戴别针的公民被强行带到投票站。根据纳粹控制的清点结果，每10个德国人中有将近9个正式投票支持希特勒担任全权的元首和帝国总理。在将近4400万选民中，敢对阿道夫•希特勒说不的人还不到500万。德意志帝国现在由他来领导了。
