宋太祖即位後不出半年，就有兩個節度使起兵反對宋朝。宋太祖親自出徵，費了很大勁兒，才把他們平定了，
爲了這件事，宋太禮祖心裡總不大踏實，有一次，他單獨找趙普談話，問他說；“自從唐朝末年以來，換了五個朝代，沒完沒了地打仗，不知道死了多少老百姓。這到底是什麼道理?”
趙普說：“道理很簡單。國家混亂，毛病就出在藩鎮權力太大。如果把兵權集中到朝廷，天下自然太平無事了。”
宋太祖連連點頭，讚賞趙普說得好。
後來，趙普又對宋太祖說：“禁軍大將石守信，王審琦兩人，兵權太大，還是把他們調離禁軍爲好。”
宋太祖說：“你放心，這兩人是我的老朋友，不會反對我。”
趙普說：“我並不擔心他們叛變。但是據我看，這兩個人沒有統帥的才能，管不住下面的將士。有朝一日，下面的人鬧起事來，只怕他們也身不由主呀!”
宋太祖敲敲自己的額角說：“虧得你提醒一下。”
過了幾天，宋太祖在宮裡舉行宴會：請石守信、王審琦等幾位老將喝酒。
酒過幾巡，宋太祖命令在旁侍候的太監退出。他拿起一杯酒，先請大家乾了杯，說：“我要不是有你們幫助，也不會有觀在這個地位。但是你們哪兒知道，做皇帝也有很大難處，還不如做個節度使自在。不瞞各位說，這一年來，我就沒有一夜睡過安穩覺。”
石守信等人聽了十分驚奇，連忙問這是什麼緣故。
宋太祖說：“這還不明白?皇帝這個位子，哪個不眼紅呀?”
石守信等聽出話音來了。大家着了慌，跪在地上說：“陛下爲什麼說這樣的話?現在天下已經安定了，誰還敢對陛下三心二意?”
宋太祖搖搖頭說：“對你們幾位我還信不過?只怕你們的部下將士當中，有人貪圖富貴，把黃袍披在你們身上，你們想不幹，能行嗎?”
石守信等聽到這裡，感到大禍臨頭，連連磕頭，含着眼淚說：“我們都是粗人，沒想到這一點，請陛下指引一條出路。”
宋太祖說：“我替你們着想，你們不如把兵權交出來，到地方上去做個閒官，買點田產房屋，給子孫留點家業，快快活活度個晚年，我和你們結爲親家，彼此毫無猜疑，不是更好嗎?”
石守信等齊聲說：“陛下給我們想得太周到啦!”
酒席一散，大家各自回家。第二天上朝，每人都遞上一份奏章，說自己年老多病，請求辭職。宋太祖馬上照準，收回他們的兵權，賞給他們一大筆財物，打發他們到各地去做節度使了。歷史上把這件事稱爲“杯酒釋兵權”(“釋”就是“解除”)
過了一段時期，又有一些節度使到京城來朝見。宋太祖在御花園舉行宴會。太祖說：“你們都是國家老臣，現在藩鎮的事務那麼繁忙，還要你們幹這種苦差，我真過意不去!”
有個乖巧的節度使馬上接口說：“我本來沒什麼功勞，留在這個位子上也不合適，希望陛下讓我先回鄉．”
也有個節度使不知趣，嘮嘮叨叨地把自己的經歷誇說了一番，說自己立過多少多少功勞，宋太祖聽了，直皺眉頭，說：“這都是陳年老賬了，盡提它幹什麼?”
第二天，宋太祖把這些節度使的兵權全部解除了。
宋太祖收回地方將領的兵權以後，建立了新的軍事制度，從地方軍隊挑選出精兵，編成禁軍，由皇帝直接控制；各地行政長官也由朝廷委派。通過這些措施，新建立的北宋王朝開始穩定下來。