衆人商討到了半夜，都滿興而歸，期待着起兵之日的到來。
次日，有一則消息迅速傳來太原，馬邑郡的劉武周殺掉太守王仁恭，已經聚衆起兵了。
馬邑郡在雁門關外，是中原與草原接壤的一個郡，當年大隋分割了東西突厥，把東面的突厥留在雁門以北的草原地，馬邑郡當初只是爲了跟突厥聯繫，加強溝通和經濟往來，也是屯兵爲了保護東部突厥，抗衡西突厥。
二十年過後，馬邑郡形成一定規模，裡面漢人、胡人雜居，人口達十多萬人。
劉武周祖籍河間景城，兒時隨父舉家遷至馬邑，少年習武，得過民間拳師指點，拳腳功夫不俗，加上性格果敢，愛打抱不平，在當地綠林中，頗有名氣，年輕時候入伍，驍勇善戰，被提拔了建節校尉，參與過三徵遼東戰，還有雁門之圍。
憑藉一些戰功，他回到馬邑後，已經是鷹揚府副郎將了，太守王仁恭很欣賞這位武將，因此幾次在府內宴請他，希望拉攏成得力干將，誰知劉武周去過幾次太守府邸後，竟與王仁恭小妾私通，時間一久，被王仁恭察覺，只等打算捉姦在牀，認證俱全，然後收拾二人。
劉武周先下手爲強，利用王仁恭不開倉放糧的藉口，煽動羣衆鬧事，親自帶人出其不意，斬殺了王仁恭，然後開倉救濟百姓，拉攏民心，聚衆起兵。
如此一來，馬邑郡就成爲反隋武裝之一了。
不過劉武周自知馬邑在雁門關外，沒有天險可守，北面是突厥，南面是隋軍，腹背受敵，兵家大忌，因此，劉武周起兵之後，立即派人去突厥，覲見始畢可汗，打算送給突厥大量的金銀珠寶和美女，換取突厥的支持。
馬邑郡內有隋煬帝在北疆建立的行宮，裡面金銀珠寶無數，美女如雲，劉武周派人運走，一半送往突厥給始畢可汗，一半留下做軍餉。
始畢可汗憑白無故得到大量的珠寶和美人，自然極是高興，而且還能挑撥中原人內戰，削弱大隋的力量，何樂不爲？於是，派人送給劉武週一千匹戰馬，另外派使者立劉武周爲“定楊可汗”，意思是能夠平定楊室的寓意。
劉武周得到始畢可汗的許諾後，擇日稱帝，建元爲“天興”，他的一些綠林朋友，袍澤戰友都跟着水漲船高，封爲將軍，以楊伏念爲左僕射，妹婿範君璋爲內史令，宋金剛爲大將軍，還有呂崇茂、尋相、張萬歲等人，都有封賜，一個小政權就這樣誕生了。
這個消息刺激了西北的豪雄們，金城府郎將薛舉，也趁機殺縣令郝瑗，聚衆起兵，自稱西秦霸王，年號秦興，封薛仁杲爲齊公，小兒子薛仁越爲晉公，金城西北賊寇宗羅睺率其衆歸附，封爲義興公。
西秦也在招兵買馬，招附羣盜，劫掠官馬，人數由最初的兩萬，擴增到五六萬人，兵鋒甚銳，所至之處城池皆被攻下。
………
西北武威郡。
鷹揚府司馬李軌到薛舉起兵之後，心中也有了想法，暗中召集同郡人曹珍、關謹、樑碩、李贇、安修仁等人商議。
李軌分析道：“薛舉殘暴兇悍，起兵後必來侵擾，我郡吏軟弱膽怯，不足以議大事。今應同心盡力，佔據河右，以觀天下變化，豈能束手讓妻子兒女爲人所掠？”
衆人同意這個計劃，議定一同舉兵，然而無人敢任首領。
曹珍道：“我聞知讖書說，李氏當稱王於天下；如今李軌有賢能，又應讖語，豈非天意嗎！”
“對，聽從李大哥安排！”諸人附和。
當夜李軌爲首領，安排了起義的諸多細節，使安修仁在夜間率領胡人進入內苑城中，樹旗大呼，李軌集聚衆人加以響應，收捕虎賁郎將謝統師、郡丞韋士政，於是自稱河西大涼王，署置官屬，聚兵準備抗衡隋軍的鎮壓，以及薛舉軍奔襲。
………
朔方郡。
樑師都爲朔方豪族，任鷹揚府郎將，手中有兵權，得知金城薛舉、武威李軌相繼起兵後，他也不甘心這樣繼續爲隋將，於是，拉攏地方豪族子弟，還有綠林匪盜，加上手中府兵，殺害朔方郡丞唐世宗，佔據朔方郡造反，自稱大丞相，並派人出使突厥，效仿劉武周，孝敬始畢可汗，得到突厥支持和連兵，反抗隋朝廷。
賬下也有不少俊傑，如謀士陸季，武將如張舉、辛獠兒、李正寶、馮端、劉旻等，兵馬從三萬，擴充到七八萬人。
………
西北各地起兵的消息，迅速傳開。
榆林郡是河套平原的重要之地，郭子和曾任隋朝左翊衛，因罪流放榆林，眼下郡中饑荒，郭子和聯合一些生死之交，湊成了敢死隊，衝入郡丞府，捉住郡丞王才，列舉他不撫卹百姓的罪行，將之斬殺，然後開倉賑濟貧民，拉起一支兵馬。
郭子和自稱永樂王，建立年號爲醜平，封他的父親爲太公，封其弟郭子政爲尚書令，郭子端、郭子升爲左右僕射，擁有兩萬，南面聯合樑師都，北面侍奉突厥，造反抗隋。
如此一來，整個西北，黃河中上游流域，都宣佈反隋，帶動了周圍的盜匪、義軍紛紛響應，亂成一團，大隋的西北疆域，已經割裂了。
消息傳開，天下皆驚。