王威等人都沒了主意，只好道：“要是等着奏報，哪裡趕得上時機，唐國公您的地位崇高，既是宗親又是賢士，同國家命運休慼相關，要是能平滅劉武周，偶爾專權也是可以的。”
李淵佯裝不得已而聽從的樣子，“既然這樣，我們就應當先招募更多的軍隊。”
於是李淵命令李世民與長孫順德、唐儉等人各自募兵，遠遠的百姓投奔彙集，十天之內有近萬人應募，比過去幾個月李家偷偷摸摸招募人馬時，快了不知幾倍。
至此，由李淵直接控制的兵力已達三萬。
王威、高君雅見李淵大肆招兵，又不斷安插親信，已是十分肯定李淵有不軌之圖了，他們都知道李淵若反，肯定會拿他們兩個祭旗，所以時常私下會面，商討對付李淵之策。
而這時，有消息傳來，樑師都已攻佔了雕陰、弘化、延安等郡，就即皇帝位，國號樑，改年號爲永隆，並接受了始畢可汗贈送的狼頭大纛，始畢可汗還給了樑師都大度毗伽可汗的稱號。
樑師都佔據之地，都是關中的北部地區，離長安很近，要是被他南下奪得了長安，那關中可就沒李傢什麼事了。
這時再拖下去，已是徒勞無益，於是李隱面見李淵道：“當斷不斷，反受其亂，李家欲成大事，就在此事！”
李淵聽後，在屋中來回走動了半響，最後在窗邊停下，擡頭仰望窗外的天空，沉默許久後，轉身看着李隱，毅然道：“箭在弦上，不得不發，既然如此，那我們李家就反了吧！”
……
三月二十日，王威、高君雅邀請李淵明天到晉祠祈雨，李淵答應了，王威、高君雅心中暗喜，雙目寒光閃動，他們計劃明天在晉祠埋下伏兵，等李淵去祈雨的時候，突然發動，一舉將李淵擊殺！
不過王威、高君雅不知道的是，當天夜裡，李隱與李世民便帶兵去了晉陽宮城的外面，晉祠就在晉陽宮中。
翌日，王威、高君雅隨李淵一同前往晉祠祈雨，晉陽宮城的外面的時候，忽然喊殺震天，殺出一隊人馬，將王威、高君雅團團包圍了，率領這些人馬的人，自然便是李隱和李世民了。
王威、高君雅臉色發白的看着李淵道，“唐國公，你這兩個兒子是要做什麼？”
李淵露出笑容道：“有密報稱，你二人暗中勾引突厥人，欲禍亂太原，你們這種亂臣賊子，我作爲太原留守，自然是不能坐視不管的。”
高君雅捋起衣袖大罵道：“真正的亂臣賊子是你這老匹夫！”
李淵聽後，並不生氣，向李隱與李世民點了點頭，二人見此，立即指揮軍隊衝殺上前，一舉將王威、高君雅生擒，李淵將他們暫時投進監獄之中。
隨後，李隱帶着人馬假扮突厥人，在晉陽城外耀武揚威了一番之後才揚長而去，投進監獄。
太原軍民都以爲確實是王威、高君雅把突厥人招來的，於是李淵便順理成章的將王威、高君雅二人處死，並懸首示衆。
李淵隨即傳檄河東諸郡，要諸郡奉其號令，然後開倉賑濟貧民，招募士兵的，從軍者絡繹不絕。李淵命令將招募來的人分爲三軍，分左、右軍，通稱爲義士。
裴寂等人、李隱等人聯名給李淵上尊號爲大將軍，三月二十四日，李淵自任大將軍，設置大將軍府。
李淵任命裴寂爲長史，劉文靜爲司馬，唐儉和溫大雅爲記室，溫大雅仍和他弟弟溫大有共同掌管機密，任命武士彠爲鎧曹，劉政會和武城人崔善爲、太原人張道源爲戶曹，上人姜謨爲司功參軍，太谷長殷開山爲府掾，長孫順德、王君廓、竇琮和鷹揚郎將高平人王長諧、天水人姜寶誼、陽屯爲左、右統軍，其餘的文武僚佐都按照才能授予官職。
李淵又封李建成爲隴西公、中領軍大都督，中三統軍由他統轄；封李隱爲靈武公，左領軍大都督，左三統軍由他統轄；封李世民爲敦煌公，右領軍大都督，右三統軍歸他統轄；封李元吉爲姑臧公，李智云爲平涼公，李建成、李隱、李世民三人人各設置官府僚屬，李元吉、李智雲則分別掛名了副右軍大都督、副左軍大都督，但不掌兵。
中領軍府、左領軍府和右領軍府，都歸屬於大將軍府，按理說來，李淵應該自領中領軍大都督，親自統領中領軍府纔對，但無奈多出個李隱，以他的功勞實力，不給他個領軍大都督是不行的，所以只能如此安排了，不過中領軍府實際上仍是李淵實際指揮。李建成從中協助。
李隱加官進爵後，自然不會虧待了跟從他的人，他任命李靖爲左領軍府司馬，宋正本爲左領軍府長史，張亮爲左領軍府參軍記室，周安、劉弘基、黃君漢、蘇定方將領則全都升任爲左領軍府的統軍都尉，衆人對此無不欣喜，互相慶賀。
當李淵誅殺王威、高君雅，自領大將軍的這一刻，其實已經是正式造反了，當然李淵是不會承認他這是造反的，他對外說這一切都是爲了匡扶隋室，救民於水火之中。
李淵既造反，目標肯定是入關中的，不過諸事草創，糧草器械等事仍要準備，所以不可能立即出發向關中殺去，不過這準備的時間不會太長。
李淵剛殺了王威、高君雅的時候，曾傳檄河東諸郡，希望能得到河東諸郡的效忠，不過沒過幾日，位於太原郡西南方的西河郡，卻宣佈不會服從李淵這個亂臣賊子的命令。
李淵大怒，派李建成、李隱、李世民三個兒子分別領一軍，共同進攻西河郡。
李隱得到命令後，不由的陷入了沉思。
西河郡在去年的甄翟兒亂河東的時候，太守戰死，士兵傷亡慘重，現在主事的是郡丞高德儒，兵不過四五千，將不過三兩人，要將其攻下並不難，李淵爲何要大張旗鼓的讓他們三兄弟一起攻西河郡？
李隱思考一番後，覺得不外乎有兩個原因，一是藉機揚李家的威望，二也是存了對他們三兄弟的考校之心。
想明白這其中的關節後，李隱便從容的制定了進軍西河郡的計劃。