李靖在青少年時曾銳意進取,然而一旦富貴在身,又深懼盈滿,能知足而退。到了貞觀八年(634年)十月,擔任宰相職務剛滿四年的李靖即以足疾辭任,而且言辭懇切。李世民明白他的心意,並十分欣賞他的這一舉動,派中書侍郎岑文本轉告他說:“朕縱觀從古至今的歷史,身處富貴而能知足的人很少。他們不論愚智,都不能有自知之明,才能即使不能勝任,也竭力想要任職,縱然有疾病,還自己勉強爲官,不肯放棄職權。您能夠識大體,見識深遠夠得上是可嘉的了,朕現在不僅成全您的美德,還想讓您成爲一代楷模。”特頒下詔書,加授特進,賜物千段,尚乘馬兩匹。如足疾稍好一些,每二三天可到中書、門下平章政事。貞觀九年(635年)正月,李世民又賜給李靖靈壽木手杖,用這幫助他腳不方便時使用。可此事還未過兩個月,就發生了吐谷渾進犯涼州的事件,朝廷決定興兵反擊。在任命統帥時,李世民自然想到了足智多謀、威名震撼邊庭的李靖,認爲他是最爲合適的人選,可惜足疾未愈。而這位年逾花甲的老將軍一聽到朝廷將遠征吐谷渾的消息,頓時精神抖擻,他顧不上足疾與年事已高,主動去求見宰相房玄齡,請求掛帥,親自遠征。李世民大喜過望,這年十二月,即任命李靖爲西海道行軍大總管,又分別任命兵部尚書侯君集、刑部尚書李道宗、涼州都督李大亮、右衛將軍李道彥、利州刺史高甑生等五人爲各道行軍總管,統由李靖指揮。於是一場大規模的反擊吐谷渾的戰爭序幕拉開了。李靖奉命赴任之時,正值寒冬臘月季節。他一路踏着冰雪,風餐露宿,備嘗艱辛。翌年閏四月,唐軍在庫山(在今青海天峻)與吐谷渾交戰,李道宗部大敗吐谷渾,唐軍首戰告捷。狡詐的吐谷渾伏允可汗一面往西敗退,一面令人把野草燒光,以斷絕唐軍馬草。乾草已被燒光,春草尚未萌生,諸將大都認爲戰馬瘦弱,不可長途追擊。侯君集認爲吐谷渾已“鼠逃鳥散,斥候亦絕,君臣攜離,父子相失,取之易如拾芥,此而不乘,後必悔之”。李靖完全贊同他的意見,決定不給敵人喘息的機會,於是兵分兩路:李靖與薛萬均、李大亮等從北道,侯君集、李道宗從南道,兩路大軍一齊進發。李靖親自率領的北路軍進展順利。不幾天,其部將薛孤兒於曼頭山擊敗吐谷渾軍,殺其名王,用繳獲的大批牛羊充作軍食。接着李靖的主力軍也先後於牛心堆、赤水源兩次大敗吐谷渾軍。侯君集、李道宗所率南路軍進展也很迅速,他們深入荒漠二千餘里。這裡荒無人煙,溫差變化大,有時酷熱難忍,有時寒冷得令人顫慄。有時無水,他們只能刺馬飲血解渴。唐軍克服了種種困難,長途奔襲,到了五月,終於在烏海追上了伏允可汗,又大敗其軍,俘獲了其名王。薛萬均等於赤海也打敗了吐谷渾的天柱王軍。李靖都督各軍繼續進擊,又連戰告捷。李大亮軍於蜀渾山擊敗吐谷渾軍,獲其名王二十人。部將執失思力也在居茹川擊敗吐谷渾軍。唐軍乘勝進軍,經過積石山河源,一直打到吐谷渾西陲且末。部將契苾何力追擊伏允可汗,破其牙帳,殺數千人,繳獲牛羊二十多萬頭(只),並俘虜了其妻子。伏允可汗率一千多騎兵逃到磧中,已到了山窮水盡的地步,部下紛紛離散。不久,伏允可汗爲部下所殺。其長子大寧王慕容順殺死天柱王,率衆降唐。李靖率軍經過了兩個月的浴血奮戰,攻滅了吐谷渾,並向京師告捷。唐朝爲了控制吐谷渾舊境,封慕容順爲西平郡王、趉故呂烏甘豆可汗,並留下李大亮協助防守。
李靖在進擊吐谷渾時,鹽澤道總管高甑生未按期到達,貽誤了軍機,受到李靖的責備。高甑生心懷不滿,戰事結束後,即串通廣州都督府長史唐奉義誣告李靖謀反。李世民下令調查此事,弄清真象,判定高甑生以誣罔罪減死,流放邊疆。從此,李靖“乃闔門自守,杜絕賓客,雖親戚不得妄進”。貞觀十一年(637年),李世民改封李靖爲衛國公,授濮州刺史,依舊命他世襲爵位,後因子孫喪命而未執行此令。貞觀十四年(640年),李靖的妻子去世,李世民詔令墳塋規格依照漢代衛青、霍去病的舊例,把墳墓修築成突厥境內的鐵山、吐谷渾境內的積石山的形狀,以此表彰李靖特殊的戰績。貞觀十八年(644年),李世民親自到李靖的府第問候病情,還賜絹五百匹,晉位開府儀同三司。李世民準備親征高句麗,把李靖召入閣內,賜坐後問道:“公在南邊平定吳會,北邊掃清沙漠突厥,西邊安定吐谷渾慕容,只有東邊的高麗沒有徵服,您意下如何?”這位年過七旬的老將雖染病在身,仍表示願意從行,對李世民說:“我過去憑藉天子的威力,做了點微小的貢獻,現在已是殘年朽骨,應該隨從這次出征。只是怕死在途中,連累陛下。”李世民以司馬懿老病自強、爲曹魏立功做比喻,以安撫李靖。李靖叩頭道:“老臣請求帶病隨行。”但隨行至相州,李靖便因病重而無法再行進。李靖雖未從徵高句麗,但對前線的戰事頗爲關注。李世民進至駐蹕山(今遼寧遼陽南)時,高句麗兵傾國出動,內部空虛,李道宗曾請求率精兵五千,奇襲平壤,李世民未答應。事後回京,李世民詢問李靖說:“我用天下的軍隊,如今卻被小國所困,這是爲什麼呢?”素以出奇制勝的李靖以爲李世民未能聽從李道宗的計謀,便說:“請李道宗解答。”李世民詢問李道宗,李道宗說明了當時的建議未被採納。李世民聽後,悵然說:“時間太快了,朕竟不記得來了。”
貞觀二十三年(649年),李靖病情惡化,當時也已病重的李世民親臨病榻慰問。他見李靖病危,涕淚俱下,十分難過地對李靖說:“公乃朕生平故人,對國家有功勞。如今病到這種地步,爲公感到擔憂。”同年四月二十三日(7月2日),李靖溘然逝去,享年七十九歲。李世民冊贈司徒、幷州都督,給班劍、羽葆、鼓吹,陪葬昭陵,賜諡號爲“景武”。