李成黨羽馬進在筠州。豫章介于江、筠州之間,張俊接到命令就率部出發,急赴豫章,并且說:“我已經得到洪州,擊破賊寇是必然的。”乃收縮兵力進入城中,好像城中無人,金鼓不動,命令将士有登上城牆的斬首。居留一個多月,馬進送來一封很大的書信要求決戰,張俊寫了一封很小的書信回答,馬進以為張俊害怕。張俊偵察到賊衆戒備松懈,才準備作戰。嶽飛為先鋒,楊沂中從上遊斷絕生米渡,出敵不意,追擊奔逃的敵衆七十裡,到達筠州。賊寇背靠筠河布列陣勢,張俊采納楊沂中的計策,親率步兵在敵陣對面進攻,把精銳騎兵數千人交給楊沂中和陳思恭,讓他們從山後夾擊敵人,以中午為期限。張俊同賊寇激戰到中午,楊沂中、陳思恭率領精銳騎兵從山下急馳而下,賊衆驚駭混亂退走,大敗。
收複筠州、臨江軍之後,捷報上奏朝廷,高宗賜親筆書信,說“:應當乘賊衆勢力已衰弱之際,官軍士氣振奮之時,長驅鏟除剿滅賊寇,迅速争取徹底勝利。”張俊沒有等到拜受高宗親自書寫的诏令,就已經追擊賊衆到北奉新樓子莊。賊寇黨羽商元占據草山,依憑險要地形布設埋伏,張俊派遣步兵從小道直奔山上,殺死伏兵奪得險隘,乘勝追擊至江州。李成形勢危急,渡江而逃,稱呼張俊為“張鐵山”。張俊收複江州。不久興國軍等處群盜聽說張俊率兵來到,都逃走。張俊率兵渡江到黃梅縣,親自同李成交戰。李成接受奉新喪失險隘失敗的教訓,占據石幢坡,憑借山險用木石滾壓官軍。張俊先派散兵前進,假做急奪險隘的樣子以迷惑敵人,自己親自冒着箭矢滾石,率衆攻取險隘,賊衆數萬人全部崩潰,馬進被追兵殺死,李成逃到北方投降劉豫,各郡全部平定。朝廷拜張俊為太尉。
紹興四年(1134)十月,金朝和劉豫分兵數道入侵。開始消息傳來,舉朝震驚恐慌,有人請求高宗逃避到其他地方。張俊對趙鼎說:“準備逃避到哪裡去呢?隻有向前進一步,才能免除禍難。應當集結天下的兵力守衛平江,慢慢圖謀對付敵人的計策。”趙鼎說“:你說逃避不是良策,是對的;但用天下所有的兵力守衛一州,又不對。你隻管堅持前面議論就足夠了。”于是任命張俊為兩浙西路、江南東路宣撫使,屯駐建康。不久改任淮西宣撫使。瀕臨長江同敵人相持超過一個月,敵人終于沒能南進。張俊派張宗顔悄悄渡江到六合,出敵背後。敵軍準備退走,張俊又派王進說:“敵軍既然已經無心留下,必然徑直渡過淮河北去,應立即在其沒有渡河時攻擊它。”王進前往,敵軍果然渡河,于是在淮河向敵人發起進攻,大敗敵軍,俘虜敵将程師回、張延壽獻給朝廷。
紹興五年(1135),劉麟率兵入寇,張俊和楊沂中合兵在泗州抵禦。紹興六年(1136),張俊改為崇信、奉甯軍節度使。劉麟率兵十餘萬進犯濠、壽州,朝廷诏令以淮西隸屬張俊,楊存中也聽從他指揮,同張俊合兵抵禦敵人。張俊分别派遣楊存中和張宗顔、王玮、田師中等人,從定遠軍到趙家坊,遇到劉猊左右軍,将其擊退。張俊率領大軍擊鼓前進,到達李家灣同劉猊大部隊遭遇,雙方交戰,劉猊軍全軍覆沒,投降的達到一萬多人,劉猊隻身逃脫。朝廷拜張俊為少保,加鎮洮、崇信、奉甯軍節度使。高宗說:“你的議論持平慎重,深刻了解敵情,統率精銳部隊數萬人,報效國家像這樣,我還有什麼憂慮。”又說“:群臣說我對待你特别優厚,你應該體念我的眷顧關懷,更加努力報效。”
紹興七年(1137),張俊改任淮南西路宣撫使,把宣撫司設在盱眙。張俊和韓世忠入朝觐見高宗,計議轉移防地。秦桧上奏“:臣曾經說韓世忠、張俊,陛下依賴這兩位大将,譬如兩隻猛虎,本來應當各自守衛國家門戶,使敵人不敢逼近。”高宗說:“他們正如左右兩手,怎能一手不盡力呢?”命令張俊從盱眙移屯廬州。紹興八年(1138),金朝請求休戰,宋朝答應了。高宗賜張俊為“安民靖難功臣”,拜官少傅。
紹興九年(1139)冬,金朝又毀棄盟約,再次攻破河南,圖謀攻取順昌府,命令張俊率兵策應劉钅奇。張俊督促軍隊渡過長江,金軍退走。不久金朝三路都統從東、南兩京分路前來侵犯,進抵亳州北邊渡過黃河,張俊派宿、亳各軍出擊,全部收複衛真、鹿邑等地,回師。紹興十年(1140),郦瓊在亳州,張俊率大軍到達城父,都統制王德攻占符離,乘勝直趨亳州同張俊會合。張俊率兵入城,金軍棄城逃遁,父老百姓排列香案鮮花迎接張俊,于是收複亳州,留下統制宋超鎮守。張俊率軍返回壽春,朝廷進他為少師,封濟國公。
紹興十一年(1141)二月,兀..進入合肥,進攻曆陽,江東制置大使葉夢得會見張俊,請求迅速出兵。張俊派兵渡江,對衆将說“:先奪取和州的有賞。”王德願意作為各軍的前鋒,士兵鼓噪前進,敵軍已經占據和州,王德率部在采石渡江首先登岸,張俊夜宿中遊。王德進抵城下,金軍退屯于昭關,三天後,又在含山擊破金将韓常軍。張俊命令關師古收複巢縣,于是收複昭關。派左軍統制趙密在竹林中悄悄行軍,出六丈河以分散金軍。張守忠率五百名騎兵在全椒擊敗金軍。不久,敵人截斷橋梁以抵禦張俊,張俊生病,帶病率衆涉河登岸,追擊敵人。王德同楊存中、劉钅奇合兵,在柘臯擊敗金軍。朝廷任命張俊為樞密使。張俊了解到朝廷打算罷免各大将兵權,首先請求交還所統轄的兵力。朝廷獎賞宿、亳之戰有功人員,張俊部将王德、田師中、劉寶、李橫、馬立、張氵解六人同一天首先受到重賞。
張俊極力贊同與金朝講和,與秦桧意圖相合,對秦桧的言論無不聽從。推薦士大夫擔任監司、郡守的有很多人。劉子羽從被貶谪中起家,也是張俊出力的結果。朝廷加張俊為太傅,封廣國公,不久進為益國公。紹興十二年(1142)十一月,由于殿中侍禦史江邈彈劾他,罷免為鎮洮、甯武、奉甯軍節度使,充任醴泉觀使。當初,秦桧因為張俊贊同與金講和,感激他,因此衆将全都罷免,将兵權交給張俊。過了一年多時間,張俊沒有交出兵權的意思,因此秦桧指使江邈攻擊他。不久進封為清河郡王奉朝請。
紹興十三年(1143),诏令為張俊修建府第,派宦官在府中賜宴,以教坊樂部在旁勸酒助興。紹興十六年(1146),改為靜江、甯武、靜海軍節度使。紹興二十一年(1151)冬,高宗來到張俊府中,拜他為太師,任命他的侄兒清海軍承宣使張子蓋為安德軍節度使,其餘子弟有十三人升官。
宋朝南渡以後,張俊最早掌握兵權,屢立戰功,同韓世忠、劉钅奇、嶽飛都是著名的将領,世人稱為張、韓、劉、嶽。但濠、壽之戰,張俊和劉钅奇不和,隻以楊沂中為心腹,因此造成了濠梁之難。嶽飛冤案,韓世忠營救嶽飛,張俊獨自幫助秦桧構成冤獄,四人心術高下不同,相距十分遙遠啊!高宗在衆将中對張俊特别愛護優厚,但是警告他的話也從未離口。自淮西入朝觐見,高宗教他閱讀《郭子儀傳》;召入宮中,告誡他不要與民争利,不要大興土木。
紹興二十四年(1154)六月去世,時年六十九歲。高宗停止上朝視事三天,以一品官服收殓,高宗親臨祭奠痛哭。追封他為循王。
——【《宋史》列傳】