張郃軍的糧草斷了數日，軍營中的兵士開始每餐伙食減半。張郃連續向滎陽的曹操發了幾封奏報說明情況，請求曹操定奪下步方略。但都沒得到回覆。他只好親自前往滎陽面見曹操，以求當面弄清曹操的意圖。
張郃經過一晝夜的奔波，到達滎陽後，才知道曹操已經臥病不起多日。愁眉苦臉的張郃正要離去，被行宮裡的黃門內侍喊住，說是曹操要面見於他。
張郃來到曹操的病榻前，已經認不出形若枯槁的曹操。不多時，荀彧等隨曹操出征的謀士也都被召集到此。此時，一名黃門內侍匆匆來報說：“驃騎將軍夏侯惇回來了，他從崤山一路潛逃到汜水關。”對於曹操來說，這是多日來難得的一個好消息。連忙令黃門傳旨召見夏侯惇。
這夏侯惇帶着些許親兵，越過崤山，晝伏夜行，喬裝改扮。行至汜水之時，只剩下衣衫襤褸的夏侯惇一人，虧得汜水關的守將認得夏侯惇，否則都沒人相信他的話。
等包括夏侯惇在內的衆臣在曹操寢殿聚齊。曹操纔有氣無力的緩緩說道：“衆卿，寡人命不久矣。”衆人聽到曹操如此說，皆做痛哭流涕狀。等哭泣之聲小了點，曹操又接着說了下去。
“如今，我大魏主力在滎陽，許都一線陷入困境，渡河北歸之路也已被封堵。我們只能向東轉移到青州，到了青州兗州之西看情況或北渡或就地駐守。只是寡人擔心，一但我們離開滎陽，許都，呂布就會發起追擊。諸君可否有好的計策避免這點。”
殿下，諸臣交頭接耳一番。荀彧說道：“如此，只有留下部分軍旅拼死斷後才能保障主力安全轉移。”
曹操點了點頭：“寡人也是這個意思，將留下三萬人分別屯駐滎陽，汜水。只是要留下一個將領，這是個有去無回的任務，諸卿誰願意擔當此任？”
殿下沉默片刻，一個甕聲甕氣的嗓音在大殿中迴響起來：“陛下，臣願意擔當此任！”衆人向聲音來源望去，原來是夏侯惇。曹操搖頭說：“你與張郃還有其他重任。就令曹彰擔當此任吧。”
荀彧在曹操牀榻前欲言又止，曹操看在眼裡。直望他問道：“可是想問寡人殯天之後，由誰來繼承大統？”荀彧尷尬的點點頭。
曹操這才說道：“說實話，這個朕還沒想好。不過也只有兩個人選，一是駐守冀州鄴城的曹丕，二是駐守青州臨淄的曹植。且讓寡人再思謀一下，待大軍出發之際昭告爾等。”
諸臣並沒有等到答案，因爲曹操隨後就駕崩了。寢殿之內傳來哀嚎痛哭之聲，魏軍披麻戴孝，因爲物資供應不上，沒有足夠的白縞，所以僅僅是人人頭系白條。夏侯惇率領曹彰設在許都北部營壘內的兩萬魏軍返回滎陽，護送着曹操的棺木開始向東轉移。而張郃也率領八萬魏軍緊隨其後向青州方向前進。
漢軍的斥候偵騎立刻就發現了魏軍的動向，迅速向呂布和張遼稟報了軍情。張遼按照呂布的詔令對汜水與滎陽留守的三萬魏軍發動全面總攻。呂布留下八千人駐守許都，帶着另外三萬多兵馬尾隨張郃的八萬主力進行追擊。
汜水關前，巨大的石塊被五六百具配重式投石機狂轟。僅僅一個時辰，城牆就被轟塌了長長的一段。漢軍如同潮水一般掩殺過去。飢餓而又士氣低落的魏軍在破城後幾乎不堪一擊，漢軍還沒衝至。攝於漢軍的氣勢，就已開始四處潰散，被追殺而至的漢軍騎兵斬殺無算。
擊破汜水關後，張遼只留下兩萬兵士和攻城器械圍攻滎陽，其餘主力隨同他繼續沿着黃河向東追趕魏軍。同時他派出斥候與河對岸的漢軍取得聯繫，要他們繼續用虎賁鐵騎粉碎魏軍渡河的企圖。不久張遼就追上了呂布的本部。
不到十萬人的魏軍護送着曹操的棺木，在漢軍的圍追堵截中狼奔豬突，向東一路奔逃。越跑人越少，速度越來越慢。呂布集結起本部的所有騎兵，包括五個虎賁騎兵旅以及三千普通郡縣兵騎兵對魏軍展開迂迴截擊，幾次這樣的突擊斬殺，就錄得魏軍三萬餘首級。在追擊的路上，沿途還屬於魏軍名義控制的郡縣無不望風而降，甚至相距遙遠的郡縣令守派出使者前來歸附。
待魏軍奔至菏澤時，只剩下五萬不到的飢疲之兵。張郃與夏侯惇商量了下，由張郃負責警戒追兵，夏侯惇到前方的縣城去借糧。就在此時，後方又傳來了如同雷奔般的馬蹄之聲，張郃知道漢軍鐵騎又殺過來了。緊接着南方和北方也傳來了同樣的萬馬奔騰之聲。淮水李肅部的一萬多漢軍鐵騎與河北的兩萬虎賁鐵騎也同時殺到了。
張郃，夏侯惇看着三面而至的數萬漢軍鐵騎，臉都灰了，他們知道今天這僅存的五萬魏軍主力是不可能逃脫生天了。張郃一臉悲壯的對着夏侯惇說：“兄弟，你帶着主公的棺木向東去吧，這裡就交給我了。”
夏侯惇沉默片刻，抱拳對張郃說：“兄弟保重，我們來世再見。”說罷，領着百餘親騎，將曹操的屍體從棺木中取出用布包好放置自己馬後，策馬向東奔去。
……
張郃剛剛將約五萬的魏軍擺好陣形。三面的數萬漢軍鐵騎就已經殺到。這五萬魏軍兵卒大多已是驚弓之鳥，面對勢若奔雷的漢軍鐵騎，哪有迎敵接戰的膽氣。在張郃的高壓下，勉強組織起陣形，在漢軍鐵騎逼近之後，再也不管將校們如何吆喝，許多人掉頭就跑。張郃親指揮的督戰隊砍下多顆人頭也無濟於事，潰逃的人越來越多，很快就演變成了全面潰敗。最後只剩下張郃與一些對曹魏忠心耿耿的將校以及他們的親兵抵擋漢軍。
這些人在數萬鐵騎面前無異與螳臂當車，很快就被漢軍的鋼鐵洪流碾壓的粉碎。張郃也身中數箭落馬，肚皮被鐵蹄踩踏的肚破腸流而亡。
自此一役，曹魏已經喪失了全部主力兵團。僅有少數殘部盤踞在青州，冀州西北一帶，分由曹植，曹丕統治。