病逝。

黄初三年，孙权再次向曹魏称臣。张辽奉命还屯雍丘，却在此得病。曹丕遣侍中刘晔带著太医审视其疾，并令卫士们传达张辽病况，为张辽问病的使者经常在路上互相遇见。

张辽的病一直没有好，曹丕命人把他接到自己的行营，自己则车驾亲临，握着他的手，赐给他御衣，太官每天来送御膳。病情稍有好转后，张辽便返回其屯军之所驻军，忠于职守。

此时，孙权再次背叛曹魏，曹丕派张辽乘舟，与曹休到海陵临江驻防。孙权知张辽至此，甚为忌惮，对自己的将领发布命令：“张辽虽然抱病，但仍是勇不可当的，千万要谨慎在意！”后来，张辽与诸将同破吴将吕范。但他的病情却也日渐严重，最后终于在江都逝世，一代名将就此陨落。曹丕为之流涕，谥曰刚侯。其子张虎嗣任其爵。