又过了数日，大军上了船，开始出海，这就让程昱的病情进一步恶化，前后经过了十余日的颠簸，程昱难以承受病痛的折磨，最终于到了海上的第三天之后病死于某处船舱之中。
临死之际，程昱还在担心着曹丕的安全，对看守的狱卒说道：“如果主公来此看我，请转告主公，此时刘和必定会集中全力围堵我军，所以，如果想要成功踏上倭国的土地，最好沿着海面向北行驶，如今正值夏季，南风盛行，向北去正好顺风，我军如若保证不被敌军发现，最好是在北行千余里后再折向东去。虽然主公疑我，然而我程昱之忠，天地可鉴，只可惜主公即便能够到达倭国，最终仍然不能避免为司马懿所害……”
说到这里，程昱气绝身亡，就连一旁的狱卒都感动的流泪，并且将程昱病死之事逐级上报。
即便这样，曹丕收到程昱病死的消息也是在一个时辰之后。
“什么？程仲德病死了？”听到这个消息，曹丕顿时呆若木鸡，一脸难以置信的说道：“怎么会这样？我没有让你死，你为何要死？”
原本在曹丕的心中，之所以把程昱带到倭国，主要就是等到程昱回心转意的那一天，希望他能够认识到错误，诚心诚意的辅佐自己，因为自己还要仰仗此人对付司马懿，然而却没想到对方竟然这么快就死去。
这时候的曹丕心中充满了悔恨，立刻赶到程昱所在的船舱之中。
“主公，程先生临终之时让小人转告你，此时秦王必定会全力围堵我军，如果主公想成功踏上倭国的土地，需要如此如此……”在见到曹丕之后，狱卒一五一十的将程昱临终之言说了出来。
曹丕听那狱卒说程昱在临终之时还不忘为他出谋划策，又听说程昱在被关押期间没有出一句怨言，对过去对待对方的态度更加羞愧，最后竟然恼怒地说道：“程先生生了重病，这么多天了我竟然都不知道，你们这些狱卒是干什么吃的？各级关押的官吏是干什么吃的？如此玩忽职守，致令我失去了程先生这样一位忠良之才，实在是是可忍孰不可忍！”
随后下令左右，将关押程昱的牢内所有狱卒和狱官尽皆斩首。