雖然篇幅不長,且是短時間內寫就,但老人的故事其實在海明威心中醞釀已久。故事最早是出現在一九三六年的《君子雜誌》,這篇散文描述了他與古巴漁夫朋友卡洛斯,在墨西哥灣流進行「big game fishing」的趣事,「big game fishing」是海明威非常熱衷的活動,是人憑著一根釣竿,和魚進行一對一的「競技」。在航程中,海明威被卡洛斯說的故事給深深打動:一名古巴老頭獨自駕著小船(skiff),在古巴外海釣到一隻碩大的馬林魚,由於太深入海中,以致在海上漂流了四天四夜後,才被其他漁民尋獲,當他們救起筋疲力竭、陷入半瘋狂狀態的老人時,那隻馬林魚只剩下龐大的骨頭,且周遭仍環繞著一群虎視眈眈的鯊魚。