人魚の原型を辿っていくと、古くは6〜7千年前のバビロニアで信仰されていた海の神オアンネスまで遡るという。

このオアンネスという神は、昼は陸上で過ごし、夜は海へ帰っていったと伝えられ、その姿は半人半魚として表された。オアンネスとその妻ダンキナとの間には魚の尾を持った子が6人生まれたと伝えられている。

またペリシテ人の神ダガンや、シリアの女神アタルガティスといった半人半魚の神々は、このオアンネスの流れを汲む存在ともいわれている。

このほか、ギリシア神話に登場する海神トリトンなども人魚そのものの姿である。

人魚や精霊あるいは実在の海獣類など、海にまつわる話は互いに影響し合い、様々な説を生み出していったと考えられる。

北ヨーロッパでは、海中に住む人間や海から現れる人魚などの話が古くから語られてきた。これらにはアザラシの存在が大きな影響を与えたらしく、人魚の姿もしばしば「黒衣の修道女」などとして描かれている。

プリニウスの『博物誌』には海の精ネレイスのことが記されている。それによると、数百頭も群れて海辺に上がり、悲しげな声で歌う動物とされ、上半身まで毛が生えている点を除けば、伝説どおりに半人半魚の姿をしている、とある。ここでいわれる海の精ネレイスも、アザラシなどの海獣を指していると思われる。

このほか、ジュゴンやマナティーといった海の哺乳類も人魚のモデルになったといわれている。

ホメロスの『オデュッセイア』にも登場するセイレーンは、現在の人魚のイメージに大きな影響を与えた存在である。

このギリシア神話の精霊は、その美しい歌声で船乗りを誘惑し、船を難破させてしまうといわれた。

セイレーンはもともと半人半鳥の女神だったが、詩の女神ムーサイ（ミューズ）との争いに負けて海に落ち、半身が魚に変化して海の精霊になったのだともいわれる。そしてその後もイタリア近海の島に暮らしながら、通りがかる船乗り達を海中に引きずり込んだ、という。

人魚の「誘惑する美しい女」という要素は、このセイレーンのイメージに負うところが大きい。

また、有名なライン川のローレライ伝説も、このセイレーンの話から生まれたものである。

16世紀頃、博物学が盛んになると様々な怪物の捏造標本がヨーロッパに出回るようになった。ジェニー・ハニヴァーなる標本もそのうちの一つで、人魚の一種とされて好事家らに珍重されたが、実は魚のエイを加工したものであった。

18世紀になると、上半身が人間そっくりで下半身が魚という正に人魚のイメージそのものの標本がヨーロッパにやってくるようになった。この標本は日本や中国で造られた物だったが、そのあまりのリアルさにヨーロッパの人々は衝撃を受けたという。

この東洋からもたらされた標本の人気と反比例するように、ジェニー・ハニヴァーの人気は下火になっていったという。現在では土産物店などで細々と売られているそうである。