伊吹山の荒ぶる神の毒気に当たった日本武尊が、醒井の居醒の清水で正気を取り戻し、都へ帰る途中に千々の松原にて崩御され、ここ磯山に葬られたと伝えられています。
崩御された日本武尊は白鳥になって飛び立ったとも伝わっています。日本武尊を祭神として祀るため、この神社が建立されました。毎年5月3日の例祭では「磯武者行列」が行われ、日本武尊にあやかって男児は武者姿、女児は稚児姿で巡行します。

また、紫式部が越前からの帰り道に、磯の浜周辺で読んだのではないかといわれている歌が「紫式部集」に残っています。
「磯がくれおなじ心に田鶴ぞ鳴く　汝が思ひ出づる人や誰ぞも」
そのほかにも、近くには万葉歌人高市黒人の歌碑もあります。