創建年代は不明だが、延喜式には伊豆国加賀郡伊豆三島神社として記録が残っており、もとは下田市白浜周辺に鎮座していたものを、平安中期以降に、国府のあった現在地に遷座したものとみられる。古くより当地方第一の社として崇敬され、延喜の制では明神大社、のちに伊豆国一の宮とされた。三嶋(または三島)と書かれる各地の神社の根元社である。

　三嶋は「御島」から変化したもので、元は富士火山帯である伊豆大島・三宅島等から成る伊豆諸島を指すと云われ、三嶋神は噴火や造島を神格化したものだと考えられている。周辺は伊豆国の中心部として国府のあった地で、のちに三嶋大社の門前町として発展し、いつしか地名も大社に由来して「三島」と称されるようになったとされる。 伊豆に流されていた源頼朝が挙兵の際に戦勝祈願をした事でも知られ、鎌倉時代には関東総鎮守として源頼朝や多くの武家から崇敬された。近世以降は三島が東海道の宿場町として発達したことに伴い、東海道を往来する庶民からも篤く信仰された神社である。