日本書紀によると、日本大国魂大神（やまとおおくにたまのおおかみ）は、崇神天皇の頃まで宮中内に天照大神と同殿共床で奉斎されいた
第十代崇神天皇六年に天皇が神威をおそれ、天照大神を皇女豊鋤入姫命をして倭の笠縫邑に移されたとき、皇女淳名城入姫命（ぬなきいりひめ）に勅して、市磯邑（大和郷）に移されたのが当神社の創建であると伝えられている
社地は後代でうつり、現在の地に鎮座した
その後、椎根津彦の子孫である市磯長尾市が神主となり、その子孫である大倭氏が代々奉仕し明治時代まで続いた
奈良時代、遣唐使や唐への使臣は出発に際して当社へ参詣し、交通安全を祈願した
これは椎根津彦が海の案内人であったことに由来すると伝わる