神武天皇社は、神武天皇が東征で訪れたとされる「崗之水門」とされています。
神武天皇は、当時は未だ全国統一がなされた時代ではなく、皇威が全国に輝くというわけではなかったことから、天下万民が幸せに暮らせるようにとお考えになり、御齢45歳の時に、都を中央に遷すべく、宮崎をご出発になります。
先ず、宮崎から陸路北へ進んで湯之宮（湯之宮神社）でお泊りして、御湯を召され、次に甘漬（川南町・甘漬神社）や都農（日向国一之宮都農神社）では武運長久のお祀りをされます。更に北に向かい美々津（日向市美々津・立磐神社）の港から船出され、御東征の途につかれました。
皇軍の向かう海路は風雲自から静謐となり、豊予海峡の速吸門（大分市・早吸日女神社）、菟狭（宇佐市・宇佐神宮）、岡水門（遠賀郡芦屋町・神武天皇社）、埃宮（広島県安芸郡府中町・多家神社）にお寄りになり、翌年3月には更に高嶋宮（岡山県岡山市南区・高嶋神社）に到り、3年を⾏宮に座して軍備を整えられました。
『古事記』中巻・神武天皇』
神倭伊波禮毘古命、與其伊呂兄五瀬命二柱、坐高千穗宮而議云、坐何地者、平聞看天下之政。猶思東行。卽自日向發、幸行筑紫。故、到豐國宇沙之時、其土人、名宇沙都比古、宇沙都比賣二人、作足一騰宮而、獻大御饗自其地遷移而、於筑紫之岡田宮一年坐。
神倭伊波礼毘古命、其の伊呂兄五瀬命と二柱、高千穂宮に坐して議りて云りたまひけらく、「何地に坐さば、平らけく天の下の政を聞し看さむ。猶東に行かむ。」とのりたまひて、即ち日向より発たして筑紫に幸行でましき。故、豊国の宇沙に到りましし時、其の土人、名は宇沙都比古、宇沙都比売の二人、足一騰宮を作りて、大御饗献りき。其地より遷移りまして、筑紫の岡田宮に一年坐しき。
『日本書紀』卷第三 神日本磐餘彦天皇・神武天皇
神武天皇卽位前紀甲寅年十月辛酉。其年冬十月丁巳朔辛酉、天皇親帥諸皇子舟師東征。…（略）…。行至筑紫國菟狹。…（略）…。十有一月丙戌朔甲午、天皇至筑紫国岡水門。 十有二月丙辰朔壬午、至安芸国、居于埃宮。
其の年（前667年）の冬十月の丁巳の朔辛酉に、天皇、親ら諸の皇子・舟師を帥ゐて東を征ちたまふ。…（略）…。行きて筑紫国の菟狭に至ります。…（略）…。十有一月の丙戌の朔甲午に、天皇、筑紫国の岡水門に至りたまふ。 十有二月の丙辰の朔壬午に、安芸国に至りまして、埃宮に居します。
創祀は不詳ですが、「崗之水門」は、上代は格別の大社で、四季の祭礼も行われていましたが、度々の兵火に罹り、社殿などを悉く焼失。観音寺（旧蘆屋寺）の境内に小祠を移し、若宮として祀られていました。観音寺（旧蘆屋寺）が西浜町に移るのに合わせ、寺院の境内に祀るのは畏れ多いと、延享2年（1745）の秋、土地の豪商であった酒肆「俵屋」の吉永清三郎が、自ら多額の金員を寄附して首唱者となって講社を結成。行脚僧の帆牛、町民と相謀って藩主の黒田家から3000坪の社地を請い受けて、現在地に社殿が建てられました。
爾来、代々藩主の尊崇浅からず、寛延3年（1750）10月には福岡藩主の黒田継高の参拝があり、宝暦4年（1754）遠賀郡中より郡米12俵を永世寄付を受けるよう命ぜられます。その後も、福岡藩主の黒田斉隆、黒田⻫清、及び秋月藩主もまた参拝しました。旧藩主時代は春秋の大祭には、四方より参詣する者があり、御神威は赫々たるものでした。
明治維新により王政復古がなされると、毎年3月11日に神武天皇の遥拝式が斎行されるよう福岡藩から令達されます。明治14年（1881）2月15日村社に列せられ、大正10年（1921）7月19日県社に昇格。昭和20年（1945）6月に米軍の焼夷弾により社殿を焼失し、岡湊神社に合祀。平成12年（2000）12月8日に神武天皇社竣工祭が斎行され、現在の鎮座地に復しました。御神殿の材料は、伊勢神宮よりの撤下材を拝受して使用されています。
また、鎮座地の「崗の浦（芦屋の古称）」は、熊襲征伐のため親征した仲哀天皇と神功皇后の御駐輦あった地であることから仲哀天皇と神功皇后を合祀しています。
