在談到日本歷史的時候，經常有人開玩笑說武大郎是日本人的祖先，一度還用武大郎的五短身材和日本人的國旗像他賣的炊餅來論證。當然，玩笑歸玩笑。在民間，關於日本人的祖先，流傳最廣的就是徐福東渡。
徐福是秦朝著名方士。他博學多才，通曉醫學、天文、航海等知識，且同情百姓，樂於助人，故在沿海一帶民衆中名望頗高。後來徐福被秦始皇派遣，出海採仙藥，一去不返。鄉親們爲紀念這位好心的名醫，把他出生的村莊改爲“徐福村”，並在村北建了一座“徐福廟”。後來，有徐福在日本的平原、廣澤爲王之說。
不過，在史學界，還有一種說法：日本人的祖先是中國古代歷史上的古越族。在秦朝、漢朝之前，居住在長江下游及其以南廣大地區的古越族(越與粵通)，在我國南方是一個有重要影響的民族，同時又是一個內部社會發展很不平衡的支系繁多的民族共同體，故歷史上有“百越”之稱。正如《漢書·地理志》臣瓚曰：“自交趾至會稽七、八千里，百粵雜處，各有種姓”。它們在中華民族形成中有重要的歷史地位。
那麼，古越族的人民爲什麼和日本建立了聯繫呢?首先，根據河姆渡考古出土了我國最早的獨木舟和木槳，表明了古越先民早在新石器時代就已經掌握了航海技術。而航海技術無疑是古越族抵達日本羣島的客觀條件。在這一點上，春秋末期的吳國和越國之戰中，曾經動用上了數千人的水軍，這也表明越國人民對於航海技術的爐火純青。
進一步來說，哪些證據表明古越人或者越國人到過日本呢?對此，一是在古越人和日本人都有以鳥蛇爲圖騰的習俗;二是根據日本學者的說法，公元前1000年，稻穀從越國地區傳到日本九州地區;三是在墓葬建築和風俗上，日本農村地區也存在古越族的幹欄式風格;四是最直接的語言和地名上，日本的地名上，含有“越”字的成百上千，而在日語發音中，也存在明顯的越音和古越語。
最後，就當時古越族生活的越國地區，本來就是我國的沿海一帶，在春秋戰國時期，爲了躲避戰亂而向日本地區遷移，也不是沒有可能性的。尤其是在越國被楚國消滅後，古越族人民一方面向南遷移，包括現在的越南都和他們存在聯繫。考慮到他們掌握的航海技術，很有可能在徐福東渡之前就來到日本羣島了。
