从先秦时代开始，就不断有大陆移民进入日本列岛。最早用文字撰述的日本史籍《古事记》、《日本书纪》中，把外来移民称之为“汉人”、“新汉人”、“吴人”、“唐人”、“归化人”等。大陆移民移居日本列岛的主要可分为四个时期，即秦汉时代——发轫期；魏晋南北朝时代——高潮期；隋唐时代——持续期；宋明时代——终结期。其中也不乏日本朝廷为吸收先进文化，引进技术人才，多次遣使至中国大陆和朝鲜半岛寻觅、劝诱汉人来日等，种种因素推动了大陆移民的赴日高潮。

第一次是在秦汉时期（公元前3世纪至公元3世纪）。

其间流传最广的就是发生在秦始皇时期的徐福东渡日本的传说。在司马迁的《史记·秦始皇本纪》中中有这样一段记载：始皇二十八年：“齐人徐(徐福)等上书，言海中有三神山，名曰蓬莱、方丈、瀛洲，仙人居之。请得斋戒，与童男女求之。于是遣徐福发童男女数千人，入海求仙人。”那么，徐福求药寻仙最后去了哪儿呢?据《史记·淮南衡山列传》记载徐福最后到达“平原广泽”之地，竟“止王不来。”据说，这“平原广泽”是今天日本的九州。在日本学术界，研究徐福事迹的学术团体、学者和专家有很多，也有很多研究徐福事迹的文章、著作和专著，都确认了徐福到达并开发日本事实，徐福至今也仍受到日本民众的尊崇与爱戴。

不管徐福的传说到底怎样，但是有一个事实是毋庸置疑的，即在秦汉年间，就开始有中国人大量移居日本。首先在秦始皇的铁骑横扫六国时。旧燕国和齐国民众为逃避战乱，分两路逃亡日本：北路是燕国人由东北到朝鲜半岛再渡海到日本，南路是山东半岛的齐国人直接渡海赴日本。其次在在西汉武帝时期。元封三年(前108),汉武帝灭卫氏朝鲜政权，在朝鲜半岛北部设置乐浪等四郡。大量汉族人民随之移居四郡，其中有一部分不断往半岛南部迁移，直至跨海到达日本。再次是东汉时期。此时中日之间终于建立了正式的官方联系。据《后汉书·东夷列传》记载，公元57年，倭奴国来朝，汉光武帝刘秀封倭奴酋首为国王，并赏“汉倭奴国王”金印一枚。1784年，倭奴国内发现“汉倭奴国王”五字金印一枚，证明了记载的可靠。另据日本史籍也有关于此事的记载。这个时候开始，就有一部分汉朝皇室成员（刘氏）因出使、避难等原因开始渡海来到日本。西文首氏（王氏）也有人到达了日本。

第二次是魏晋南北朝时期（公元3到6世纪）。