Situado frente a la costa nororiental del continente euroasiático, del que lo separa el estrecho de Tsushi-ma, el Japón está en el este de Asia pero en realidad no es del este de Asia. Su historia, en el sentido estricto de una tradición histórica culta, comenzó en época tardía según los patrones occidentales: convencionalmente, se fecha en el año 552, cuando el rey del reino coreano de Paekche (cerca del actual Pusan) envió a unos misioneros budistas al emperador del Japón en un gesto de buena voluntad. En aquella época, la principal institución japonesa era el uji o clan. Cada uji controlaba su propio territorio y estaba formado por plebeyos y aristócratas, y casi con toda certeza tenía su propia mitología, que se centraba en un antepasado divino.
A principios del siglo VI, uno de estos clanes (a los que en algunos casos se denomina Yamato, de la región del Honshu central que aún lleva este nombre) impuso su hegemonía sobre los demás y, por extensión, también sus antepasados divinos. La familia imperial, cuya línea se ha proclamado hasta la época actual, se convirtió en foco de la mitología japonesa.
La religión nativa del Japón, el sintoísmo, se basa en la adoración a una multitud de dioses, espíritus y objetos de veneración. Su mitología gira en torno a narraciones sobre Amaterasu, diosa del sol, y las peripecias de sus descendientes, que unificaron al pueblo japonés. Con la llegada del budismo se inició una época de préstamos culturales, en principio de Corea, y después de China, la «civilización madre» del este de Asia. El budismo se mezcló con el sintoísmo de una forma muy compleja, pero a partir del siglo XVII se produjo un fuerte renacer de la religión nativa, que culminó con la adopción del sintoísmo como religión estatal con el gobierno Meiji (1868-1912).
Las cuatro islas principales que forman el archipiélago japonés han estado habitadas durante los últimos 50.000 años. Hasta hace unos 12.000 años había puentes de tierra que unían el Japón actual a Sajalín, entonces continente, por el norte, y Corea por el sur; estas rutas terrestres debieron permitir a los primeros emigrantes establecerse en Japón.
Desde el punto de vista arqueológico es posible distinguir varias oleadas de pueblos que llegaron en la alta Edad de Piedra (50000-12000 a. C.), la cultura jomon (11000-300 a. C.) y la cultura yayoi (300 a. C.-300 d. C.). Los lugares relacionados con la cultura jomon aparecen en todo el territorio de Japón, pero sobre todo en la mitad norte de la isla principal, Honshu. Por el contrario, los asentamientos de los posteriores yayoi se centraron originalmente en Kyushu, Shikoku y la península Kii, al sur de Osaka y Nara. La proximidad de Corea sugiere una estrecha relación racial con estos pueblos.
Se cree que los yayoi eran los antepasados culturales y raciales de la población japonesa que existe en la actualidad, a excepción de pequeños grupos de ainu, unos 20.000 individuos, que viven en la isla norte de Hokkaido. Estos ainu pueden ser los descendientes de los jomon.