考古学家认为，早在十万年前，日本还与亚洲大陆相连时群岛上已有居住，历史上称为旧石器时代。当时的人以狩猎拾荒为生，到了大约一万年前的新石器时代，人们开始制造较精细的石器和陶器，人们开始学用弓箭狩猎煮食物和储藏食物。

公元前八十世纪至三世纪史称“绳纹时代”，人们已开始在陶器上制作绳状花纹。

公元前三世纪左右，农业和制造金属器具的方法从亚洲大陆传入、铁器的传入使农业得到了发展，人们开始制造武器，并在宗教仪式中使用铜镜和铜剑。由于分工的关系，社会出现了分化统治者和被统治者开始出现，部落和国家也随之而产生。

公元前三世纪至公元三世纪史称 "弥生时代，辘轳窑窯等先进制陶工具及技术相继传入日本。到了四世紀，邪马台国势力强盛， 统一了各国。

四世纪到六世纪，中国文化经由朝鲜传入，儒家和佛家思想也传到日本。日本和朝鲜建立了关系， 从朝鲜引进中国汉朝发明的纺织、金工、鞣革、造船等技术。日本又从中国引入表意文字，学习中国的医术、天文历法和儒家思想。 并模仿中国建立政制。

八世纪初，日本在奈良建立了第一个首都，开始了奈良时代。皇族成员在奈良居住了七十多年，势力愈益强大，逐渐向全国伸展。

平安时代从公元794年开始。日本皇朝以当时的中国首都为蓝本，在京都建立新都，称为"平安京"。平安京作为首都几乎延续了近一千年。 前期日本大量吸收了中国文化，这是个吸收和同化的过程， 外来的东西渐渐染上了日本的色彩。日本的文字"假名"就是在这一时期形成的。"假名"分"片假名"和"平假名"，是以汉字为基础， 取汉字的边傍部首和部分草书而制成，建立了一套独特的文字系统。

1192年，源赖朝在镰仓(今东京附近)成立幕府，镰仓幕府厉行新政，鼓励幕府中人习武，加强纪律。镰仓时代，武士道盛极一时。

1213年，北条氏从源氏手中夺得了政权。北条氏是源赖朝妻子的家族，摄政期间出掌幕府。

1333至1338年，尊氏在京都的室町成立新幕府，史称室町时代。室町武士执政历时二百多年。由于期间厉行武士道的严谨纪律，以致艺术及宗教活动都深受影响。时至今日，日本的艺术仍然十分拘谨，线条简单。
十六世纪末，日本饱受內战蹂躏，群雄并起，割据称霸。1590年，大将军丰臣秀吉统一天下。 1592及1597年丰臣氏两度出兵伐朝鲜，但遭到朝中两国的反抗，终告失败。

1598年丰臣秀吉病没伏见城，将军德川家康在关原一战全歼对立派。1603年，德川氏在江户建立幕府，历史进入了江户时代， 江户时代延续了二百六十四年。

德川家康完成了统一后， 1853年，美国海军准将培里率领四艘船开入东京湾， 次年再度叩关，说服日本与美国签订了和约。同年，日本又与俄、英、荷先后订立条约，恢复对外关系。四年后，又订立了通商条约。 不久又与法国缔结了类似条约。德川幕府在1867年崩溃。

1868年开始明治维新，天皇再次重获政权。明治时代从1868年到1912年，是日本历史上辉煌显赫的时代。

明治初年，天皇由京都迁都江户，改称东京，明治政府提了"富国强"、"殖产兴业"、"文明开化"三大政策，以西方先进资本主为榜样，发展先进科学技术。不到半个世纪， 日本就走完了西方主要资本主义国家用了二百年时间才完成的近代化过程。不过，明治改革的成功反而刺激了日本的向外扩张野心， 终于使日本走上了穷兵黩武的道路。两次大战，日本政府给全世界和日本人民造成了极大灾难。

1985年，日本己成为世界最大债权国，1986年底海外净资产一千八百零四亿美元。1993年日本海外资产上升到六千八百五十亿，估计到2000年可上升到一万亿以上。 日本成了世界最大的供应国，东京国际金融市场的作用正在扩大，日本正在朝金融大国化方向发展。