日本古代稱為“倭國”，這是日本人最不願意聽的，其實是誤解
然而，由於當時交往並不多，因而對日本並沒有詳細記載。然而到了東漢，隨著日本前來中國的增多，記載也開始詳細。在魏晉時期成書的的《三國志》和南北朝成書的《後漢書》中，詳細的記錄了古代日本的地理位置、風土人情以及被中國冊封的歷史。
在《三國志》和《後漢書》對日本的記載，基本相同，然而側重點略有差異，《三國志》對國名、風俗人情等詳細描寫，而《後漢書》則記載了很多歷史事件，言簡意賅。如《後漢書•列傳•東夷列傳》：“倭在韓東南大海中，依山島為居，凡百餘國。自武帝滅朝鮮，使驛通於漢者三十許國，國皆稱王，世世傳統。其大倭王居邪馬臺國。樂浪郡徼，去其國萬二千里，去其西北界拘邪韓國七千餘里。”，指出具體位置和距離。
關於“大和”，有的人認為是起源於公元3世紀的日本政權所在地的大和地區，其實是一種美化，因為大和在日語中讀作“亞馬託（やまと），並非和“倭”同樣發音。當然，由於漢文化的影響，聖德太子（公元574—622年）引用了《論語》中“禮之用，和為貴”有可能，這也是其選用“和”代替“倭”的原因之一。
然而，在未得到中國的允許下，日本由於文字採用的是漢字，自然只能在國內做文章，可是在對外關係上，必須得到中國承認才能更改名字，於是日本便想方設法求得改變。然而這個過程極為曲折。公元668年高句麗被唐所滅之後，日本在公元669年遣使入唐朝賀，提出更改國名。《新唐書》記載：“咸亨元年（670年），遣使賀平高麗。後稍習夏音，惡倭名，更號日本。使者自言，因近日所出，以為名。”。然而並沒有明確的歷史記載，說明唐朝同意其修改。
