進入昭和年代（1926年）以後，日本以大學生為中心的足球水平得到迅猛提升。1929年，日本足球協會正式加入國際足球聯合會 。

日本足球跟世界盃淵源很深，歷史甚至一直可以追溯至1930年第一屆烏拉圭世界盃。與往後舉辦的世界盃比賽不同，該屆世界盃並沒有設立預選賽，所有國際足聯會員國都是以被邀請的形式參加本屆賽事。作為亞洲第一強國的日本也收到了邀請，但受美國經濟危機影響，日本國內經濟不景，社會形勢動盪，同其他亞洲球隊一樣，日本足協並沒有派出代表隊參賽 。最後，本屆賽事只有13支球隊參賽，其中7支來自南美洲、4支來自歐洲，2支來自北美洲。由於不少歐洲球隊認為遠赴南美洲參賽成本太高且浪費時間，因此本屆賽事只有少數歐洲球隊願意參賽。參賽球隊分成4組，每組的首名晉級半決賽。阿根廷隊、烏拉圭隊、美國隊和南斯拉夫隊分列小組首名，進入半決賽。烏拉圭隊在決賽當中以4:2擊敗阿根廷隊，成為首屆世界盃冠軍。日本足球與世界盃的第二次擦肩而過是在1938年的法國世界盃。日本隊報名參賽並進入預選賽階段，首戰對陣荷屬東印度隊（現印度尼西亞），但這次擊碎日本隊世界盃夢想的不是經濟，而是戰爭。因日本正發動侵華戰爭，所以日本足協主動退出了比賽，荷屬東印度自動晉級，並參加了本屆世界盃 。第二次世界大戰結束後，世界盃恢復比賽，由於此時日本足協已被國際足聯除名，到1950年巴西世界盃結束後才重新加入，因此日本隊再次與本屆賽事絕緣。

相比與屢次錯過世界盃，日本足球在奧運會上的表現則堪稱輝煌。

1936年，日本隊第一次參加在柏林舉辦的奧運會足球賽，並以3：2的比分擊敗了歐洲球隊瑞典隊 ，這也是日本足球第一次在國際足球賽場上取得的勝利。在這一點上，中國足球落後太多，中國隊首次進入奧運會是1988年的漢城奧運會，第一個奧運會進球是2008年北京奧運會上董方卓打入的，而第一場勝利還不知道要等到什麼年月？

1964年，奧運會首次在日本舉辦 。日本足協認為，日本作為本屆奧運會的東道主，無論如何也必須取得理想成績。為此，日本足協選任了國際足球教練德特馬·克拉默擔任日本的國家隊主教練，克拉默除了指導日本國家隊外，在平時還負責指導日本各地區、各大學、各高中教練員的訓練，致力於日本足球的現代化 。終於，在該屆奧運會上，日本隊在小組賽階段以3：2的比分擊敗了南美勁敵阿根廷隊，2：3小負於加納隊，名列小組第二名，一舉衝入八強。在1/4決賽上，由於雙方實力差距懸殊，日本隊0：4敗給了1962年世界盃亞軍捷克斯洛伐克隊，在淘汰賽中又不敵南斯拉夫隊，最後被淘汰出局。

奧運會結束後，克拉默卸任主教練，臨行前他為日本足球的將來提了很多建議，其中最重要的一條就是舉辦全國聯賽。在當時，日本國內大都是業餘足球隊，並沒有舉行高規格的聯賽，全國最高水平的賽事，就只有天皇盃賽。之後，經過日本足協的努力，第一屆日本足球聯賽終於在1965年開球，當時共有八支隊伍參與該屆賽事，最終東洋工業（現廣島三箭）隊奪得了首屆聯賽冠軍，並在之後的連續四屆聯賽中蟬聯 。日本隊在1968年伊朗亞洲盃和1976年伊朗亞洲盃兩次參加亞洲盃預選賽均落敗 。

1968年墨西哥城奧運會，造就日本足球歷史上一個巔峰。

在奧運會亞洲區預選賽當中，日本隊在與韓國隊同分的情況下以淨勝球優勢驚險爭得出線權 。正式比賽上，日本足協聘請了日本隊前教練德特馬·克拉默擔任顧問。在小組賽中，日本隊以3：1的比分戰勝尼日利亞隊，並在另外兩場比賽中先後逼平了巴西隊和西班牙隊，最終晉級進入決賽圈。1/4決賽中，日本隊3：1力挫法國隊，但在半決賽上，日本隊0：5敗給了後來奪得冠軍的匈牙利隊。在銅牌爭奪戰中，日本隊又以2：0一舉擊敗東道主墨西哥隊，榮獲第三名，這也創造了亞洲足球在奧運賽場上的最佳戰績，這一紀錄至今未被打破。同時，日本代表隊員釜本邦茂以進7球的成績，成為了本次大賽的最佳射手 。克拉默也在此次賽事中為日本足球的發展作出了巨大的貢獻，並在賽後獲得了日本政府頒發的勳章 。要知道，第一次對奧運男子足球的年齡限制是在1992年的巴塞羅那奧運會上，也就是說，此前都是由成年國家隊出戰，這說明日本足球早期就已經奠定的較為雄厚的基礎，也建立了強大的自信心，能在國際大賽上先後擊敗過瑞典、法國、阿根廷、墨西哥，逼平巴西和西班牙隊等老牌強隊這份榮耀令中國球迷羨慕不已。（持續更新中）

歡迎廣大條友閱讀、點贊、留言和轉發，本文僅代表小編個人觀點，如果偏頗失當之處，望大家多多批評指正。