《义勇军进行曲》最早是电影《风云儿女》的主题曲。1934年秋，田汉为该片写了一首长诗，其中最后一节诗稿被选为主题歌《义勇军进行曲》的歌词，歌词写完后不久，田汉被国民党当局逮捕入狱 。1935年2月，导演许幸之接手《风云儿女》的拍摄，不久后，去监狱里探监的同志辗转带来了田汉在狱中写在香烟盒包装纸背面的歌词，即《义勇军进行曲》的原始手稿。当时，聂耳正准备去日本避难，得知电影《风云儿女》有首主题歌要写，主动要求为歌曲谱曲，并承诺到日本以后，尽快寄回歌稿 。
聂耳在收到歌词后很快就完成了曲谱初稿 。1935年4月18日，聂耳到达日本东京后，完成了曲谱的定稿，并在四月末将定稿寄给上海电通影片公司 。之后，为了使歌曲曲调和节奏更加有力，聂耳和孙师毅商量，对歌词作了3处修改，从而完成了歌曲的创作 。
1949年，中华人民共和国成立前夕，要从1000多首作品里选出一首作为新生的中华人民共和国的代国歌。当时，从国歌歌词的征集启事发出到最后选定的时间是71天。
1949年9月25日，毛泽东、周恩来在中南海丰泽园主持召开国旗、国徽、国歌、纪年、国都协商座谈会。马叙伦等主张暂用《义勇军进行曲》代国歌，徐悲鸿、郭沫若等许多委员表示赞成。
据史料记载，在遴选国歌的过程中，刚开始也有一些人并不是很认同《义勇军进行曲》。持反对意见者认为，《义勇军进行曲》的歌词，至少是歌词里的某些词语已经有些过时了。李立三认为《义勇军进行曲》的“中华民族到了最危险的时候”这句歌词不妥，因为我们用了14年时间赶走了日本侵略者，又用了3年多时间打败了“蒋匪军”，当时的中华人民共和国是欣欣向荣的，怎么会有“到了最危险的时候”的判断？于是，郭沫若等人建议修改歌词“中华民族到了最危险的时候”等历史性的词句。
但是，张奚若、梁思成认为该歌曲是历史性的产物，为保持其完整性，词曲最好不做修改，并举了法国的《马赛曲》为例。
支持者与反对者相持不下之时，毛泽东同志认真听取了大家的意见后，认为不必修改歌词，“我国人民经过艰苦斗争虽然全国快解放了，但还是受帝国主义的包围，不能忘记帝国主义对我国的压迫。我们要争取中国完全独立、解放，还要进行艰苦卓绝的斗争，所以还是保持原有歌词好。”
1949年9月27日，在中华人民共和国开国前夕，中国人民政治协商会议第一届全体会议决议：在国歌未正式制定以前，以田汉作词、聂耳作曲的《义勇军进行曲》为代国歌。
1949年10月1日下午3时，在北京天安门广场隆重举行开国大典，毛泽东主席用洪亮的声音向全世界庄严宣告：“中华人民共和国中央人民政府今天成立了。”接着毛主席按动升旗电钮，伴随五星红旗冉冉上升，《义勇军进行曲》作为国歌第一次在天安门广场响起。
