在1971年联合国大会第26届会议上，中国恢复在联合国的一切权利，承认它的政府的代表为中国在联合国组织的唯一合法代表，并立即把蒋介石的代表从他在联合国组织及其所属一切机构中所非法占据的席位上驱逐出去。 投票结果以76票赞成、35票反对、17票弃权的压倒多数通过。
但中国在“恢复在联合国的合法席位”这条路上走的并不容易。
1971年7月15日，17个成员国提出将“恢复中华人民共和国在联合国组织中的合法权利”问题加入第26届联合国大会的议事日程，并声称中华人民共和国作为“联合国的创始国和安理会的常任理事国，其依法所应占有的席位自从1949年以来就被系统操纵的排除在联合国以外”。
1971年9月25日，23个成员国向联合国提交了决议草案以及附加文件。这23个国家中包括了15日提议将该问题列入议事日程的17个国家。
1971年9月29日，22个成员国向联合国提交了另一项决议草案，该决议草案提议：任何试图剥夺中华民国代表权的提案都是涉及联合国宪章18条的重大问题，因此需要三分之二的会员国赞成方可通过。
1971年10月25日，美国提议将决议草案中“把蒋介石的代表从它在联合国组织及其所属一切机构中所非法占据的席位上驱逐出去。”作为另一项议案另行表决。这一提议如果获得足够的赞成票，将使得中华人民共和国代表中国参加联合国，同时“中华民国”仍然保持其联合国普通会员国的席位。这一提议在表决中以61票反对，51票赞成，16票弃权的结果未获通过。
“中华民国”代表发言时表示：拒绝该草案及其附加文件是公然违反联合国宪章中关于开除会员国有关规定的行为，“中华民国”代表团决定就此退出联合国大会。
依照联合国组织程序来说，此决议草案并不涉及到应由安理会表决的开除成员国问题，而只是一项应由联合国大会表决的外交承认问题，因此理论上来说“中华民国”并不是被开除了，联合国只是承认中华人民共和国取代了“中华民国”的席位，就好像“中华民国”不复存在了一样。
直到1971年10月25日，联合国大会第1976次会议以76票赞成、35票反对、17票弃权的压倒多数，通过了阿尔巴尼亚、阿尔及利亚等23个国家提出的要求“恢复中华人民共和国在联合国的一切合法权利，立即把蒋介石集团的代表从联合国一切机构中驱逐出去”的提案。
26日，中国代理外交部长姬鹏飞收到联合国秘书长吴丹发来的正式通知，中华人民共和国在联合国和安理会中被非法剥夺了20多年的席位得到恢复。
1971年11月9日下午，乔冠华率中国代表团前往纽约出席参加第二十六届联大会议。
1971年11月15日上午，乔冠华、黄华、符浩、熊向晖等走进联合国大会议会厅就座。乔冠华坐在中国代表团排头第一位的席位上。最后登上讲台的、也是新中国代表第一次正式登上联大讲台的是乔冠华。乔冠华发言结束时，热烈的掌声长时间地回荡在联合国大厅。乔冠华作为第26届联大中国代表团团长在联合国讲坛上为中国人扬眉吐气，“乔的大笑”潇洒豪放成为中国外交自信的符号，当时被各国媒体称为“震慑议会大厦的玻璃。”