唐玄宗时，张九龄在朝廷任职，特别擅长于识别人才。当他担任左补阙(低级谏官)时，参与吏部考查人才，人们对他工作的评论是：选贤任能，不徇私枉法，不趋炎附势，公允服人。
安禄山第一次进京时，还只是范阳镇军队中一名年青的小军官，但他骄横之色已溢于言表。张九龄看到安禄山后，马上对人说：“将来乱幽州的，恐怕就是这个胡人少年吧。”后来，安禄山率军征讨奚族和契丹等造反的部族时，因违反军律，打了败仗。事后，安禄山被捕，被押送到长安。张九龄在安禄山的卷宗上批示：“春秋时期，齐国大将田穰苴为了维护军威，斩了失期的景公宠臣庄贾；吴国大将孙武在操练中斩杀了不听命令的宫女。如今河北节度副大使张守硅治军严谨，令行禁止，安禄山应予处死。”
唐玄宗却偏偏对安禄山有好感，不同意张九龄的意见，还下令赦免了安禄山。张九龄又劝唐玄宗说：“安禄山有狼子野心，您看他一副桀骜不驯的样子，如果留下来，将来必定是朝廷的祸患，不如按军律规定，杀了他。”
唐玄宗见张九龄执意要杀安禄山，就有些生气了，说：“你不要像西晋的王衍陷害石勒一样，因忌妒安禄山的军事才能而陷害他。我以为安禄山是忠良的臣子!”安禄山后来发动安史之乱，唐玄宗慌慌张张逃出长安，躲到蜀地去了。在蜀地，唐玄宗一想到张九龄要杀安禄山的话就忍不住流泪，悔恨自己当初没有听张九龄的忠告。