宇文融和李林甫等人弹劾张说，张说被罢相，张九龄也受牵连，张九龄改任太常少卿，奉命祭南岳及南海，就便归省。是年秋张九龄回京，仍被指为亲附张说，调任外官，出为冀州刺史。张九龄以老母不欲从之任所为由，表请罢官，改任洪州都督。在洪州任上，写了《在郡怀秋》诗二首，表达了时不能用，忧郁思归的心情，其一为：秋风入前林，萧瑟鸣高枝。寂寞游子思，寤叹何人知。臣成名不立，志存岁已驰。五十而无闻，古人深所疵。平生去外饰，直道如不羁。未得操割效，忽复寒暑移。物情自古然，身退毁亦随。悠悠沧江渚，望望白云涯。路下霜且降，泽中草离披。兰艾若不分，安用馨香为。
张说又被玄宗拜任尚书左丞相、集贤院学士，一病不起，终于病逝，他多次推荐张九龄做集贤院学士。张九龄转任桂州刺史、岭南道按察使、御史中丞，便道归省，与家人欢聚，从桂林乘船顺流巡行按察来到广州。
张九龄再次被召入京，擢秘书少监，兼集贤院学士副知院事，奉旨代撰敕文，对御而作，不须草稿，援笔立成，深为玄宗倚重，在他的文集中，代皇帝起草的敕文多达114篇，两次升任他为中书侍郎。
张九龄时已55岁，屡乞归养，玄宗对他加以重用，并不批准，只是把他弟弟张九皋、张九章就近家乡封官，以便照顾老母。张九皋后官至广州都督兼五府节度经略使，张九章后官至岭南节度使、广州都督，都是统治岭南的封疆大吏。张九龄升任检校中书侍郎，授中书侍郎同中书门下平章事兼修国史，主理朝政。
张九龄建议于河南屯田，引水种稻，遂兼河南稻田使，当时范阳节度使张守琏因为副将安禄山讨伐奚、契丹失败，捉拿护送他到京城，请求按照朝廷典章执行。张九龄奏明皇上说：“张守琏的军令一定要执行，安禄山不应该免除死罪。”皇上特别赦免了他。张九龄上奏说：‘安禄山狼子野心，面有谋反之相，请求皇上根据他的罪行杀掉他，希望断绝后患。”皇上说：“你不要因为王夷甫了解石勒这个旧例，误害了忠诚善良的人。”于是放安禄山回到藩地。
张九龄加封为金紫光禄大夫，累官封他为始兴县伯，李林甫自己不学无术，因为张九龄的品行被皇帝赏识，心理非常妒忌他，于是推荐牛仙客担任知政事，张九龄多次说不行，皇上不高兴。玄宗被李林甫的谗言所惑，玄宗遂迁九龄为尚书右丞相，免去了知政事。后来，宰相每次推荐公卿时，皇上一定会问：“节操、品质、度量能够像张九龄吗？”然后乘马，张九龄体弱，常派人拿着笏板，于是设立了笏囊，笏囊的设立，从张九龄开始。罢相后，再因他荐举的监察御史周子谅弹劾牛仙客，触怒玄宗，坐“举非其人”，贬为荆州长史。
在主理朝政时敢于直言向皇帝进谏，多次规劝玄宗居安思危，整顿朝纲。玄宗的宠妃武惠妃，欲谋废太子李瑛而立己子时，命宫中官奴游说九龄，九龄叱退使者，及时据理力争，从而平息了宫廷内乱稳定了政局，而对安禄山、李林甫等奸佞所为，张九龄更痛斥其非，并竭力挫败其阴谋。
安禄山任平卢将军，在讨伐契丹时失利，张守珪奏请朝廷斩首。之前，安禄山曾入京朝见，拜见过时任宰相的张九龄，张九龄颇有识人之道，明察秋毫，看出安禄山是奸诈之徒，断定日后此人必会作乱，对侍中裴光庭说：“乱幽州者，必此胡也。”此次适逢安禄山干犯军法，被押送京城，奏请朝廷判决，张九龄毫不犹豫在奏文上批示，为严肃军纪，将安禄山斩首，奏文说：“穰苴出军，必斩庄贾；孙武行令，亦斩宫嫔。守珪军令若行，禄山不宜免死。”玄宗不明华夷之辨，看了批文后说：“卿岂以王夷甫识石勒，便臆断禄山难制耶？”玄宗没有最终批准，却为示皇恩，将安禄山释放，最终安禄山反叛，重演了西晋末年，羯族石勒反晋乱华的一幕。
张九龄因病去世，终年六十八岁，皇上赠封他为荆州大都督，谥号叫文献。在死后不久，曾被其断言“必反”的安禄山，果然掀起了“安史之乱”，从而导致唐朝迅速从“全盛”走向没落，唐玄宗奔蜀，因追思张九龄的卓见而痛悔不已，遣使至曲江祭张九龄，追赠其为司徒。
喜欢史事讲将2隋唐五代请大家收藏：史事讲将2隋唐五代本站更新速度全网最快。