張敬堯少年時在糧食店當學徒，後因涉入強盜案而逃亡，約於1896年投入袁世凱新軍，擔任排長，併入保定軍官學堂第一期；張敬堯畢業後留任北洋軍，辛亥革命前任第六鎮管帶。1912年北洋軍改編，張敬堯任陸軍第六師第十一旅第二十二團團長，次年晉升少將，於二次革命期間鎮壓了南昌的革命黨人，而生為南昌衛戍司令、第三混成旅旅長。1914年，張敬堯因討伐白朗有功，升為第七師師長、晉升中將。護國戰爭開始後，張敬堯任第二路司令官，率部進入四川，從護國軍手中奪回瀘州而晉升上將。
袁世凱逝世後，張敬堯回到河南發展，親近皖系。護法戰爭之初，張敬堯協同吳佩孚、馮玉祥進駐湖南，並出任湖南督軍兼省長，此任命受到吳、馮二人的抵制，他實際上只能控制長沙、岳陽一帶。1920年，張敬堯在直系袖手旁觀的情勢下被湖南本地勢力推翻，段祺瑞也與他劃清界線，張敬堯遂逃往上海。直皖戰爭後，張敬堯投靠奉系，但當奉系在第一次直奉戰爭中戰敗，張敬堯又投靠直系吳佩孚。1925年馮玉祥發動北京政變，張敬堯一度被逮捕，後又轉往山東投張宗昌，任直魯聯軍第二軍軍長、安國軍第二方面軍團副司令等。1928年，張敬堯被北伐軍擊敗，只得隻身逃往大連隱居。1932年，張敬堯與日本公開合作，支持滿洲國並四處召集舊部。1933年5月7日，張敬堯在北平遭軍統刺客暗殺身亡。