金樹仁少時在河州書院讀書，1892年中秀才，後獲河州知州楊增新賞識，入甘肅高等學堂並考取拔貢。辛亥革命後，金樹仁曾當選眾議院議員，後回到家鄉任小學校長、師範學校校長。1914年，金樹仁赴新疆投楊增新，擔任書記官，次年調為阿克蘇縣縣長，1926年時升為新疆政務廳長。1928年7月，楊增新遇刺身亡（一說為金樹仁所主導），金樹任繼任新疆省主席，1932年再兼任新疆邊防督辦。由於金樹仁偏重提拔漢族官僚，壓制穆斯林，並推動改土歸流，使得新疆穆斯林在1931年發動哈密暴動，甘肅馬仲英也在此時攻入新疆。
1933年，新疆部分官僚聯合東北抗日義勇軍、白俄歸化軍發動政變，金樹仁原試圖反攻，但做為主力的盛世才也叛變，伊犁屯墾使張培元刻意按兵不動，金樹仁戰敗後宣部下野，逃往蘇聯，不久歸國。同年，金樹仁因擅自與蘇聯締約而被捕，直到1935年獲特赦，金樹仁從此退出政界。1941年9月12日，金樹仁病逝於蘭州。