楊立三出身農家，小學畢業後不久即加入湘軍擔任文書、軍需等，1922年時因不滿時局而離職返鄉，投身教育、農民運動等。1925年，楊立三加入國民黨，在北伐期間曾於湖南組織農民武裝；1927年時又加入中共，並參加毛澤東發起的秋收暴動，後隨軍進入井岡山地區。楊立三在贛南共軍中負責後勤業務，曾擔任紅十二軍軍需處長、紅一方面軍副官長、軍委後方辦事處主任、總供給部部長等，為中共組織了後勤、軍工、兵站系統。
抗戰開始後，楊立三出任總後勤部副部長、部長，1939年時調為八路軍前方總後勤部部長、晉冀魯豫邊區財政委員會主任等。戰後，楊立三仍任中共晉冀魯豫中央局經濟部長，主持華北共軍後勤工作，後升任中央軍委總後勤部部長，亦為中共建政後首任。1952年，楊立三調任食品工業部部長，次年又出任解放軍財務部長，不久因罹患癌症，赴蘇聯療養。1954年11月28日，楊立三病逝於莫斯科。