林虎具有壯族血統，早年隨父親遷居江西，並於1901年入江西武備學堂，與李烈鈞為同學，但林虎未完成學業即離校，投入江西常備前軍統領岳鳳梧部為哨官，不久調回廣西新軍郭人漳部任職，並與郭一同加入同盟會，改名林虎，後又調任欽州邊防前路督帶。
辛亥革命期間，林虎率部響應並前往南京，改編為陸軍部警衛混成團，林虎任團長，後又調為西陸軍第一師第一旅旅長。二次革命爆發後，林虎偕同李烈鈞對抗袁世凱，任江西討袁軍左翼司令，戰敗後轉往日本，並加入中華革命黨，又組織歐事研究會。1915年，林虎回到廣西勸說陸榮廷起兵反袁，並出任護國軍第六軍軍長，後任高雷鎮守使、肇羅陽鎮守使等。
1918年，舊桂系驅逐孫中山，林虎出任護法軍政府陸軍次長、粤桂邊防軍總司令；1920年孫中山回到廣州，林虎辭職下野，並拒絕與孫中山合作。1922年，林虎與陳炯明取得聯繫，重組軍力並擔任陳與北京政府之間的聯絡人，並獲授為寰威將軍、廣東督辦。1925年，林虎部在東征期間被國民革命軍消滅，林虎逃往上海。1927年北伐軍進入上海後，林虎又轉往法國避禍。
1929年林虎回國，於家鄉經營農場，後在李宗仁協助下於抗戰期間擔任國民參政會參政員，後亦獲選制憲國大、立法委員等。中共建政後，林虎仍留在廣西，晚年曾出任廣西省人民政府參事、廣西省（自治區）政協副主席、全國政協常委等。1960年2月8日，林虎病逝於南寧。