林柏生早年就讀高州中學，1920年時升入嶺南大學，但因參加學運而遭退學，後在執信中學任職。1925年，林柏生受聘為汪兆銘的秘書，並派往蘇聯莫斯科中山大學留學，一年後歸國並出任黃埔軍校政治教官。寧漢復合後，汪兆銘被迫赴法國考察，林柏生亦隨行，並在法國創辦《留歐通訊》（後改稱《歐美通訊》）。1929年，林柏生回到香港活動，創辦《南華日報》、上海《中華日報》等刊物，並出任僑委會常委、立法委員等，被視為汪兆銘的親信。
抗戰開始後，林柏生避居香港，後隨汪兆銘至上海成立南京國民政府，擔任汪兆銘控制下的國民黨中央宣傳部長、中常委、政治會議委員等；1944年時又出任安徽省長。戰後，林柏生隨陳公博逃往日本，但隨即被遣送回國，並以漢奸罪名判處死刑。1946年10月8日，林柏生於南京被處決。