林長民出身官宦家庭，於1897年中秀才，並學習英語、日語，曾從事翻譯。1906年，林長民赴日留學，入早稻田大學政治經濟科，1909年畢業後回到福建，任省諮議局書記長、法政學堂教習，並曾參加國會請願運動，後又創辦私立法政學堂。
1911年，林長民的堂弟林覺民死於黃花崗之役，林長民遂投入革命派，在辛亥革命期間代表福建省參與各省都督府代表聯合會，並參與《中華民國臨時約法》的制訂。民國成立後，林長民加入張謇的統一黨，後又轉至共和黨、進步黨，並當選為眾議員、眾議院秘書長，曾參與《天壇憲草》的制訂。
1916年國會重開，林長民續任議員，並於1917年出任司法總長，後又任總統府外交委員兼事務主任、國際聯盟同志會理事等。1922年，民元國會再次恢復，林長民三度出任眾議員，但因反對曹錕賄選而轉赴上海，任私立福建大學校長。段琪瑞執政府建立後，林長民任國憲起草委員會委員，後又為奉軍將領郭松齡聘為秘書。1925年，郭松齡起兵反奉，林長民亦隨之參戰；但郭松齡在巨流河戰敗，林長民混在亂軍中撤退，12月24日，林長民於奉天新民縣蘇家屯附近遭遇亂兵襲擊，在混戰中中彈身亡。著有《鐵路統一問題》。