俞飛鵬在1908年於寧波師範學校畢業，回鄉擔任體育教師；辛亥革命爆發後，俞飛鵬赴上海加入革命軍，在滬軍第五團（團長蔣中正）部下任軍需官。民國成立後，俞飛鵬在蔣中正推薦下進入北京軍需學校就讀，畢業後於北京師範學校、寧波第四中學任職。1921年，俞飛鵬至上海與蔣中正、孫中山會合，後隨之前往廣東，曾被派為縣長、粵軍總司令部審計處長等。
1924年，俞飛鵬出任黃埔軍校軍需部副主任，後又擔任軍校審計處長、經理部主任等，在北伐前夕就任國民革命軍總司令部兵站總監。北伐結束後，俞飛鵬出任軍需署長，後又出任交通部政務次長，在長城抗戰期間負責主持華北後勤業務，抗戰前升任交通部長。抗戰期間，俞飛鵬擔任軍委會後勤部長，1941年起兼任中緬運輸總局局長，負責管制來自緬甸的運輸物資。
戰後，俞飛鵬以交通部長兼任公路總局局長，1947年時晉升二級上將，同年退為預備役，改任糧食部長。俞飛鵬於1949年赴臺灣，並獲聘為國策顧問曾擔任招商局董事長、中央銀行副總裁等。1966年12月19日，俞飛鵬病逝於臺北。著有《抗日戰爭與後方勤務》等。