蔡成勳於1900年畢業自北洋武備學堂，後歷任京畿附近駐屯軍副司令、督練處參議、浙江第二十一協統領等。民國成立後，蔡成勳出任北京大總統府侍從武官，次年調任陸軍第一師第一旅旅長、第一師師長。袁世凱逝世後，蔡成勳投靠直系，於護法戰爭中兼任第七軍軍長，後回任第一師師長兼綏遠都統，1920年時調任甘肅督軍兼省長，但未就任，次年任陸軍總長。
1922年，蔡成勳調任江西督理兼贛軍總司令，不久再兼任省長，控制江西全省，1923年時晉升上將。1924年，贛南鎮守使方本仁發動兵變，蔡成勳被迫下野，回到天津隱居。1946年，蔡成勳逝世於天津。