李濟少時入私塾、縣立小學堂等，1907年時進入北京南城五城中學就讀，再升入北京師範學堂附中、清華學校等。1918年，李濟自清華學校畢業並赴美國留學，入克拉克大學（Clark University）學習心理學、社會學，1920年取得碩士學位後又入哈佛大學（Harvard University）深造。1923年，李濟以取得人類學博士學位後返國，於南開大學、清華學校研究院任教，並展開田野調查。1928年，李濟出任中研院歷史語言研究所考古組主任，不久接手河南殷墟的發掘，以及中央歷史博士館的籌備工作。
抗戰期間，李濟與中研院一同西遷，期間仍持續進行研究，戰後又隨各學術機構返回南京，並前往日本調查戰爭期間遭掠奪的古物。1948年，李濟獲選為中研院首屆院士，翌年轉赴臺灣，於臺灣大學執教，並創辦考古人類學系。1955年，李濟舊任中研院史語所所長，直到1972年卸任。1978年8月1日，李濟於臺北病逝，其子李光周則承襲父業。