原名李永順，齋號師牛堂，1907年出生於徐州的農民家庭。 1920年13歲那年，便從師當地畫家錢食芝學習八大山人的山水畫法。 1923年考入上海美專師範科，1929年考入蔡元培開辦的杭州國立藝術專科學院。 此時他接觸了油畫，又受林風眠、潘天壽影響，探討傳統水墨畫的革新問題。 1932年舉行第一次個人畫展。 其創作的《鍾馗》於1937年入選南京第二屆全國美展。 1938年抗日戰爭期間，他到武漢參加郭沫若領導的政治部三廳從事抗日宣傳工作。 期間較受注意的宣傳作品如《是誰破壞了你快樂的家園！ 》等，多存在報紙等大量複製品，其餘牆壁上所作僅有底片留存。 1939年武漢危急，李可染輾轉經長沙、貴陽取道入重慶。 1942年於重慶致力創作，參加當代畫家聯展，發表《屈原》《王羲之》《風雨歸牧》《牧童遙指杏花村》等，其中《牧童遙指杏花村》為徐悲鴻訂購。 李可染在重慶居所靠近牛棚，此後有更多畫牛的主題。 1943年任重慶國立藝術專講師，1944年在重慶中蘇友善協會舉辦國畫個展。 1946年應徐悲鴻之邀赴北平國立藝專任教，並與林風眠、方幹民、吳大羽、朱德群、趙無極、胡善餘等參加重慶「獨立美展」。 1949年創作寫意人物畫《街頭賣唱圖》。 1954年與張仃、羅銘一同旅行寫生。 1957年與關良訪問東德並在柏林科學院舉辦畫展，兩年後在布拉格舉辦畫展並出版畫集。 1964年創作了《萬山紅遍》，將傳統的「積墨法」和自己自創的「積色法」結合。 1974年在批「黑畫」運動中受到批鬥，文化大革命期間停畫六年。 1979年選為中國美協副主席，1981年任中國畫研究院院長，1985年再度被選為中國美協副主席。 1989年逝世於北京西城區，遺體葬於八寶山革命公墓。