如果从战国帛画算起。我国的绘画至少有两千三百年以上的历史。但把我国的绘画叫做“中国画”，则是近几百年内的事。这个词的产生是在“西洋画”出现之后，泛指一切非西洋画的中国绘画。“国画”一词晚于“中国画”，20世纪20年代使用。这个不同的称呼并不仅仅是文字上的省略，“国画”正是和“国语”、“国术”、“国乐”、“国历”、“国剧”、“国花”一样，先后由中国的进而成为中国国家的。这类称呼后面既包含着资产阶级民族国家观念，也隐藏着封建宗法的嫡庶观念。
我国的绘画，最早叫“丹青”（丹，指一种红色；青，是一种蓝色）。据《汉书·苏武传》说：“竹帛所载，丹青所画。”从此，“丹青”便指绘画。但到了五代、北宋时期，由于绘画的发展，又改叫“图画”。自从苏东坡提出“诗画结合”的主张后，有些人又把它称为“无声诗”，其意思是说，画是一种不能吟咏的诗歌。到了清代，又有人称画为“国画”。新中国建立后，继续使用“国画”一词，曾一度把国画改名为“彩墨画”，但遭到一些人的反对。
1957年经周总理建议，才改称“中国画”，这是为了避免形成只此一家，别的都不是国画的误解。