隋代山水画，从人物故事的背景中独立出来。其中展子虔的《游春图》是迄今为止存世最古老的山水画，以青绿山水的风貌，开创了我国山水画的端倪。并且初步探讨了“咫尺千里”的透视观。

唐代山水画出现了青绿和水墨两种不同风格。山水画家李思训及李昭道的青绿山水画继承着展子千的传统而发展。盛唐时期山水画出现重大变革，诗人王维创水墨渲染“破墨”山水。

古代时期山水画家，形成了以中原画家荆浩、关仝代表的北方重峦峻岭和以南唐画家董源，巨然为代表的江南秀丽风光这两种不同的风格和画派。前者气势宏伟，雄浑壮阔；后者平淡天真秀美，抒情。

北宋山水画以李成，范宽成就最高，他们的代表作分别有《读碑窠石图》、《溪山行旅图》。南宋时期号称南宋四家的李唐，刘松年，马远，夏圭已清奇峭拔的形象和简括的笔墨开创了空灵雅秀的南宋院体山水画风。

元代中晚期山水画对后世有重大影响的画家是元四家:黄公望，吴镇，倪瓒和王蒙，他们是江浙一带的文人擅长山水以绘画作品鲜明的表现心境和生活情趣。

明代前期已浙派山水为主流，杰出代表是戴进与吴伟。明末涌现的文人山水画派更重笔墨总体表现力与文化修养。董其昌的华亭派对文人山水画贡献最大，他提出以纯化文化为宗旨的南泳北论，建构了以南宋为人山水画为绘画最高境界的理想模式，产生深远影响。

清代早期山水画直承董其昌一派的四王被视为画坛正宗。另有同时期的四僧，与清中期的扬州八怪冲击了社会上流行的正动画风，独具特色。