黄公望生于南宋成淳五年（1269年），本姓陆，名坚，家住常熟子游巷。由于幼年时父母双亡，家庭贫困，他在10岁左右就给寓居在虞山小山头的浙江永嘉人黄乐作养子。据说，当时黄乐已经90岁了，看到他是一个聪明伶俐的孩子，喜出望外地说：“黄公望子久矣！”从此，陆坚便改姓换名为黄公望，字子久。
黄公望天资孤高，少有大志，12～13岁时就参加了县里的神童考试，后来又博览群书，好学不倦，掌握了广博的学识和技艺。他还曾做过浙西廉访使署书吏，后吃官司被关进监狱。出狱后，黄公望心灰意冷，改号“大痴”，从此不再过问政事，开始了隐士生活，并加入新道教。
黄公望学画起步较晚，50岁出狱后才开始画山水。由于生活坎坷，寒暖自知，他所画的山水，一定亲临体察。他的笔法，初学五代宋初董源、巨然一派，后受赵孟頫的熏陶，善用湿笔披麻皴。他学董源一派画法的作品，至今可以看到很多，《丹崖玉树图》便是其中一幅。《天池石壁图》也是他的杰作之一，可代表他山水画构图繁复的一路。只见画中层峦叠嶂，巨石堆垒，长松杂木，其烟云流润，山石明灭，气势雄浑，苍苍莽莽。构图至繁，状物之皴笔却简略，长而整的线条自然流畅，起落有序，多用赭色，墨青墨绿合染，色调简淡恬雅。所谓“浅绛”法，实为黄公望首创。
黄公望加入新道教，这种宗教修炼，对他也有很大的影响。打坐、降心、炼性，使人虚静凝神。古代文人画家在精神上最重要的修炼就是诗要孤，画要静，从而影响到绘画的风格。凡是心情安稳、静谧的画家，他的笔下一般不会出现马远、夏圭大斧劈皴那样的激荡。远离凡世，画境便不会凡俗。
后来，黄公望的画融合对自然实景的感受，自成一家。其特点在于：作浅绛色山头多矾石，笔势雄伟；作水墨皴纹稀少，笔简意远，超逸有致。论者以为“峰峦浑厚，草木华滋”。这种画注重师法造化，黄公望常携带纸笔描绘虞山、九峰、富春江等地的自然胜景。以书法中的草籀笔法入画，有水墨、浅绛两种面貌，笔墨简远逸迈，风格苍劲高旷，气势雄秀。
黄公望成就最大的是70多岁时所作的长卷《富春山居图》，这幅画以水墨披麻皴描绘富春江一带的秋初景色。构思时，他的足迹遍及富春江两岸，用了6～7年的时间才完成。图为长卷，长636．9厘米，宽33厘米。画中山峰起伏，林峦蜿蜓，平冈连绵，江水如镜，境界开阔辽远、雄秀苍莽、简洁清润。凡数十峰，一峰一状；数百树，一树一态；变化无穷。其山或浓或淡，都以干而枯的笔勾皴，疏朗简秀，清爽潇洒，远山及洲渚以淡墨抹出，略见笔痕。水纹用浓枯墨勾写，偶加淡墨复勾。树干或两笔写出，或没骨写出；树叶或横点，或竖点，或斜点；勾写松针或干墨，或湿墨，或枯笔。山和水全以干枯的线条写出，无大笔的墨，惟树叶有浓墨、湿墨，显得山淡树浓。远处的树有以浓墨点后再点以淡墨，皆随意而柔和。满纸空灵秀逸，气度沉雄，后人称它为“画中之兰亭”。
黄公望与吴镇、倪瓒、王蒙被后人合称为“元季四大家”，其中“以黄公望为冠”，对明清山水画影响极大。黄公望还留有著述，如《写山水诀》、《论画山水》等，都是后世学画的典范之学。