熙宁九年，王安石携带家人回到江宁府。在江宁城东门外的一座山的半山腰，购买了一处低洼积水之地，开始建造自己的园林。园林建成后取名半山园。在这里王安石度过了他的晚年生活。
寻山问水是王安石一生的喜好，大自然永远是他的朋友。在繁华喧闹的东京呆了七年之后，他像倦鸟归林，无时无刻不想与大自然相依相伴。
在离开东京时，神宗曾赐给他一匹马，说送给他做脚力。王安石又买了一头驴。凡出游，或骑马，或骑驴，不坐轿。有人建议他，年龄大了，骑马不安全，不如坐轿子。王安石回答说：“拿人当牲口，不习惯。”
在熙宁十年后的江宁，农民们经常可以看到一个老者，穿着普通的宽衣，骑着一匹黑驴，旁边走着一个迟钝的骑驴汉子，在野外四处漫游。说是漫游，因为王安石出游，随随便便，无预定目的地，完全凭兴致。
好佛、道的思想和感情有了进一步发展。儿子的死对他的打击是致命的。在这突如其来的打击下，他自然而然地选择了佛教作为精神避难所。听讲佛法、读经、研习佛道义理成了他生活的重要部分。王安石晚年所读的佛经主要是《维摩诘经》和《楞严经》，所信奉的主要是禅宗。在王安石晚年的诗里，随处可见禅的气息。有许多诗，本身就是用禅宗语言。
此外，与朋友相往来，也是王安石晚年生活的重要内容。在晚年交往的对象中，只有吕嘉问是昔日变法派成员，他的得力助手。其他都是一些“处士”，他们讨厌科举，放浪形骸，孤介寡合，独来独往。此时，与之交往密切的，其中有俞秀老、俞清老、杨德逢等。王安石经常与这些处士交流一生的心得和感悟，还有一些很容易沉浸和陶醉的事情。
元祐元年（1086年）四月，王安石的心脏停止了跳动，终年68岁。中国历史上一位大名鼎鼎的变法宰相，一位满腹经纶、才思睿智的博学文臣，一位性情豪迈、卓尔不群的士人，就这么永远地去了。
在王安石身后长达千载的岁月中，人们对他的褒贬毁誉，莫衷一是。不管怎样，一个谁也无法否认的事实：王安石，在中国历史上曾写下令后人永远争论不已的一页。然而，争议本身就意味着价值。