祖冲之于429年出生在建康（今江苏南京）。祖冲之的祖籍是范阳，西晋末年迁居到江南。南朝刘宋王朝时，祖冲之做过徐州剌史刘子鸾的从事，后来又担任他府中的公府参军，刘子鸾被杀后，祖冲之被调到娄县去做了县令。刘宋孝武帝时，祖冲之曾在华林学省学习，在这里，他进行了很多科学研究。南齐发生内乱时，祖冲之在给齐明帝的上书《安边论》中建议朝廷开垦荒地，发展农业，安定民生，巩固边防。齐明帝深受感动，决定派祖冲之前往各地巡查，但还未成行时，祖冲之就去世了。
祖冲之一生对仕途并不热衷，他的主要兴趣是在学问研究上，不论是自然科学、文学还是哲学，他都很喜欢，对数学、天文和机械制造尤其钟爱。在数学领域，祖冲之最光辉的成就是精确推算了圆周率，他推算出圆周率的值在3.1415926和3.1415927之间。它的“约率”为22/7，“密率”为355/113。这是当时世界上最精确的圆周率值。直到1357年，欧洲才有一个德国数学家推算出这个数值。所以，圆周率值也被称为“祖率”。他的数学专著《缀术》，影响极大，一直到唐朝还是官办学校必修的数学课程，考试题目也大多出自其中，可惜这部书到北宋中期竟然失传了。
在天文历法方面，祖冲之经过长期的观察研究，取得了一些创造性的成就。首先是改革闰法，中国历法采用阴阳合历，阴历与阳历年的时间并不相等，为改变这一现状，古人采用在阴历年置闰的方法解决，祖冲之时代，历法为17年9闰，并不准确，祖冲之通过研究，提出每391年应该有144个闰年，这种方法更为精确，也是最先进的。祖冲之还推算出岁差是每45年11个月后退1度，而且在制定历法时，使用了岁差理论，这在天文历法史上是一个创举。他根据自己的研究成果编制了当时最科学、最进步的历法——《大明历》，但是这部历法在祖冲之去世10年后才被正式使用。祖冲之还改造了水碓磨、指南车、欹器等，有的至今还被人们使用。
在哲学领域，他曾著有《易义》、《老子义》，还注释过《论语》、《孝经》、《楚辞？九章》等。
祖冲之“搜炼古今”，但是绝不“虚推古人”。在吸取古籍文献中精华的同时，他对前人的研究成果中的错误和不足也予以纠正补充。他坚持科学真理，成就斐然，成为后世科学家的光辉榜样。
祖冲之的辉煌成就，为他博得了极高的声誉，我国紫金山天文台发现的一颗小行星就是用他的名字命名的；法国巴黎科学博物馆“发现宫”的墙上列有世界著名科学家的名字，祖冲之的名字也在其中；俄罗斯莫斯科大学的大礼堂走廊上，有祖冲之的彩色塑像；祖冲之的名字还被用来命名月球上的环形山。