中国劳动人民早在春秋时期就在采矿、冶炼中，逐渐认识了磁石。
到战国时期，磁石就被人们用来做成器具以判定方向。当时人们常叫“司南”的就是在一个无沿的方向盘上放置一只磁石，形似水勺状，水勺的柄端指向南。
到11世纪的北宋后期，中国人民创造了人工磁铁，此后“指南鱼”又诞生了，所谓的“指南鱼”就是把用磁钢片制成的“鱼”放在水面上，以此指示方向。
后来经过不断的研究和试验，又用细小的磁钢针代替磁钢片，并使它的尖端成为“磁北极，末端成为磁南极，这就成了指南针。
对于指南针的制作和使用，北宋杰出的科学家沈括作了许多科学的说明和分析。到了14世纪初，指南针开始由中国传向世界。