伴随社会的进化，人类计算的方法也在不断地进步。远古时代，人类的祖先利用手指、石块或小树枝来进行简单的计数。后来，人类发明了筹算法，拿小竹棍竖摆代表1，横摆代表5，这样就可以用较少的竹棍表示较大的数值。再后来，这种方法也不能满足人类社会的需要了，于是，算盘在公元前14世纪应运而生，它是适应经济不断发展需要而出现的产物。
可以说算盘及随后出现的计算尺是计算机最早的雏形。为什么这么说呢？因为这是人类的原始手工计数向利用工具计算的一次飞跃，计算工具方面的一系列变革就是从这里开始的。当然，由这个雏形发展到真正的计算机则需要一个漫长的历史过程。
一直到17世纪，机械计算机的出现才使计算机技术向前跨了一大步。1642年，法国著名数学家帕斯卡制成了第一台只能做加法运算的机械式计算机。1818年，一种比较实用的手摇式计算机被法国人托马斯设计出来，并于1821年建厂投产，生产了15台，开创了计算机制造业的先例。但是与其他科学技术相比，计算机技术的发展速度还是相当缓慢的。
从18～20世纪，西方国家许多人都为改进这种落后于实际要求的计算机做出了极大的努力。英国数学家巴贝齐就是其中之一。他对研究计算机很是着迷，把一生的主要精力都放在了设计计算机的工作上。历史上第一次实现利用程序完成连续运算的计算机——差分机就是巴贝齐设计的。
历史进入了20世纪40年代后，电子计算机才开始了近代意义上真正的发展和突破。20世纪40年代，火箭、原子弹、导弹技术迅速发展。第二次世界大战非常紧张激烈，交战双方都想在装备上胜对方一筹，科学家在两种不同性质的爱国热情的驱动下玩命似的进行各种研究。在研究过程中，随之而来的极其繁琐、复杂的数学计算问题越来越多，这些问题的解决又往往需要在很短的时间里进行几千、几万、几亿甚至几十亿次的数值计算。手摇或机械式计算机不仅劳民伤财，而且最令研究人员不放心的是精确度也难以保证。现实迫使人们要对机械式计算机做根本性的变革。
世纪40年代初，一个计算机研制小组在美国成立，由30多岁的工程师莫西莱、24岁的艾克特和年轻的格尔斯坦等组成。在他们齐心协力的工作下，到1945年年底，世界上第一台电子计算机诞生了。
第一台电子计算机看上去像个庞然大物，它全部采用电子管制造，共计用了18000个电子管，电子管大的像萝卜，小的像花生米。它的体积有90立方米，重量达30多吨，占地170平方米，需要一间30多米长的房间才能容纳得下。它每秒可做5000次加法、400次乘法，比机械式计算机要快好几百倍。它还有一个巨大的特点是整个计算过程都是按照预告编好的程序自动进行。这就是人们通常所说的第一代电子计算机。
第一代电子计算机太大了，这主要是因为那些电子管需要很大的空间。利用半导体材料制成的晶体管催生了第二代计算机，使电子计算机体积过大的弊病得到部分解决。半导体技术的出现促进了计算机向小型化方向发展。第二代计算机的体积只相当于并排摆放的大衣柜，可它的计算速度却提高到了每秒几百万次。
人类对自然社会永远是那么的好奇，人类的创造力是无穷无尽的，同样对计算机的研究也是如此。人们不仅要求汁算机有计算的功能，而且要具有智能。20世纪80年代开始研究的第五代计算机不再限于只能听从人的指挥去干活，而是有了一定的逻辑判断能力，变得会“思考”了。它可以代替人类去驾驶飞机、帮助医生去诊疗病人、去深海探宝、去遨游太空等等。计算机发展已步入智能化时代。
人类进入了21世纪后，电子计算技术的发展更是日新月异，人工智能更成为一个新兴的课题，且发展较快。相信在不久的将来，通过研制智能计算机，人类自身将获得更大程度的解放。