木牛流马最早可追溯到春秋末期。据王充在《论衡》中记载：鲁国木匠名师鲁班为其老母巧工制作过一台木车马，且“机关具备，一驱不还。”也许是受了鲁班木车马的启发，约七百年后，三国时代的诸葛亮发明了木牛流马，用其在崎岖的栈道上运送军粮，且“人不大劳，牛不饮食”。与王充记载鲁班木车马的寥寥数语相比，《三国志》、《三国演义》等书对诸葛亮的木牛流马的记述可算是绘声绘色、活灵活现、极为详尽了。
《三国演义》第一百零二回中，有诸葛亮制造木牛、流马的描述，说这种运输工具“搬运粮米，甚是便利，牛马皆不水食，可以昼夜（转运）不绝”。司马懿闻报，派人去抢了数匹，命巧匠仿制二千余匹，并让军士驱驾木牛、流马，到大本营搬运粮草，往来不绝。谁知诸葛亮派人以魏军打扮混入运输队，暗中将木牛、流马口中舌头扭转，牛马便不能行动。正当魏兵疑为怪时，诸葛亮又派五百军士扮作神兵，鬼头兽身，以五彩涂面，边燃放烟火，边驱牛马而行。魏兵目瞪口呆，以为诸葛亮有神鬼相助，不敢追赶，诸葛亮轻而易举地获得许多粮草。这么神奇的运输工具，在当时可算是巧思绝作了。由于《三国演义》描绘得太奇妙，以致于不少人认为，所谓木牛、流马纯系小说家的杜撰，或者说是诸葛亮的巫术。但查考史书，可见诸葛亮确实制造过木牛、流马。《三国志·诸葛亮传》记载：“（建兴）九年（231年），亮复出祁山，以木牛运，粮尽退军……十二年春，亮悉大众由斜谷出，以流马运，据武功五丈原，与司马宣王对于渭南。”上述记载没有《三国演义》描绘得那么神奇，但从中可见诸葛亮以木牛、流马运粮的历史事实。
木牛、流马究竟为何物？《诸葛亮集》中的一段文字对木牛形象作了描绘，下文还对流马的部分尺寸作了记载，但因没有任何实物与图形存留后世，多年来，围绕着木牛、流马，人们作过许多猜测。一种意见认为，木牛、流马是经诸葛亮改进的普通独轮推车。这种说法，源自《宋史》、《后山丛谈》、《稗史类编》等史籍，意谓木制独轮小车在汉代称为鹿车，诸葛亮加以改进后称为木牛、流马，北宋才出现独轮车之称。此说还以四川渠县蒲家湾东汉无名阙背面的独轮小车浮雕等实物史料为佐证，认为这些东汉的独轮车，都再现了木牛、流马的模样。一种意见认为，木牛、流马是新颖的自动机械。《南齐书·祖冲之传》说：“以诸葛亮有木牛流马，乃造一器，不因风水，施机自运，不劳人力。”这是指祖冲之在木牛流马的基础上，造出更胜一筹的自动机械。以此推论，三国时利用齿轮制作机械已为常见，为后世所推崇的木牛流马，不可能是汉代已有的独轮车，而是令祖冲之感兴趣的、运用齿轮原理制作的自动机械。第三种意见认为，木牛、流马是四轮车和独轮车，但是何者四轮，何者独轮却观点截然相反。宋代高承《事物纪原》卷八说：“木牛即今小车之有前辕者；流马即今独推者是，而民间谓之江州车子。”而范文澜则认为，木牛是一种人力独轮车，有一脚四足。所谓一脚就是一个车轮，所谓四足，就是车旁前后装四条木柱；流马是改良的木牛，前后四脚，即人力四轮车。
清袁枚《新齐谐》卷十三《江秀才寄话》记载了这样一件事：婺源秀才江水，家中耕田都用木牛。他出行时，骑一木驴，不食不鸣，人们以为是妖术。他笑道：“此武侯成法，不过中用机关耳，非妖也。”其实，诸葛亮的木牛流马是在长期社会实践中创造出来的，代表了古代科学技术在某些方面的成就。而《三国演义》在民间传闻的基础上，为其罩上了巫术文化的面纱，使其神秘化了，与历史的真实面貌相去甚远。不过，正因为神秘，才更加吸引人，《三国演义》在民间的影响才更加深远。