据考古学家考证，中国是最早发现煤和使用煤的国家。
我们的祖先最早把煤叫做“石涅”，后来又叫“石墨”、“石炭”。古籍《山海经》里曾写道：“女床之山其阴多石涅。”可见煤作为一种矿物质，最迟在战国时期，就已被我国古代的劳动人民所发现和利用。这在我国的古籍中有明确记载，如《史记·外戚世家》：窦太后“弟日窦广国，子少君……为其主人入山作炭，寒卧岸下百余人，岸崩，尽压杀卧者，少君独得脱。”据考古学家考查发现，在我国汉代的冶铁遗址里，有冶炼时使用的各种燃料，其中就有煤饼（即蜂窝煤）。这一重要发现，说明在西汉时期，煤已经不仅用于工业，而且那时的人已经会把开采出来的煤制成煤饼。
据史料记载，到了三国时期，曹操曾在东汉献帝建安十五年（210）修筑铜雀台时，在室井内储存了煤，以备打仗时燃用。后魏时期的一本古籍《水经注》上，有这样一段话：“邺县西三台，中日铜雀台……上有冰室。室有数井，藏冰及石墨。石墨可书，又燃之难尽，亦谓之石炭。”由此可见，当时的皇家贵族已经开始利用煤作燃料。
到了隋朝，煤在民间已经开始通用。历代的王朝为了增加财政收入，独揽厚利，把煤作为自己的专卖品。到了宋朝时期，朝廷已经设有专门卖煤的职务了。到了元代，人们把“石炭”开始称为“煤炭”。
在明朝时期的一本古书《神宗实录》中，记载了一次煤业民户反抗封建统治者而进行群众性斗争的史实。这说明，我国的煤业生产在当时已经是一个大的生产行业，煤的开采与使用也已经十分广泛。
明末清初时期，我国的煤业已经达到当时世界上最高的水平，而且已经能炼出焦炭。欧洲有关煤的开采的最早记载，见于13世纪，比中国晚了1000多年。而且直到18世纪才会用煤炼出焦炭来。