当时的晋阳南面是强大的匈奴前赵，北面是正在崛起试图染指中原的拓跋鲜卑的代国，东面是和段部鲜卑结盟的幽州刺史王浚。刘琨和拓跋鲜卑首领拓跋猗卢结盟，和前赵石勒等大将的战斗互有胜负。一个叫徐润的人因为懂得音律得到刘琨的重用，此人无能而飞扬跋扈。奋威将军令狐盛进言要刘琨除去徐润，反被徐润诬杀，造成其子令狐泥等人的反叛。刘琨吸引了许多志愿抗击匈奴、羯人的志士，但当时粮食极端缺乏，而且刘琨的性格和能力又存在一些缺陷，终于使不少人离他而去。
建兴元年（313），晋愍帝继位，封刘琨大将军、都督并州诸军事。此时石勒在晋阳的东南襄国（今河北邢台）拥兵割据，势力日盛。他修书刘琨假意降晋，出兵消灭与刘琨有矛盾的王浚，而刘琨作壁上观。
建兴三年（315），前赵刘曜击败刘琨，但因要攻打长安回兵。刘琨被晋愍帝封为司空、都督并冀幽诸军事。次年刘曜攻破长安，西晋灭亡。
建兴四年（316），石勒出兵进攻并州，刘琨不听劝阻全军尽出，中了埋伏大败，丢了并州，只身投奔鲜卑首领段匹磾。
建武元年（317），刘琨联合段部鲜卑的军队讨伐石勒，因段部鲜卑内部不和而流产。太兴元年（318年），段部鲜卑内斗，刘琨被段匹怀疑并投入牢中，并于次年6月22日被缢杀，时年四十八岁。子侄四人一同被害。
闻鸡起舞
祖逖和幼时的好友刘琨一同担任司州主簿。他与刘琨感情深厚，不仅常常同床而卧，同被而眠，而且还有着共同的远大理想：建功立业，成为栋梁之才。
一次，半夜里祖逖在睡梦中听到公鸡的鸣叫声，他一脚把刘琨踢醒，对他说：“别人都认为半夜听见鸡叫不吉利，我偏不这样想，咱们干脆以后听见鸡叫就起床练剑如何？”刘琨欣然同意。于是他们每天鸡叫后就起床练剑。后来两人都成为文武全才。祖逖被封为镇西将军，实现了他报效国家的愿望；刘琨做了都督，兼管并、冀、幽三州的军事，也充分发挥了他的文才武略。
一曲胡笳救孤城
刘琨善吹胡笳。公元307年，刘琨出任并州刺史，进驻晋阳城。有一次，数万匈奴士兵将晋阳围困住。如与敌军硬拼，必然兵败城破，刘琨见势不妙，于是一面严密防守，一面修书请求援军。过了七天援军还未到，城内粮草不济、兵士恐慌万状。刘琨登上城楼，俯眺城外敌营，冥思苦想对策。忽然他想起“四面楚歌”的故事，于是下令会吹卷叶胡笳的军士全部到帐下报到，很快组成了一个胡笳乐队，朝着敌营那边吹起了《胡笳五弄》。他们吹得既哀伤、又凄婉，匈奴兵听了军心骚动。半夜时分，再次吹起这支乐曲，匈奴兵怀念家乡，皆泣泪而回。
刘琨作品精选
扶风歌
朝发广莫门a，暮宿丹水山b。左手弯繁弱，右手挥龙渊c。
顾瞻望宫阙，俯仰御飞轩d。据鞍长叹息，泪下如流泉。
系马长松下，发鞍高岳头e。烈烈悲风起f，泠泠涧水流g。
挥手长相谢，哽咽不能言。浮云为我结，归鸟为我旋h。
去家日已远，安知存与亡？慷慨穷林中j，抱膝独摧藏k。
麋鹿游我前，猿猴戏我侧。资粮既乏尽l，薇蕨安可食m？
揽辔命徒侣，吟啸绝岩中n。君子道微矣，夫子固有o。
惟昔李骞期，寄在匈奴庭p。忠信反获罪，汉武不见明q。
我欲竞此曲r，此曲悲且长。弃置勿重陈s，重陈令心伤！
【注释】
a.广莫门：晋都洛阳城北门。汉朝洛阳城北面有二门，一曰谷门，一曰夏门。魏晋之后改谷门为广莫门。
b.丹水山：即丹朱岭，丹水发源处，在今山西高平县北。丹水由此东南流入晋城县界，又南入河南省，经沁阳县入沁水，是为大丹河。刘琨出任并州刺史，由洛阳出发，丹水为其必经之地。
c.弯：拉弓。繁弱：古良弓名。龙渊：古宝剑名。这两句是说他戎装出发。
d.顾瞻：回头看。御：驾。飞轩：奔驰如飞的车。这两句是说出广莫门时回望宫阙，便驾车飞驰而去。
e.发鞍：即卸下马鞍。这句和上句是说在丹水山的长松下系马，在高山头卸下马鞍。
f.烈烈：风的威力。
g.泠泠：水声。
h.谢：辞别。哽咽：悲泣至于声气结塞。这两句是说挥手与京城长辞，悲痛得说不出话来。
i.结：集结。归鸟：一本作飞鸟。旋：盘旋。这两句是说，自己的悲痛以至于使浮云为之聚结，飞鸟为之盘旋。
j.慷慨：指悲歌慷慨。
k.摧藏：即凄怆，伤心感叹的样子。
l.资：钱。
m.薇蕨：一种野菜，嫩时可以吃。安可食：怎么能吃呢？
n.揽辔：拉住马缰绳。徒侣：指随从。吟啸：即吟诗。绝岩：绝壁。这两句是说拉住马缰绳，命令随从启程，在悬崖绝壁的险径中歌唱。
o.微：衰微。夫子：指孔子。故：一本作固。《论语·卫灵公》记载，孔子在陈国绝了粮食，跟随的人都饿病了，子路很不高兴地见孔子说：“君子也有穷得毫无办法的时候吗？”孔子说：“君子虽然穷，还是坚持着；若是小人，一到这时候便无所不为了。”这两句是说君子之道衰微不行，像孔子那样都有穷困的时候。用来比喻自己的困阨。
p.李：指汉李陵。骞：与愆字通。愆期：错过期限。这里指李陵逾期未归汉朝。据《史记·李将军列传》记载，李陵于汉武帝天汉二年（前99）率步卒五千人出征匈奴，匈奴用八万士兵围击李陵。由于敌我兵力相差悬殊，李陵战败，并终于投降了敌人。汉武帝因此把他全家都杀了。这两句是说李陵出征匈奴过期未回来，流落在匈奴那里了。
q.忠信：指李陵，司马迁在《报任安书》中说李陵“身虽陷败，彼观其意，且欲得其当而报于汉。”不见明：不被谅解。这两句是说忠信反而获罪，不被汉武帝谅解。当时刘琨领匈奴中郎将，故以李陵自喻，说明自己讨伐外族入侵者不见功效，区区孤忠，不见谅于朝廷。
r.竟：指奏完。此曲：指《扶风歌》。
s.弃置：放在一边。重陈：再次陈述。
【题解】
此篇是作者在晋怀帝永嘉元年（307）受任并州刺史，九月末自京城洛阳前往并州治所晋阳（今山西太原西南）途中所作。当时黄河以北，已成为匈奴、羯等少数民族争战角逐之场。据《晋书》本传载：“并土饥荒……余户不满二万，寇贼纵横，道路断塞。”作者是怀着匡扶晋室的壮志冒险犯难而去的。他采用乐府旧题写作此篇，充分反映途中的艰辛情状和胸间的义愤，慷慨悲凉，是我国中世纪诗歌创作中一篇罕见的杰作。
首节四句写登程；次节写恋阙心情；三节写途中小憩；四节写小憩中的心情；五节继写一时心中所想。这时心头萦绕不去的是离家日远，前路茫茫，境地险恶，存亡未卜；六节写当前困境。身处穷林，唯与麋鹿、猿猴为伍。资粮乏绝，无以充饥。看看麋鹿、猿猴还有野草、山果果腹，可以游戏自得，实在令人自叹不如；七节写困境中的自慰、自奋；八节是在自慰、自奋之余，又作转折，写出内心的隐忧；九节是全篇的结尾。说明作者前途艰危正多，路也正长，有如他所要歌唱的曲子一样悲而且长。
全篇九节，一气贯注；逐解换韵，声情激越。既多侧面地表现了辞家赴难、身处穷窘、义愤填膺的作者的完整形象，也真实地反映他所处的时乱世危、朝廷不振、凶荒满目的现实环境，有着史的价值。全诗辞旨愀怆悲壮，千载之下，感人犹深。