淮西被平定之后，朝廷扬威，藩镇丧胆，纷纷表示归顺朝廷。唐宪宗的“中兴”之业如日中天。于是“群臣请刻石纪功，明示天下，为将来法式”。宪宗当然很乐意，就把这个光荣的任务交给了韩愈。韩愈是淮西之役的亲身经历者和功臣，更是公认的古文大家，由他来撰写碑文，当然是众望所归。韩愈接到诏命，倍感荣耀，同时也深感责任重大，因为要把此碑写成“为将来法式”，实非易事。他“经旬涉月，不敢措手”。经过七十多天的认真撰写，《平淮西碑》方才脱稿。韩愈将碑文进呈宪宗，宪宗很高兴，命人将碑文抄录若干份，分赐平淮西的功臣，又将原树于蔡州紫极宫内的《吴少诚德政碑》的碑文磨去，刻上韩愈的碑文。
《平淮西碑》分为序和铭两大部分：序用散文，铭用韵文。序文大体分五部分：第一部分以颂大唐功德领起全文，义正词严，凛然不可侵犯；第二部分叙写宪宗即位之初的平蜀之功和决心讨伐不臣之蔡；第三部分叙写宪宗伐蔡的具体部署，全用皇帝诏言，以突出宪宗伐蔡之果断和所起的主导作用；第四部分叙写平蔡的经过，分叙各个战场上主将们的战功，突出裴度临师指挥，诸将合力的效果，并详述李愬雪夜奇袭蔡州的过程，裴度怀柔蔡人的政策及善后工作；第五部分写皇帝行赏。铭文内容与序文大同，只是文风有别：序文朴质简要，铭文酣畅飞动。前人说《平淮西碑》序文似《尚书》，铭文如《诗经》。此说诚然不错。
但令人意想不到的是，《平淮西碑》刻成不久，就相继发生了李愬之妻诉碑文不实和所谓石孝忠砸碑事件。李愬之妻是唐安公主之女，而唐安公主是德宗之女，所以李愬之妻可以出入禁中，从中挑唆其事，而所谓韩碑“不实”之论，说到底就是一点：平定淮西，是裴度功劳第一，还是李愬的功劳第一。李愬妻之所以闹，就是要争这个第一。实际上，淮西之役的最高决策者虽是唐宪宗，但一贯主战的裴度亲临前线督战，对战争胜利起到了决定性的作用。李愬袭蔡擒吴元济固然是平蔡的关键一役，但也有各路军队的牵制和协助之功。硬说李愬为首功，确实与事实有出入。况且韩愈的碑文中详写了李愬入蔡经过，也详述了宪宗对裴度和李愬的封赏：赐裴度“勋上柱国，封晋国公，食邑三千户”；赐李愬“勋上柱国，封凉国公，食邑三千户”，二人旗鼓相当。可见朝廷的公议，未分他们谁为第一，谁为第二，而韩文中对此并未置一词。客观地说，韩愈碑文并无偏袒裴度、贬低李愬的问题，所谓“不实”之说，不过是李愬之妻借皇亲国戚之便演出的一场闹剧，闹的核心就是为李愬争“首功”的名分。
至于石孝忠推倒韩碑之事，详见于晚唐罗隐的《说石烈士》一文，文中虽详述推碑经过，但不足凭信之处颇多，类似小说家言；然早于罗隐的李商隐，在其《韩碑》一诗中也说：“句奇语重喻者少，谗之天子言其私。长绳百尺拽倒碑，粗沙大石相磨治。”可见，韩碑被推倒磨光确系事实。
李愬之妻“谗之天子言其私”，唐宪宗或出于对“官二代”的私情，或出于对石孝忠一类骄横武夫的怯惧，于是降诏磨去韩文，命翰林学士段文昌另行撰写。其实段文昌所撰碑文，内容与韩碑也大体相同，也没有敢说李愬居功第一，只不过段文所用为当时流行的骈体文。
韩愈《平淮西碑》被推到磨平，另命段文昌再撰，确是中唐时期的一件文字大案。韩愈受命撰《平淮西碑》，给他带来前所未有的荣耀，但结果却使他蒙受了极大的耻辱，他当时的抑郁沮丧之情不难想见。但是，是金子总会发光。韩碑虽被磨，但碑文还在。韩愈和段文昌二人所撰碑文孰优孰劣，后世见仁见智，但总的来说，是扬韩抑段者居多，如李商隐《韩碑》一诗就高度赞美韩碑：“公之斯文若元气，先时已入人肝脾。”而评韩碑影响最大者，莫过于苏东坡的一首诗：“淮西功德冠吾唐，吏部文章日月光。千载断碑人脍炙，不知世有段文昌。”
韩愈《平淮西碑》这桩公案恐怕是永无结案之日了，但在人们心目中，此案早有结论。历史是公正的，人心是公正的。韩愈虽不免蒙耻于当时，但却荣耀于万世。