他的早期作品，大部分收在一九二六年出版的《顿河故事》和《浅蓝的原野》两部中短篇小说集中。这两部集子的近二十篇小说，从思想内容和艺术技巧上讲是很不平衡的。在有些作品中，作者以生动的艺术形象，成功地反映了国内战争时期哥萨克内部尖锐复杂的阶级斗争，色彩鲜明地表现了新生苏维埃政权的无限生命力和革命者的优秀品质。例如：在《看瓜田的人》里，当了白匪警卫队长的哥萨克，发现妻子同情和帮助红军俘虏，竟把她活活打死；而两个哥萨克兄弟，为了参加革命，不得不跟旧家庭作十分激烈的斗争。在另一个短篇《死敌》中，贫农叶菲姆在反动富农的残酷迫害下，始终立场坚定，在临牺牲的一刹那，他仍牢记战友的话“你被打死了，就会有二十个新的叶菲姆出现”，表现出对革命充满必胜的信心。但其中也有一些作品，明显地流露出作家对无产阶级革命的资产阶级庸人观点。例如，在短篇小说《浅蓝的原野》中，当了一辈子长工的老雇农查哈尔在地主白匪卷土重来时，因为不堪忍受残酷的折磨，跪倒在地主脚下，再三哭诉，哀求饶命，结果还是一个孙子惨遭杀害，另一个孙子被鞭打成残废。在短篇《胎记》里，作为正面主人公的尼古拉——一个红军战士公然宣称自己参加剿匪是迫于上级和战友的“压力”，而且心里也早已对革命“感到厌倦”，认为“一切都没有意思、无聊”；而作为反面人物的凶恶白匪，当发现被他亲手打死的正是自己的儿子时，突然良心悔悟，悲痛欲绝，最后饮弹自灭。在这里，肖洛霍夫为了表现革命斗争的复杂、残酷，有时却陷入感伤甚至是悲观失望，为了表现人的复杂性，有时又让共通的人性和人的生理本能淹没了人和人的感情的阶级本质。在艺术形式上，出其不意的情节安排、严谨的故事结构、鲜明多方面的性格刻画和富有感情色彩的语言风格，是作者许多早期小说的共同的优点和特点，表现出他比较丰厚的生活知识和一定的写作技能；但另一方面，作者为了追求效果，情节结构上的故作离奇、语言上的矫揉造作、人与人之间相互关系及许多细节描写上的自然主义手法，在有些作品中也表现得相当夺目。
肖洛霍夫早期创作中思想上和艺术上的矛盾，在著名的《静静的顿河》里表现得尤为明显。
《静静的顿河》是作家从一九二六至一九三九总共化十四年时间写成的长篇小说，全书共八卷，分四大部，先后于一九二八、一九二九、一九三三、一九四○年陆续出版。它以一九一四年第一次世界大战开始前夕到一九二二年苏联国内革命战争结束的历史为背景，以十月社会主义革命引起顿河地区哥萨克社会的变化、顿河地区苏维埃政权建立后哥萨克发动的反革命暴乱及其被平定为题材。贯穿全书的中心主人公葛利高里，麦列霍夫原是一个哥萨克中农。通过他从青年时代参加帝国主义战争，十月革命时一度加入革命行列，不久又深深陷进反革命营垒而不能自拔和最后彻底毁灭这一漫长而又错综复杂的经历，小说以庞大、完整的艺术形象体系，反映出地主资产阶级反动腐朽势力遭到失败和布尔什维克党领导的革命人民最终取得胜利的客观发展过程。整个长篇小说，画面广阔，情节线索分明，结构有条不紊，主要人物的性格刻画得比较深入细致，一些战争场面和和平生活的细节也写得比较真实，语言比较丰富生动，具有相当强烈的艺术感染力。所有这一切，都无疑是作家成功的地方。长篇逐章在期刊上发表的时候，就曾经得到绥拉菲摩维支、高尔基等老一辈无产阶级作家的支持和称赞，不是偶然的。但是，在这部作品中所流露的作者对一些历史事件的理解包含有十分错误的观点，也是任何一个不带偏见的读者都不会加以否认的。在刚刚建立苏维埃政权时，红军对哥萨克确实有过一些偏激行为，但一九一九年顿河上游哥萨克发动反革命叛乱，根本的和主要的原因是国际帝国主义和国内残余白匪、反动富农互相勾结的结果。肖洛霍夫却认为叛乱的主要原因在于布尔什维克党“对哥萨克中农的过火行为”。这就从根本上颠倒了黑白，违背了历史的真实。正是出于这种十分错误的观点，在小说中，苏联人民为巩固十月革命成果进行的国内革命战争被描写成哥萨克同胞兄弟“互相残杀”的历史悲剧。主人公葛利高里从家庭出身讲虽说是个中农，但在当时无产阶级和资产阶级的生死大搏斗中，他逐渐蜕化变质，背叛了自己出身的阶级，当了叛匪的重要骨干。小说却把这样一个主人公的堕落描绘成是布尔什维克对他“不信任”的结果，说他是个“不幸的人”。由此出发，长篇小说一方面歪曲红军官兵形象，另一方面则通过对主人公葛利高里的细腻的复杂心理描写和浓郁的抒情笔触，表现了对反革命叛匪的深厚同情。正因为如此，斯大林当时一方面肯定它不是“非苏维埃倾向”、不是“****反无产阶级的作品”，后来还同意授予文学奖金，同时，也曾经一针见血地指出：《静静的顿河》“写了一些极为错误的东西”，对于一些革命者“作了简直是不确实的介绍”。二十年代末三十年代初，在苏联轰轰烈烈的社会主义工业化和农业集体化运动高潮中，肖洛霍夫从一九三一年起担任了俄罗斯无产阶级作家协会机关刊物《十月》杂志的编委，一九三二年加入苏联共产党，同年，他写成了第二部著名的长篇小说《被开垦的处女地》第一部。
一九三○年，共产党员达维多夫奉党的派遣来到哥萨克地区的格内米雅其村，和这个村子里的党员、贫雇农一起，清算了富农，建立了集体农庄。《被开垦的处女地》第一部通过这一并不复杂的故事情节，十分及时而且比较真实地反映了布尔什维克党领导下苏联私有制个体农民走上社会主义集体化道路的过程。小说形象地揭露社会主义敌人公开和隐蔽的疯狂破坏活动，深入细致地描绘出中农梅潭尼科夫在集体化过程中犹豫矛盾的复杂心理。作者通过紧张的阶级斗争、生产劳动和爱情、家庭等多方面的艺术描写，使一些主要人物的性格既鲜明又富有典型意义。故事的开展既自然而又紧张，结构严密而紧凑，丝丝入扣。小说的语言也比较丰富、幽默，具有浓烈的生活气息。这部小说的缺点，是过份渲染集体化过程中的“左”倾错误和某些贫农积极分子的“落后”、“自私”，美化富农和****鲁什卡的爱情纠葛，对达维多夫也是作者的介绍多于通过这个形象本身发展的具体描写，以致使这一重要人物艺术上略嫌苍白。
在《静静的顿河》中所显示的艺术才能，特别是《被开垦的处女地》的基本成功，提高了肖洛霍夫在苏联文学界的地位。他一九三四年出席全苏第一次作家代表大会，一九三七年当选为最高苏维埃代表，一九三九年出席苏共第十八次代表大会，同年还被选为苏联科学院院士。
反法西斯卫国战争时期，肖洛霍夫以《真理报》、《红星报》等的军事记者身份上前线，写了不少揭露希特勒法西斯的野蛮侵略罪行和反映苏联军民爱国热忱和英雄主义的杂文和特写。
总的讲，在斯大林领导的苏联无产阶级****年代里，肖洛霍夫的文学创作，思想上和艺术上都是不断进步的，曾经取得一定的成绩。
一九五六年苏共第二十次代表大会以来，由于赫鲁晓夫、勃列日涅夫等人的多方拉拢，肖洛霍夫在政治上和文学创作上都发生了显著的变化。政治上，他吹捧新领导的政策、方针、路线是“一种沁人肺腑的活命泉水”，使得他“可以敞开胸襟轻松地呼吸”。在创作方面，他先后发表了《一个人的遭遇》（1956）、《被开垦的处女地》第二部（1959）和《他们为祖国而战》的部分章节（1969）等一系列作品，都是以卫国战争和农业集体化为题材，宣传某些符合政治需要的思想、观点。短篇小说《一个人的遭遇》写的是一个普通苏联劳动者在反法西斯卫国战争中的经历。作者在歌颂苏联人民的勇敢精神、反映法西斯侵略者给苏联人民带来惨重损失的同时，竟无视这场战争的伟大正义性质。小说通过主人公索科洛夫战前美满幸福的家庭生活和战后孤苦伶仃、漂泊流浪的鲜明对比，突出渲染战争，他借反映格内米雅其村集体农庄的巩固过程，不仅把共产党员达维多夫等描写成目光短浅、热衷于个人幸福的资产阶级庸人，而且让农庄的两位主要领导干部和潜伏的阶级敌人同归于尽。小说以极其伤感的情调结束，着力渲染刚刚实现集体化的社会主义农村不仅十分阴郁，而且前景惨淡。《他们为祖国而战》按照作者一九四二年开始动笔时的构思，是要表现苏联红军在卫国战争中的英雄主义。但长篇的主要部分始终没有问世，而在一九六九年发表的部分章节中，作者却借主人公在一九三九年到农村探亲休养的一段经历，以反对“个人迷信”为名，指名攻击斯大林从三十年代起就“瞎了眼”、“闭着眼睛治理国家”！