杨素（？-606年），弘农华阴人。杨素的父亲杨敷曾担任过北周的汾州刺史。杨素年轻时，不但是一个容貌雄伟的文武全才，还是一个心胸开阔、志向远大、不拘小节之人，杨素的堂叔祖西魏尚书仆射杨宽，常常赞赏杨素："此子出类拔萃，绝非一般的人才，将来必会大有作为，杨家子孙没人能及。"
杨素因其父杨敷守节陷于北齐，没有得到朝廷恩命，向北周武帝宇文邕上表申理。武帝不许，杨素不断上表。武帝大怒，下令将杨素问斩。杨素拼死力争道："臣事无道天子，死是应得的。"武帝见杨素说话慷慨，下令赠杨敷为大将军，谥忠壮。每当武帝命杨素起草诏书时，杨素都能够下笔成章，情文并茂，因此，杨素逐渐得到了武帝的礼遇。
杨素每战都立下功勋。平定北齐以后，武帝下令加开府，改封杨素为成安县公，食邑一千五百户。杨素之弟杨慎封义安侯。北周宣帝即位以后，杨素袭父爵为临贞县公。
杨素与当时的丞相杨坚交往密切，杨坚非常欣赏杨素的才华，任命杨素为汴州刺史。杨素刚刚到达洛阳，就赶上了尉迟迥作乱。
杨坚封杨素为大将军，杨素率兵打败了宇文胄。杨坚受禅，成为隋文帝以后，封杨素为上柱国，后又拜御史大夫。
官场上一帆风顺的杨素，娶了一个性格骄悍的妻子，一次，杨素与妻子发生争吵时，杨素气愤地说："假如有一天我做了天子，你根本不配作皇后。"
杨素的妻子听了以后，马上上奏朝廷，说杨素有篡逆之心，杨素因此被罢免官职。
此时，隋文帝正在谋取江南，此前，杨素曾多次向隋文帝上奏攻陈策略。因此，杨素不久又被朝廷封为信州总管。
杨素驻扎在永安，下令制造可容八百名士兵的战舰，战舰高百余尺。杨素率军大举伐陈时，率战舰驶向三峡。陈朝将领戚欣屯兵数千人，驻守在地形险要的狼尾滩，阻止隋军进军通道。
隋军将领认为狼尾滩地形险要，不好攻打。
杨素对隋军将领说道："胜败大计，在此一举。白天出发，陈军看得见，加上滩流迅猛，对我们非常不利。"
于是，杨素在夜色的掩护下，率黄龙数千艘悄悄而下，派军南北攻击戚欣，戚欣败走。杨素对被俘的陈兵进行慰劳以后全部遣散，秋毫无犯，陈人们都很高兴。
陈朝守江大将从北岸凿岸石，系上三条铁索，截在上流。杨素和刘仁恩发兵攻打陈军，除去了铁索。杨素派千人，大败占据延州的陈水军大将吕仲肃。镇守安蜀城的信州刺史顾觉和镇守公安的荆州刺史陈纪镇因惧怕杨素的威名相继败退。在巴陵以东，陈军都不敢前去据守。陈湘州刺史陈叔也向杨素请降。
杨素顺流而下屡战屡胜，灭了陈朝。杨素得胜回朝以后，隋文帝封杨素为荆州总管，进爵郢国公。杨素的儿子杨玄感封仪同，杨玄奖封清河郡公，赐无数财宝和陈后主的妹妹以及十几名女妓。
不久，李棱等人在江南聚众作乱，每股数万至数千人不等，相互呼应，杀害地方长官。
隋文帝下令杨素率兵前去讨伐。杨素率军从扬子津进攻，击败了自称南徐州刺史的朱莫问。杨素给予自称晋陵太守的顾世兴和他的都督鲍迁迎头痛击，鲍迁被生擒。之后，平定了无锡帅叶略。
杨素率兵救援被吴郡沈玄、玄杰等围困在苏州的刺史皇甫绩，大败敌军，沈玄只好投奔南沙帅陆孟孙。杨素在松江又击败了陆孟孙，活捉了陆孟孙和沈玄。
自号东扬州刺史的浙江叛帅高智慧拥有千艘舰船，屯据在要害处，兵势也非常凶猛。
杨素与高智慧浴血奋战，终将高智慧打败。杨素紧追逃奔入海的高智慧不放，终于战败高智慧。
占据东阳的汪文进自称天子，命蔡道人据守东安。杨素一一平定，所向披靡。隋文帝下令杨素还朝，加封杨素之子杨玄感为上开府。
杨素自动请缨，剿灭余贼。隋文帝命杨素为元帅，全权负责东南军民事务。
杨素率军到会稽。此前，南安豪族泉州人王国庆杀刺史刘弘，各处亡兵纷纷归附。王国庆认为海路险阻，未设兵防卫。杨素率舰船从海上攻来时，王国庆弃州而逃。
杨素命人传话给王国庆说："你的罪，死不足惜，如果你能斩送高智慧，可能会得到赦免。"
王国庆听后，下令将高智慧送交杨素，杨素将高智慧斩于泉州，江南平定。隋文帝对杨素慰问备至。
尚书右射代苏威和高颖共同管理朝政。朝臣们都非常推重高颖，尊重苏威。杨素的才能本在高颖之上，但是在推诚体国、处事妥善、宰相风度方面，杨素却远远不如高颖。杨素是一个巧言令色、矫揉造作的人，不管谁要和他比个高下，他都非常在意。
文帝建造仁寿宫时，命杨素监造。杨素为了能够取悦文帝，下令平山填谷，日夜严加督役，工匠们死伤非常多。
宫室建成以后，隋文帝命高颖前去察看，高颖回奏道："仁寿宫建造过于华丽，工匠们死伤很多。"
隋文帝听了高颖的话，心中非常不高兴，杨素非常忧惧，只好启奏独孤皇后说："古今帝王都有离宫别馆，现在天下安定，何必为造宫殿而节省费用呢！"
独孤皇后以这个道理劝谕文帝，文帝才平息了怒火。
突厥达头可汗率兵侵犯边塞，朝廷命杨素出征。杨素一改过去与突厥作战的旧法，命诸军全部骑马。
有人对杨素说："将军，突厥骑兵常常袭击我们，我们最好还是用战车步骑相参，四周用车载着削尖的树枝组成鹿角方阵，骑兵在内，这样虽然行动较慢，但非常安全。"
杨素对那人说："这的确是最好的防御之法，却不是决胜的好方法。"
探子将这个消息报告给达头以后，达头大喜，下马对天叩拜，说："这真是上天赐给我的良机。"
于是，达头亲率十余万精骑来攻。杨素迎头痛击，达头受重创而逃，突厥将士死伤无数。
杨素是一个多谋善断的人，他常常在战争中不拘泥于陈规，随机应变，他驾驭军队非常严格，任何人只要违犯军令，立即斩杀，决不宽恕。
杨素每次临战时，都会斩杀有过失的人，多时百余人被斩杀，少时十数人被斩杀，面对满地的鲜血，杨素仍然谈笑自若。
杨素每次对阵时，都要先让一二百人冲阵，陷阵便平安无事，如不能陷阵，全部斩杀。再让两三百人赴敌，如果仍未陷阵，全部斩杀。
因此，杨素手下的将士，上战场时均抱有必死之心，所以屡战屡胜。
杨素十分得宠，文帝更是对他言听计从。杨素只要出征，将士的一点点功劳他都要记录，上奏请赏。而在其他大将手下立功的将士，就是有大功，也常常被埋没。因此，杨素虽然治军严厉甚至有些残忍，却有很多士兵愿意追随他。
不久，杨素代替高颖为尚书左仆射，同年，杨素率军出云州击突厥，大败突厥。突厥从此远遁。
因为杨素征突厥有功，杨素之子杨玄感位为柱国，杨玄纵为准南郡公，独孤皇后的陵墓建造也多出于杨素之手，文帝对杨素称赞不已。
一时之间，杨素恩宠无比，杨素一家数人成了尚书列卿，杨素之子即使没有任何功劳，也被封为柱国、刺史。
杨素家僮数千，拥有数以千计的妓妾，杨素的妓妾个个披罗带绮。杨素的宅第更是华丽奢侈之极。