段韶少年时善长骑射，有将帅之才。因母亲娄信相是高欢妻子娄昭君的姐姐，所以高欢对他很是器重，常安排在自己的左右，作为心腹看待。建义初年，为亲信都督。
中兴元年（531年），跟随高欢抗抵尔朱兆，战于广阿。高欢对段韶说：“敌众我寡，怎么办？”段韶答：“所谓众者，是得众人之死；强者，是得天下之心。尔朱兆狂妄奸狡，一路上看到的，是裂冠毁冕，拔本塞源。邙山聚会，�绅有何罪过？又*主立君，不过半月，天下思*，十室有九。王亲行德义，除君侧的恶人，何往而不胜！”高欢说：“我虽是以顺伐逆，奉命讨罪，但弱小处于强大之中，*怕没有上天的庇佑，你没有听说过吗？”段韶：“我听说过小能敌大。小道大*，皇天无亲，唯德是辅。尔朱兆外害天下，内失善人，智者不为谋，勇者不为斗。不肖者失职，贤者夺过来，还有什么疑惑的？”于是便同尔朱兆展开交战，尔朱兆军溃败。又进攻邺地的刘诞。
韩陵之战，段韶率领自己的部众，首先冲进敌阵。不久随从高欢离开晋阳，将尔朱兆追赶到赤�岭消灭。因军功封下洛县男。又跟随高欢偷袭、夺取夏州，活捉斛律弥娥突，加龙骧将军、谏议大夫，累迁武卫将军。后又将其父姑臧县侯的爵位授予段韶，其下洛县男的爵位则上表请求转让给继母弟段宁安。
交战西魏兴和四年（542年），跟从高欢在邙山抵御西魏宇文泰。高欢在兵卒之中，被西魏将领贺拔胜认出，于是贺拔胜带领精锐逼来。段韶骑马从旁跃过，并回身用箭射击，一箭就将最前面的追敌射下马去，其他追骑害怕，不敢向前。西魏军撤退，朝廷赏赐段韶马匹、黄金，进爵为公。
武定四年（546年），随高欢征讨玉壁。时高欢身患疾病，城池又没攻下，便召集诸将，讨论行动方案。高欢对大司马斛律金、司徒韩轨、左卫将军刘丰等人说：“我每次同段孝先论兵，都能听到许多高见，如果让他来参谋参谋，就可能没有今日的劳累了。我担心局势危急，*怕出现不测，准备委托孝先承担邺下的重任，怎么样？”斛律金等人回答说：“知臣莫如君，孝先是最合适的。”高欢又对段韶说：“往昔我和你的父亲冒着危险，同佐王室，建立了大功。眼下病重得厉害，大概不行了，你应该小心辅助朝廷，承担起这一重任。”马上下令段韶随次子高洋镇守邺城，召长子高澄赶赴玉壁军中。高欢病情严重，遗令高澄说：“段孝先忠孝仁厚，智勇双全，亲戚之中，只有此人，军旅大事，应同他商议。”
武定五年（547年）春，高欢在晋阳去世，秘不发丧。不久侯景造*，高澄准备回邺城，留段韶镇守晋阳。高澄回到邺城后，赐给段韶女乐十几人，黄金十斤，还有缯帛，封长乐郡公。高澄征讨颍川，段韶留守晋阳。别封真定县男，行并州刺史事。武定八年（550年），高洋受禅即位，建立北齐，是为文宣帝。别封段韶为朝陵县公，又封霸城县侯，加位特进。段韶上表请求归还朝陵县公，乞请封继母梁氏为郡君。高洋嘉奖他，别封梁氏为安定郡君。又将霸城县侯让给了自己的继母弟段孝言。是时受到舆论的夸赞。
讨敌平*天保三年（552年），任冀州刺史、六州大都督，有惠政，深得吏民爱戴。天保四年（553年）十二月，南梁将领东方白额偷偷来到宿预，引诱边民，*害长吏，致使淮、泗骚动。天保五年（554年）二月，文宣帝下诏段韶前去讨伐。段韶率军抵达。适逢梁将严超达等围逼泾州；陈霸先又率众将要进攻广陵，刺史王敬宝遣使向朝廷告急；还有尹思令，拥众万人，准备袭击盱眙。三军*惧。
段韶对诸将说：“自从梁氏丧*，国无定主，人心离散，强者从之。陈霸先等人智小谋大，政令不一，外虽同德，内实离心，你们不必忧虑，我的计划已思虑周全。”于是留下仪同敬显俊、尧难宗等围守宿预，自己率领数千步骑兵急行军赶赴泾州。路经盱眙，尹思令没有料到大军会从天而降，望风北奔。段韶继续前进，又与严超达交战，大败严超达军，夺取了所有的舟船器械。段韶对诸将道：“吴人浮躁，本无大谋，今天打败严超达，陈霸先肯定会逃走。”旋即回师广陵。陈霸先果然逃走。追至杨子栅，看得见扬州城才回来，并且缴获了许多的军资器物，然后马上回师宿预。六月，段韶派游说之士劝降东方白额，东方白额因此开门请盟。段韶与行台辛术等人议论，同意东方白额的请求。结盟完毕，思量东方白额终不会为己所用，于是下令将东方白额抓起来并*了，连同他的弟弟们的首级送到京师。江淮安静，民皆乐业。文宣帝嘉奖他的功劳，诏令赏赐吴人七十，封平原郡王。清河王高岳攻克郢州，活捉司徒陆法和，这次行动，段韶也参加了，筑建鲁城，在新蔡置郭默戍后返回京城。
皇建元年（560年），领太子太师。太宁二年（562年），拜并州刺史。高归彦在冀州作*时，武成帝高湛诏令段韶与东安王娄睿率众平定。迁太傅，武成帝赐其女乐十人和高归彦的果园一千亩。依然任职并州，为政是举大纲，不存小察，所以甚得民心。
晋阳抗周河清二年（563年）十二月，北周武帝宇文邕派将领率领羌夷与突厥合众围攻晋阳，武成帝从邺城出发兼程前往救助。突厥从北组成战阵往前推进，东抵汾河，西达风谷。情况危急，兵马未整，武成帝见此阵势，也想往东逃避。但很快接受了河间王高孝琬的请求，下令赵郡王保护好诸将。此时正是大雪之后，周人用步卒作为前锋，从西山冲下，离城只有二里多路。诸将都想迎击。
武成帝说：“步行的人气势必然有限，眼下积雪深厚，交战不便，不如严阵待守。彼劳我逸，打败他们是有把握的。”不久交战，大败周军，周军的前锋全被消灭，无一活口，后边的部众连夜逃走。
武成帝下令段韶率骑兵追击，出塞后没有追上而回。武成帝赏其功，别封段韶怀州武德郡公，进位太师。
解围洛阳北周大冢宰宇文护的母亲阎氏先配中山王，宇文护听说母亲还在人世，于是就修书北齐，请归还阎氏，并愿通好。此时突厥多次骚扰边地，段韶驻军塞下防御。武成帝派黄门徐世荣乘驿车带着宇文护的信向段韶请教。段韶认为周人反复，不讲信义，其晋阳之役，就是证明。宇文护对外是丞相，在内其实为王。既为母亲请和，却不派一介之使申其情怀。我们则依据一纸之书，就送还其母，这*怕是在向周示弱。我认为，姑且佯装同意，等些日子再放不迟。武成帝不听，于是派遣使者依礼送还。
宇文护得到母亲后，依然遣将尉迟迥等袭击洛阳。武成帝诏令兰陵王高长恭、大将军斛律光率部抵御，军队驻扎在邙山下，滞留未进。武成帝召段韶询问：“现在我想派你去解救洛阳之围，但突厥驻军在这里，又要派人防御，你认为该如何处置？”段韶说：“北虏侵扰边地，是容易处理的事情，如今西羌窥视逼近内地，这才是心腹之病，我请求受诏南行。”武成帝说：“我的意思也是这样。”于是便命令段韶督察一千精骑，从晋阳出发。五天后就渡过黄河，段韶与手下大将商议办法。段韶清晨带领二百骑兵与诸军一同登上邙阪，想看看周军的阵势。来到大和谷，就遇上周军，旋即派人驰告各营，集中兵马。段韶马上同诸将摆开阵势以作防备。段韶为左军，高长恭为中军，斛律光为右军，与周军相对。段韶对着周军喊：“你们的宇文护有幸得到母亲，却不怀恩报德，今天之来，究竟是何意思？”周军说：“老天派我们来的，有什么大惊小怪的？”
段韶说：“上天赏善罚恶，大概是派你们来送死的吧？”周军便将步兵摆放在前，向山上冲去。段韶认为敌徒步我骑马，就指挥部众边退边引诱，候其疲惫，一齐下马攻击。短兵相接，周军大溃。其中军所指处，也是迅速瓦解，敌人投坠溪谷而死的就有许多。包围洛阳城的敌人，马上逃遁，弃置营幕而不顾，从邙山到谷水三十里的距离内，到处都是抛撒着的军资器物。武成帝亲自来到洛阳，慰问将士，在河阴摆设宴席，款待众将，又策勋命赏，拜段韶太宰，封灵武县公。天统三年（567年），除左丞相，又封永昌郡公，食沧州干。
围攻柏谷武平二年（571年）正月，段韶由晋州道抵达定陇，筑威敌、平寇二城后返回京师。二月，周军寇掠，后主高纬派段韶与右丞相斛律光、太尉兰陵王高长恭一同抵御。三月底，到达西部边境。柏谷城这个地方，是敌人把守着的天险，石城千仞，诸位将领没有哪个敢于围攻。
段韶说：“汾北、河东若要为国家所有，如不拔除柏谷，就像得了痼疾。估计他们的援兵，当在南道会合，如今截断这一要路，使他的援兵无法赶来。他们的城墙虽高，但是很狭窄，用火弩射击，完全可以攻下。”
诸将认为他的主意好，于是鸣鼓齐攻，城墙坍塌，俘虏其仪同薛敬礼，斩*许多首级，仍然在华谷筑城，置戍后凯旋，朝廷封段韶广平郡公。
围攻定阳同月，北周又派将领寇掠北齐边境。右丞相斛律光首先率领军队出讨，段韶也请求同行。五月，攻打服秦城。周军在姚襄城南再起城镇，东接定阳，又挖出深堑，断绝大道。段韶就偷偷抽调壮士，从北边发起袭击。又派人秘密地渡过黄河，与姚襄城内联络，请他们作内应，过河来的有一千多人，周军才开始发现。于是交战，周军大败，虏获其仪同若干显宝等人。诸将都想向新城发起进攻。段韶不同意，说：“此城一面临河，三面险地，不能进攻。即使攻了下来，也只不过是一座城池而已。倒不如再作一城雍塞其归路，攻克服秦，齐心协力进击定阳，这是最好的选择。”将士都认为这个主意好。
六月，转围定阳，但定阳城主帅开府仪同杨范闭城固守，段韶军未能攻下。段韶登山观看城中的情势，之后便纵兵猛攻。七月，夺取外城，斩获许多敌军首级。这时段韶突然在军中病倒，由于内城还未攻下，他对兰陵王高长恭说：“此城三面是深涧，没有退路，只有东南一处可以与外面沟通。贼如果突围，必须走东南这条路，我们挑选精兵把守，自然可以捉住逃敌。”高长恭便下令一千多壮士在东南涧口埋伏。这天深夜果然像段韶预计的那样，周军弃城而逃，伏兵一拥而上，周军大溃，杨范两手反绑投降，其众全被俘虏。
因病去世此时，段韶病情更加严重，因而提前回到了京师，以功别封乐陵郡公。同年八月己未日，段韶因病去世。后主在东堂为段韶举哀，赠帛千段及温明秘器、��车，出殡之日，军士们列成仪仗一直送到平恩墓地，后主又征调民夫为其起冢。赠假黄钺、使持节、都督朔并定赵翼沧齐兖梁洛晋建十二州诸军事、相国、太尉、录尚书事、朔州刺史，谥号忠武。
家庭生活 父母祖父：段连，北魏立节将军、安北司马、建康晋昌二郡太守、姑臧县子
父亲：段荣，字子茂，山东大行台、大都督，授仪同三司，封姑臧县侯。
生母：娄信相，武明皇后娄昭君之长姐。
继母：梁令春，安定郡君。
同辈段孝言，仪同三司、度支尚书、齐州刺史、吏部尚书、尚书仆射，霸城县侯
段宁安，封下洛县男。
段氏，文宣帝高洋昭仪，后改嫁录尚书唐邕。
配偶原配：元渠姨，昭成皇帝后代，定州刺史元蒲仁之女。
侍妾：皇甫氏，北魏黄门郎元�之妻，文襄帝高澄所赐。
儿子长子：段懿，字德猷，娶颍川公主，驸马都尉、殿中尚书、兖州刺史、平原王。
次子：段深，字德深，娶永昌公主和东安公主，北周大将军，济北郡公。
三子：段德举，仪同三司。
四子：段德衡，开府仪同三司、济州刺史、仪同大将军。
七子：段济，字德堪，隋朝上汴州刺史、东都留守的任上。
段德*，排行不详，唐朝右武卫将军。
段德�，排行不详，陇州刺史。
孙子段宝鼎，段懿之子，娶中山公主。隋朝开府仪同三司、骠骑大将军、饶州刺史。
轶事典故段韶为人好色，虽居要职，时常微服间行。有位皇甫氏，是东魏黄门郎元�的妻子，其弟谋反，皇甫氏被没入官。段韶喜欢上了她的容质，上表固请，高澄不想违背他的心意，就将皇甫氏赏赐给他。段韶很吝啬，即使是亲戚故旧，他也一毛不拔。其子段深迎娶公主时，丞、郎等来家理事十多天，婚事结束。辞还，每人只赏赐了一杯酒。
人物评价 总体评价段韶外统军旅，内参朝政，又建有高功，加之婚姻，名望极高。他擅长计谋，善于御众，因此深得将士的爱戴。与敌交战，人人奋勇当先。他的性情温文尔雅，极有宰相的风度。教训子弟，闺门雍肃，服侍后母十分孝顺，北齐勋贵之家没有比得上他的。
历代评价《北齐书》：光辅七君，克隆门业，每出当阃外，或任以留台，以猜忌之朝，终其眉寿。属亭候多警，为有齐上将，岂其然乎？当以志谢矜功，名不逾实，不以威权御物，不以智数要时，欲求覆�，其可得也？语曰u2018率性之谓道u2019，此其效欤？”
《北史》论曰：光辅七君，克隆门业，每出当阃外，或任处留台。以猜忌之朝，终其眉寿；属亭候多警，为有齐上将，岂其然乎！当以志谢矜功，名不渝实，不以威权御物，不以智数要时，欲求覆�，其可得也。《礼》云u2018率性之谓道u2019，此其效欤！”
《资治通鉴》：有谋略，得将士死力，出总军旅，入参帏幄，功高望重，而雅性温慎，得宰相体。事后母孝，闺门雍肃，齐勋贵之家，无能及者。”
艺术形象2013年电视剧《兰陵王》贺镪饰演 段韶
史籍记载《北齐书・卷十六・列传第八》
《北史・卷五十四・列传第四十二》
《资治通鉴・卷一百七十》有记载。