太平兴国二年（公元977年），吕蒙正被录取为进士**名，任命为将作监丞、升州通判。向皇帝辞行时，皇帝命令，政事如果有不便处理的，允许骑驿马前来上告，赐给他钱二十万。待调回到京师，遇上宋太宗亲征太原，召他到行宫晋见，任为著作郎、直史馆，加任左拾遗。
太平兴国五年（公元980年），宋太宗亲自任命他为左补阙、知制诰。
当初，其父吕龟图内眷很多，与嫡妻刘氏不和，把刘氏及吕蒙正一并赶出，吕蒙正母子非常穷困窘迫，刘氏发誓不再嫁人。吕蒙正做官后，迎接父母亲同住，父母亲住在一个屋子里但不同房间，吕蒙正对他们奉侍得非常周到。吕龟图不久死去，朝廷诏令起复吕蒙正。不久，升为都官郎中，入朝任翰林学士，擢升为左谏议大夫、参知政事，赐给他丽景门的住宅一栋。
几度拜相李�P被罢免宰相后，吕蒙正被任命为中书侍郎兼户部尚书、同平章事、监修国史。吕蒙正为人厚道宽容，有很高名望，以坚守正道自律。遇事敢出来讲话，每次讨论时政，有不公允的，一定坚持反对意见，皇帝赞许他能无所隐瞒。赵普是开国元老，吕蒙正是后来提升的**，历任各种官职十二年，于是同任宰相，赵普很赞许他。不久，遭母丧，守丧未满三年，被重新起用。
先前，卢多逊任宰相时，他的儿子刚出仕就授官水部员外郎，后来就被当作常例。就此，吕蒙正上奏说：“臣出身进士及第，出仕时只授为九品京官。况且天下有才能的人，终身隐居于山林，没有得到朝廷丝毫俸禄的人多得很。现在，臣儿子刚成年，获此宠任，*怕遭到上天谴责，请求以臣刚出仕时的官职补任他。”从此宰相的儿子只授给九品京官，成为法定制度。
淳化年间，左正言宋沆上奏疏违逆皇上旨意，宋沆是吕蒙正妻子的族人，因此而罢免吕蒙正吏部尚书一职，又任用李�P为宰相。
淳化四年（公元993年），李�P被罢免宰相，吕蒙正又以本官任宰相。与宋太宗奏对时，谈到征伐之事，宋太宗说：“朕近来的征讨，是为百姓剪除凶*，如果好功黩武，那么天下百姓都灭尽了啊。”吕蒙正回答说：“隋、唐数十年中，四次征讨辽碣，百姓疲乏不堪。隋炀帝全军覆没，唐太宗运去土木攻城，这样都最终没有成功，况且治理国家的重点，在于国内勤修政事，那么远方之人必来归服，自然会得到安宁。”宋太宗同意他的意见。
至道初年（公元995年），诏令吕蒙正以右仆射身份出任河南府通判兼西京留守。吕蒙正到洛阳后，常常招引亲戚故交欢宴，政事主张宽静，委任僚属，政事自己只总体裁决而已。
宋真宗即位，进迁吕蒙正为左仆射。遇到朝廷营建奉熙陵，吕蒙正追忆感戴先朝所给予的优厚的恩遇，贡献家财三百多万作为营建经费的补充。宋太宗下葬那天，吕蒙正伏地哭泣极尽悲哀，人们认为合大臣之礼。
咸平四年（公元1001年），朝廷诏令吕蒙正以本官同平章事、昭文馆大学士。本朝以来三次任为宰相的，只有赵普和吕蒙正两人。郊祀礼后，加封为司空兼门下侍郎。咸平六年（公元1003年），授给他太子太师一职，封为莱国公，改封徐国公，又封为许国公。
辞官归隐景德二年（公元1005年）春天，吕蒙正上表请求辞官回洛阳。到朝廷告辞那天，坐轿到东园门，命令他的儿子扶着他到宫殿，对宋真宗说：“对远方的人要和平共处，停止战争节省财用，是古往今来的治国上策，希望陛下经常替百姓着想。”宋真宗赞许并采纳他的意见，于是升任他的儿子吕从简为太子洗马，吕知简为奉礼郎。吕蒙正在洛阳，有园亭花木，每天与亲戚朋友宴会，子孙环列，经常向他敬酒祝寿，怡然自得。大中祥符以后，宋真宗朝拜永熙陵，封禅泰山，祀祠后土，经过洛阳，两次到他家，赏赐给他很多财物。宋真宗对吕蒙正说：“卿的几个儿子谁可以重用？”吕蒙正回答说：“我的几个儿子都不足任用。臣有个侄儿叫吕夷简，现任颍州推官，具有宰相的才能。”吕夷简从此被宋真宗垂注。
许国公的封命刚下来，吕蒙正就逝世了，终年六十八岁。追赠中书令，赐谥号为文穆。
轶事典故 宰相肚量吕蒙正刚被任命为副宰相，**天入朝走马上任，意气风发地迈着方步走在大殿上，突然听到有人说：“这小子也当上了参知政事呀？”面对这盆当头冷水，吕蒙正装作没有听见，走了。但是，与吕蒙正要好的同事很不满，要追查此人是谁。吕蒙正急忙制止，不让追查。下朝以后，吕蒙正的有些同事仍然愤愤不平，后悔当时没有逮住那人。吕蒙正则说：“如果知道他的姓名，就会终身不能忘记，不如不知道为好。”
知人善用有一次，宋太宗问吕蒙正谁出使辽国合适，吕蒙正推荐了一陈姓**，宋太宗觉得不合适，就没有同意。第二天，宋太宗问起人选的事，吕蒙正又以此人呈上，宋太宗再次否决了。当第三次问及时，他仍以此人呈上，气得宋太宗把呈上的文书扔到地上，十分不高兴：“卿为什么这么固执呢？”吕蒙正说：“臣不是固执，而是陛下不能体察谅解啊。”再次说：“这个人可以任用，其他的人赶不上他。臣不愿用阿谀献媚盲目听从皇上的意见，以致耽误国事。”同僚们屏气不敢言。皇上退朝后对身边的人说：“吕蒙正的气量是我不如的啊。”此外，吕蒙正还向朝廷推荐了经常说他坏话的老同学温仲舒等。
又有个叫富言的人，是吕蒙正的宾客。一天告诉吕蒙正说：“我的儿子十几岁，想让他入书院，事奉廷评、太祝。”吕蒙正答应了他。见面后，惊叹说：“这个儿子将来名位与我相似，而功勋事业远远超过我。”令他与自己的几个儿子同学，供给很优厚。富言的儿子就是富弼。后来富弼两次任宰相，也是以司徒退休。吕蒙正善于识人才就是这样。
敢说真话有一年正月十五，宋太宗大宴群臣。喝到高兴处，宋太宗开始自夸：“五代的时候，生灵凋丧，周太祖从邺南归，官吏和百姓都遭到抢掠，下则有火灾，上则彗星出现，观者惊*畏惧，当时认为天下再也没有太平日子了。朕亲自总揽政事，万事大致得到治理，每当想到上天的赏赐，导致这样繁荣昌盛，就知道国家的治理与混*在乎人为。”在座的大臣纷纷鼓掌表示赞同之际，只见吕蒙正起身，离开座位走到太宗面前说：“皇帝所在之处，百姓都到此聚集，所以繁盛至此。臣曾经看到城外不出数里之地，饥寒而死者很多很多，不是都像城里这个样子。希望陛下从近处看到远处，才是百姓的幸福啊。”宋太宗听了这话，大为扫兴。
无受贿赂朝臣中有位收藏有古镜的人，自称此镜能照出二百里范围的景色，想献给吕蒙正以求任用。吕蒙正笑说：“我的面部不过碟子那么大，哪里用得上照二百里的镜子呢？”听说的人都叹服。还有人给吕蒙正送古砚，说此砚一呵即润，用不着注水。吕蒙正凝视古砚，笑笑说，即使一天呵出一担水，也只值十文钱而已。
历史评价宋太宗：蒙正气量，我不如。
**《宋史》：蒙正质厚宽简，有重望，以正道自持。遇事敢言，每论时政，有未允者，必固称不可，上嘉其无隐。赵普开国元老，蒙正后进，历官一纪，遂同相位，普甚推许之。又论：《诗》云：u2018允也天子，降予卿士，实为阿衡，实左右商王。u2019言有是君则有是臣，有是臣则足以相是君也。太宗励精庶政，注意辅相，以�P旧德，亟加进用，继擢蒙正、齐贤，迭居相位；复进黄中，俾参大政。而四臣者将顺德美，修明庶政，以致承平之治，可谓君臣各尽其道者矣。君子谓李�P为多逊所毁而不校，蒙正为张绅所污而不辨，齐贤为同列所累而不言，黄中多所荐引而不有其功，此固人之所难也。而况四臣者皆贤宰辅，又能进退有礼，皆以善终，非盛德君子，其孰能与于斯？
陈淡野：人亦一器也，莫不各有其量。如天地之量，圣贤帝王之所效焉。山岳江海之量，公侯卿相之所则焉。古夷齐有容人之大量，孟夫子有浩然之气量，范文正公有济世之德量，郭子仪有福量，诸葛武侯有智量，欧阳永叔有才量，吕蒙正有度量，赵子龙有胆量，李德裕有力量，此皆远大之器。
家族成员吕蒙正祖父吕梦奇，山东莱州城北军寨址村人，曾任户部侍郎。
其父吕龟图，曾任后周起居郎；母刘氏，也出自莱州名门望族，生性刚烈。子吕从简，国子博士；吕惟简，太子中舍；吕承简，司门员外郎；吕行简，比部员外郎；吕务简，也是国子博士；吕居简，殿中丞；吕知简，太子右赞善大夫。吕蒙正弟吕蒙休，咸平进士，至殿中丞。
叔叔吕龟祥，殿中丞、知寿州。子吕蒙亨，后历任下蔡、武平主簿。到道初年，州县官考核，吕蒙亨作答，文学、政事俱优，命为光禄寺丞，改大理寺丞，卒。次子吕蒙巽，虞部员外郎；吕蒙周，淳化进士及第。吕蒙亨子即吕夷简。次子吕宗简，也为进士及第。
吕蒙正的后辈多有名人，如侄子吕夷简，侄孙吕公著，官至宰相，八世孙吕祖谦、吕祖俭都是南宋著名大儒。
墓地碑文吕蒙正是北宋时期的名臣，其墓葬在尉氏县朱曲乡北二里小寨村内，海拔83．6米。冢高约20米，直径是66米，现保存完好。据《洧川县志》载：“吕蒙正字呈功，河南洛阳人。祖梦奇户部侍郎，父龟图起居郎。恶蒙正而逐之。蒙正流寓于洧，在此苦读。宋太平兴国二年（公元977年）以状元第授临丞，太宗、真宗时以敢言著称，任三任宰相。卒谥文穆，葬于洧，建有祠堂，春秋致祭。” 墓周有小寨，墙高三丈（小寨村名由此而来），每逢春秋，乡人谒陵，登高远眺，空旷无际，爽气宜人，故有“吕祠爽秋”之誉，列入洧州八景之一。在吕蒙正墓南约一里许的地方，立有“吕蒙正养晦处”石碑一通，明万历四十二年（公元1614年）立，1930年重立。另据记载，洛阳金石乡奉先里也有吕蒙正墓并有富弼所撰神道碑。旧志郑北四十里有吕蒙正墓。洧川在新郑北，是否指此墓，有待今后进一步考证查实。
**形象1994年电视剧《东方小故事之蒙正气度》：俞洛生饰演吕蒙正。