吕夷简出身仕宦之家，伯父吕蒙正是宋真宗时的宰相；父亲吕蒙亨官至光禄寺丞、大理寺丞。其祖父龟祥曾任安徽寿州知州，故移家寿州。他是真宗初年进士，历任通州通判、滨州知州、礼部员外郎、刑部员外郎兼侍御史。吕夷简才识卓优、清慎勤政，当时便有“廉能”之誉。知滨州时，他上疏请免掉农具税，真宗为之颁行天下。在礼部员外郎任上，他批评真宗建筑宫观是劳民伤财，请罢除冬天河运木石。真宗称赞他“有为国爱民之心”，数次委以大任。他曾出使契丹议和划界，返朝后升任知制诰之职，成为真宗的近臣。真宗末年，他升为龙图阁直学士迁刑部郎中，权知开封府。真宗把他的名字写在屏风上，朝野盛传吕夷简将要大拜为相。
临危受命1022年，真宗崩。年幼的仁宗即位，刘太后临朝称制。吕夷简拜同中书门下平章事（宰相），集贤殿大学士。刘太后性格刚愎，又不明习国政，但朝政非经她批准不可。吕夷简一方面要细心处理国家大事，一方面还要小心翼翼地约束太后的放纵和独断专行。在这种情况下，吕夷简本着公忠报国之心，殚心竭虑地处理万千事务。小事他照顾太后的颜面，大事则寸步不让，有时惹得太后非常恼怒。遇到这种情况，吕夷简总是详细剖白，再三陈述自己的意见，迫使太后接受正确意见。例如：真宗附庙大典，刘太后提出要把真宗活着时用的全部东西供在太庙；同时用银罩覆盖真宗神位。并说不这样做就是对真宗不敬。吕夷简说，对真宗最好的怀念是辅助幼主治理好天下，浪费和铺张不是先帝所希望的，终于制止了太后的做法。
又如，明道元年，先帝宋真宗的一个普通嫔妃李氏病逝，太后未公开治丧。吕夷简朝令时提出此事，太后惊急地说：“宰相也管宫中事吗？”刘太后忙让仁宗皇帝退朝后，并独自召见吕夷简。吕夷简针锋相对地说：“太后不为日后保全刘家着想吗？”一句话震住了太后，后来才下诏以皇后礼下葬李氏。原来李氏不是普通人，她便是当今仁宗皇帝的生身之母！
荆王的儿子一直养在宫中，太后很喜欢他，长大了也不放他出宫。大臣们多次请求，太后推说让他给仁宗陪读。吕夷简说：“圣上应该亲近儒臣，方能便于圣德的养成。”太后没办法，只好放他出宫。在吕夷简努力下，仁宗初年**清平，社会安定。《宋史》评价他说：“仁宗初立，太后临朝十余年，天下晏然，夷简之力为多。”
八条规劝明道二年（1033年），太后崩，仁宗亲政。吕夷简向他提出八条规劝，即：正朝纲、塞邪径、禁货贿、辨佞壬、绝女谒，疏近习、罢力役、节冗费。仁宗皆虚心接受。仁宗郭皇后素不满吕夷简，在仁宗面前挑拨他与吕夷简的关系，吕夷简被短期罢相，旋即复任。郭皇后脾气*躁，在宫中与尚美人发生争执，大打出手，不料一巴掌打在拉架的仁宗脸上。仁宗决意废掉她，吕夷简也表示赞同；孔道辅、范仲淹等人疏救，被贬官外任。
谥号庆历二年（1042年），吕夷简因风眩病倒。仁宗让他数日一至中书，裁决军国大事。并剪下自己的胡子送给吕夷简，说：“古谓胡须可疗疾，今剪须赐卿，望卿早日康复。”庆历三年春，吕夷简病重。仁宗召见了他，不让他下拜，扶他坐在自己面前。希望他在身体许可的情况下多多过问朝政。吕夷简再三辞让，仁宗允他以太尉致仕。不久，吕夷简病故。仁宗临朝叹曰：“安得忧国忘身如夷简者”(《宋史》本传)。令恤典从优，赠官太师、中书令，谥文靖，后配享仁宗庙。
为政举措 安抚边疆吕夷简在处理宋与辽、夏关系，巩固边防方面卓有贡献。他任用范仲淹用兵西夏，派名臣出使辽邦，与两国达成和议，实现了和平，保护了国内安定的社会环境，这是具有积极意义的。但在上述关系的处理上，吕夷简对辽夏让步太多，岁输银两、锦帛过巨，加重了国内财政负担，这是应当指出的。
知人善任在用人上，吕夷简反对他的人不够宽容。这些人物常常被他贬往远方任职，如孔道辅、范仲淹等。欧阳修批评吕夷简 “二十年间坏了天下。其在位之日，专夺国权，胁制中外，人皆畏之”。但是，吕夷简对真正有才干的**还是能够重用的。常常一面薄惩**，一面使用，充分发挥他们的才能。故《宋史》称他：“于天下事屈伸舒卷、动有*术。”
轶事典故1、夷简在西溪任官时，算是爱民好官，当时西溪人家都种植牡丹花，吕夷简到任后受其感染，也植牡丹一株，聊以**。他围以朱栏，悉心呵护，竟然花开百朵，成为海滨盛事。吕夷简月下看花，情不能己，当即赋《咏牡丹》一首： 异香浓艳压群葩，何事栽培近海涯。开向东风应有恨，凭谁移入王侯家？ 吕夷简以花自喻，其怀才不遇之情溢于言表。吕夷简离任后，西溪人专门修建“牡丹亭”，刻其诗以为纪念。
2、宋仁宗庆历年间，石介（奉符人，字守道，笃学有志，性行刚正）作《庆历圣德颂》，对当朝的人批评得很严厉，尤其对于夏竦（江州人，累官武宁军节度使，封郑国公）更是诋毁斥责。
不久，朝中发生党派之争，石介因罪免职回乡，病逝。
当时山东有一个举人孔直温谋反。有人说孔直温曾是石介的学生，于是夏竦就说石介实际上没有死，是逃到北方胡邦去了，仁宗就下诏限制石介儿子的行动，又派使者告诉京东刺史，要挖开石介的棺材看看。
当时吕夷简任京东转运使，对仁宗的使者说：“如果打开棺材发现是空的，表示石介果真逃到北方，这样虽然*他儿子也不为过；万一石介真的死了，朝廷无故挖开人民的坟墓，要怎么对后世交待呢？”
使者说：“但是又如何回复皇上的旨意呢？”
吕夷简说：“石介去世后一定有为他办理殡殓的人，又内外亲族和参加丧礼的门生*怕不下数百人，你都发公文去询问他们，如果没有不同的说法，就命令他们都写保证书，保证不说实话要依军令处罚，这样就可以对皇上交待了。”
使者照他的话去禀告仁宗，仁宗也明白这件事是夏竦诬陷之词，不久便降旨释放石介的妻子儿女回乡。
陵墓碑文陵墓
吕夷简墓位于河南新郑市郭店镇李坟村东约500米处，现存冢高4米，周长约40米。2001年11月12日新郑市人民政府公布为新郑市文物保护单位。
碑文
吕夷简（公元978年――1044年）字坦夫，祖籍莱州，祖父移居安徽凤台，宋代著名**家。出身于仕宦之家。祖进士，官至刑部员外郎兼侍御使，伯父吕蒙正真宗时宰相。父官至大理寺丞。夷简中进士后，真宗时以刑部郎中、权知开封府。仁宗时任宰相。
综观夷简生平，仁宗年幼登基，刘太后临朝称制，刚愎自用，不谙国政，外有西夏，契丹侵扰不息，内外煎迫，动辄掣肘。身为宰相，对上既需委曲求全、多费口舌、剖白辨析，又需顾其尊严，对外尤需刚柔相济、析冲樽俎，保证社会安定，经济发展，十余年中全仗他支撑维持。真宗时他建议停建宫观，并裁去二府宫观使节省开支。真宗去世后，刘太后要求将真宗生前之物陈列太庙，并覆以银罩，夷简百般劝导方作罢论。其他如纂修国史，玉清昭应宫火灾后未复建，设专衙约束宗室子弟，同时出使契丹不辱使命。仁宗亲政后，他提出八条规劝：正朝纲、塞邪经、禁货贿、辨佞壬、绝女*、疏近习、罢力役、节冗费、皆为当时要务，仁宗虚心接受。两川灾荒，进行安抚，罢黜郭后，等处理皆得当，屈伸舒卷，动有*术，不愧当世之名相，故其去世后，仁宗流泪对群臣说：“难得忧国忘身像夷简那样的人啊！”
家族成员吕夷简的儿子吕公著，亦官至宰相，七世孙吕祖谦、吕祖俭都是南宋著名大儒。