李矩字世..，平陽人。他年幼的时候，和一群孩子在一起玩耍，就是孩子们的首领，计划指派，就和大人们办事一样。长大后作差吏，护送去职的县令到长安，被征西将军梁王司马肜任命为牙门将。在讨伐氐人齐万年的战斗中立下大功，被封为东明亭侯。回到本郡担任督护之职。郡中太守宋胄想让自己的亲戚吴畿来任督护，李矩就假称有病离开了。吴畿担心李矩再返回来，暗中派人刺杀他，刚好碰上有人救了他，才得以保全一性一命。当刘元海进犯平陽时，百姓四处奔走躲避，李矩平素为乡亲们所一爱一戴，大家推举他为坞主，组成自卫的武装，东下屯兵荥陽，后又移到新郑。
李矩勇一猛刚毅多谋略，有建功立业的大志，东海王司马越任命他为汝陰太守。永嘉初(307)，派李矩和汝南太守袁孚率民众修筑千金土曷，以便利水路漕运。后洛陽失陷，太尉荀藩逃奔陽城，卫将军华荟逃奔成皋。当时大饥荒，贼兵首领侯都等常常抓人来充饥，荀藩、华荟的部曲士卒很多都被吃掉了。李矩讨伐并消灭了侯都，营救保护了荀藩、华荟，并为他们营造了屋宇，供给粮食。荀藩接受朝廷任命，建立行台后，就让李矩担任了荥陽太守。李矩收容招纳离散的民众，远远近近的人都来投奔他。
石勒亲自率领大军进攻李矩，李矩令老弱之人入山中躲避，让所有的牛马都散放，预设埋伏等待敌军的到来。贼兵争先恐后地追取牛马，伏兵齐出，高声呐喊，震动山谷，于是敌军大败，斩杀敌人甚多，石勒只好退兵。荀藩表奏元帝，加封李矩为冠军将军，赐轺车幢盖，晋封陽武县侯，领河东、平陽太守。当时饥荒仍没解除，又再加瘟疫流行，李矩尽心为民解难，百姓多依赖他而存活。后正值群盗从长安东下，所过之地大肆抢劫掠夺，李矩派部下打败了他们，获得了盗贼抢来的妇女千余人。部下将领认为这些妇女不是自己辖区的人，可以留下来，李矩说：“她们都是国家的臣民，怎么能分彼此！”于是把她们都送了回去。
其时刘琨所任命的河内太守郭默为刘元海所一逼一迫，愿意归属李矩，李矩派自己的外甥郭诵去迎接他，但郭默不敢前进。正好刘琨派遣参军张肇，率领鲜卑人范胜等五百骑兵前往长安，因郭默被刘元海围困，道路不通，准备退还投奔邵续。路过李矩军营时，李矩对张肇讲了郭默之事，李矩说：“郭默是刘公委派的，但都是为国家之事，知道的我们都应去做。”屠各过去害怕鲜卑兵，于是请张肇支援自己，张肇同意了李矩的要求。屠各他们看到张肇带领的鲜卑骑兵，不等接战就退走了。郭诵暗中派小船渡过黄河，使勇士夜袭怀城，攻击敌人留守的营垒，大获全胜，郭默这才率领部属投归了李矩。后来刘聪派从弟刘畅率步骑三万攻打李矩，驻屯于韩王故垒，两军仅相距七里，刘畅派使者招降李矩。因刘畅来得突然，李矩未作好应敌准备，就派人送上牛酒礼品诈降于刘畅，把一精一锐之卒藏起来，只看到一些老弱残兵。刘畅不以为意，大宴诸将，人人酒醉饭饱。李矩安排夜间偷袭，兵士见敌人众多，都有畏惧之色，李矩令郭诵到郑子产祠去祈祷说：“郑君过去在郑国为相，恶鸟都不敢鸣叫，这些凶残的胡虏，又怎能在你的庭前横行？”让祠中巫师扬言：“东里子产有教，他当派神兵帮助你们。”将士们听了，无不奋勇争先。于是让郭诵和督护杨璋挑选勇士千人，夜晚偷袭刘畅军营，缴获大批铠甲战马，斩杀数千敌军，刘畅好不容易逃走保住了一性一命。
先前，郭默听说李矩被刘畅所攻，遣弟郭芝率兵救援。接着听说李矩已打败了敌人，郭芝还是照常赶来相见，李矩就送给郭芝五百匹战马，分兵三路，连夜追击敌人，大获全胜而归。
先前，刘聪派其部将赵固镇守洛陽，长史周振与赵固有矛盾，暗中向刘聪告发赵固之罪。李矩打败刘畅时，在营帐中缴获了刘聪的书信，信中命令刘畅消灭李矩后，路过洛陽时，杀掉赵固，让周振代替赵固。李矩将此信送与赵固，赵固即杀了周振父子，率一千余骑投降，李矩让他继续镇守洛陽。过后数月，刘聪派遣太子刘粲率刘雅生等步骑十万屯孟津北岸，分派刘雅生攻打洛陽的赵固。赵固出奔陽城山，让其弟前去告急求救，李矩派郭诵屯兵洛口以救援他。郭诵派部将张皮挑选一精一兵千人乘夜渡河，刘粲的侦探报告有兵过河而来，刘粲倚仗自己人多，毫不在意。一会儿郭诵之兵掩杀而至，十路齐攻，刘粲士卒惊恐万状，四散逃奔，被杀伤大半。郭诵占据了敌军营垒，缴获各种军用器械物质，不可胜数。天亮后，刘粲才发现张皮兵卒不多，就和刘雅生带领剩下的人全力攻打，苦战了二十多天也攻不下来。李矩进兵援救张皮，使壮士三千乘船渡河。敌军在河边列阵以待，用长钩来钩住船，连攻几天也过不了河。李矩派部将格增在夜晚偷偷渡河进入张皮营垒，与张皮选一精一兵千余骑，杀掉所缴获的牛马，烧毁军用器械，连夜突围而出，奔向武牢。刘聪追赶，赶不上了才退回。刘聪因此愤怒，发病而死。元帝嘉奖李矩的战功，封他为都督河南三郡军事、安西将军、荥陽太守，封修武县侯。
刘粲即位后，昏庸残暴，其部将靳淮十起兵杀死刘粲，灭其宗族，发掘刘聪坟墓，斩其一尸一体，派遣使者到李矩处请求归顺，说：“刘元海、屠各这些小丑，乘晋室变故之机，作乱于幽州并州，矫称天命，至使二帝被害于胡人之手。我们将率众护送二帝梓宫回朝，请告知朝廷。”李矩以表章驰奏元帝，元帝派遣太常韩胤等来迎接二帝梓宫，人还未到而靳淮十已被石勒、刘曜消灭了。李矩因为自己人少力弱不能立此大功，经常慨叹惋惜。元帝正式即位后，以李矩为都督司州诸军事、司州刺史，改封平陽县侯，将军职位如故。其时，弘农太守尹安、振威将军宋始等四军都驻扎洛陽，他们互相猜疑，毫无固守的打算。李矩、郭默各派千骑到洛陽防守。尹安等人合谋，把消息密告石勒，石勒派石生率五千骑到洛陽，李矩、郭默之军只好退回。不久尹安等四将又背叛石勒，派使者前来请求迎归，郭默派步卒五百人进入洛陽。石生看到四将有反归之企图，自己难保平安，就把宋始的军队胁迫带走，渡河向南而去。百姓相继来投奔李矩，洛陽城为之一空。李矩上表请任郭默为扬武将军、陽翟令，在河边迎水修营垒，一边耕种一边防守，为灭敌作长远的打算。后赵固死，石生派兵来攻打郭诵，郭诵足智多谋，敌兵来到，设埋伏打败他们，敌人一无所获。石生恼怒，亲自率四千人到诸县抢掠，又来进攻郭诵营垒，开战不一会儿，敌兵败退到..坂。郭诵率勇士五百人追击石生到磐脂故亭，又大破敌兵。李矩认为郭诵功劳多，上表请赐赤幢曲盖，封为吉陽亭侯。郭默想攻打祖约，李矩不同意，后被祖约打败。石勒派遣养子刘鶧袭击郭默，郭默担心自己后患还未解除，准备降于刘曜，派参军郑雄来和李矩商议，李矩不准。后石勒遣部将石良率一精一兵五千攻打李矩，李矩迎击失利。郭诵之弟郭元被敌人俘虏，敌人派郭元以书信劝说李矩：“去年石勒东平曹嶷，西击猗卢，李矩如同牛角首当其冲，何不归顺过来？”李矩将劝降书交给郭诵看，郭诵说：“过去王陵母亲被敌人扣押，王陵尚且不以为意，何况现在我只是一个兄弟陷于敌中。”石勒又派人向郭诵赠送尘尾马鞭，以示殷勤之意，郭诵不予理睬。石勒部将石生屯兵于洛陽，在河南大肆抢掠，李矩、郭默因而无食而饥，郭默又劝李矩归降刘曜。李矩被石良打败，只好听从郭默的劝告，派使者到刘曜处联系。刘曜派从弟刘岳屯兵于河陰，准备和李矩一起攻打石生。石勒派遣将领围攻刘岳，刘岳闭门不敢出战。郭默后来被石囱心打败，从密县南奔建康。李矩知道后大怒，叫部将郭诵等人写信给郭默，又对郭诵说：“你知道唇亡齿寒的道理吗？当年迎接郭默归顺，都是你出力促成，他临危而逃走，一定要把他留下来。”郭诵追赶到襄城，郭默自知有负于李矩，丢弃了妻子自己跑了。郭诵把其他的部下带了回来，李矩还是和以前一样对待郭默的妻子。刘岳看到外援无望，只好投降了石季龙。
李矩统率的将士有人暗中要投归石勒，李矩知道了也无力讨伐，只好率领部众南下投归朝廷，部下多在途中逃散了，只有郭诵和参军郭方、功曹张景、主簿苟远、将军骞韬、江霸、梁志、司马尚、季弘、李环、段秀等百余人弃家护送。走到鲁陽县，李矩坠马而亡，葬于襄陽岘山。