陈寿《三国志·武帝纪》并无记载，裴松之注有三种版本：

魏书曰：太祖以卓终必覆败，遂不就拜，逃归乡里。从数骑过故人成皋吕伯奢；伯奢不在，其子与宾客共劫太祖，取马及物，太祖手刃击杀数人。

世语曰：太祖过伯奢。伯奢出行，五子皆在，备宾主礼。太祖自以背卓命，疑其图己，手剑夜杀八人而去。

孙盛杂记曰：太祖闻其食器声，以为图己，遂夜杀之。既而凄怆曰：“宁我负人，毋人负我！”遂行。

演义传记

曹操故人。曹操因刺杀董卓不成而逃离洛阳，途中被陈宫所救，共同来到吕伯奢家，吕伯奢吩咐家人杀猪款待二人，自己前往西村买酒；但曹操却误以为家人的磨刀声是要杀死自己，于是尽杀吕氏家人。离开吕家后遇见买酒归来的吕伯奢，曹操因担心吕伯奢将告发自己，于是挥剑砍死吕伯奢；陈宫因此责备曹操大不义，曹操却回答“宁教我负天下人，休教天下人负我”。陈宫因此认定曹操是不义之人，于是离他而去。

吕伯奢灭门有很多讲法，一般都指向曹操的不仁不义，不过愈早期的相关叙述并不支

《魏书》讲吕伯奢是曹操的老朋友，曹操从董卓逃亡时和几个人骑马去找吕伯奢，刚好吕伯奢不在，结果吕伯奢的儿子和宾客共谋抢劫曹操一行人，结果曹操反击杀了数人。这算正当防卫，没什么不仁可言。（演义太过，但是魏书毕竟是曹家写的，世人所疑不是完全没有道理。）

《世语》则说吕伯奢虽然外出，但是五个儿子都很客气，以宾主之礼对待，但是曹操因为吕家对人太好，反而满怀疑心，拿剑在当天晚上杀了八人后离开。

《孙盛杂记》则提，因曹操听到异声（原文是食器声，不见得是刀具声），于是满怀疑心，连夜杀人，临走前悲凄的留下一句：“宁我负人，毋人负我！”