从此，曹操部下文有足智多谋的臣子，武有勇猛善战的将领，在山东一带威名远扬。于是，曹操派遣泰山太守应劭，前往瑯琊郡去接父亲曹嵩。曹嵩自从在陈留避难后，便隐居在瑯琊；当日接到曹操的书信，就与弟弟曹德以及一家老小四十多人，带着随从一百多人，车一百多辆，径直朝着兖州而来。途经徐州时，徐州太守陶谦，字恭祖，为人温和宽厚、淳朴笃实，一直想与曹操结交，只是一直没有机会；得知曹操的父亲经过，便亲自出境迎接，行再拜之礼表示敬意，还大摆筵席，热情款待了两天。曹嵩要走时，陶谦又亲自送出城外，特地派遣都尉张闿，带领五百士兵护送。
曹嵩率领家小走到华县、费县之间时，正值夏末秋初，突然下起倾盆大雨，他们只得前往一座古寺中歇宿。寺里的僧人将他们接入。曹嵩安顿好家小，命令张闿把军马屯扎在两廊下。众军士的衣服都被雨水打湿，他们齐声抱怨。张闿叫来手下的头目，在僻静处商议道：“我们本是黄巾余党，勉强投降了陶谦，却没得到什么好处。如今曹家的辎重车辆不计其数，你们想要获得富贵并不难，只需在今夜三更时分，大家冲进去，把曹嵩一家杀了，夺取财物，然后一起到山中落草为寇。这个计策怎么样？”众人都表示同意。
当夜，风雨未停，曹嵩正坐着，忽然听到四周喊声大作。曹德提着剑出去查看，当场就被刺死。曹嵩急忙带着一个妾逃进方丈室后面，想要翻墙逃走；但妾身体肥胖，无法翻过去，曹嵩慌急之下，与妾一起躲进厕所，结果被乱军杀死。应劭拼命逃脱，投奔袁绍去了。张闿杀光曹嵩全家，夺取财物后，放火烧了古寺，与五百士兵逃奔淮南去了。后人有诗叹道：“曹操奸雄世所夸，曾将吕氏杀全家。如今阖户逢人杀，天理循环报不差。”
当时，应劭部下有逃命的军士，将此事报告给曹操。曹操听闻后，悲痛得哭倒在地。众人将他救起。曹操咬牙切齿地说：“陶谦纵容士兵杀害我父亲，此仇不共戴天！我如今要倾尽大军，荡平徐州，才能雪我心头之恨！”于是留下荀彧、程昱率领三万军队，镇守鄄城、范县、东阿三县，其余的军队全部杀向徐州。夏侯惇、于禁、典韦担任先锋。曹操下令：只要夺得城池，就把城中百姓全部屠戮，以报父仇。
九江太守边让，与陶谦交情深厚，得知徐州有难，亲自率领五千兵马前来救援。曹操听说后大怒，派夏侯惇在半路截杀了他。当时陈宫担任东郡从事，也与陶谦交情匪浅；他听说曹操起兵报仇，要杀光徐州百姓，便连夜赶来见曹操。曹操知道他是为陶谦当说客，本想不见，但又念及旧恩，只好请他进入帐中相见。
陈宫说：“如今听闻明公率领大军兵临徐州，为尊父报仇，所到之处要杀光百姓，我因此特地前来进言。陶谦乃是仁人君子，并非贪图利益、忘恩负义之辈；尊父遇害，是张闿的恶行，并非陶谦的罪过。况且州县的百姓，与明公有何仇怨？大肆杀戮实在不祥。希望明公三思而后行。”曹操愤怒地说：“你昔日抛弃我而去，如今还有什么脸面再来见我？陶谦杀我一家，我发誓要将他摘胆剜心，以雪我心头之恨！你虽然为陶谦游说，可我就是不听，又能怎样！”陈宫告辞出去，叹息道：“我也没脸去见陶谦了！”于是骑马投奔陈留太守张邈去了。
再说曹操大军所到之处，大肆杀戮百姓，挖掘坟墓。陶谦在徐州，听闻曹操起兵报仇，杀戮百姓，仰天痛哭道：“我得罪了上天，才致使徐州百姓遭受如此大难！”他急忙召集众官商议对策。曹豹说：“曹兵既然来了，我们岂能束手待毙！我愿意帮助使君打败他们。”陶谦只得率领军队出城迎战，远远望去，曹操的军队如同铺霜涌雪一般，中军竖起两面白旗，上面大大地写着“报仇雪恨”四个字。
军队列成阵势后，曹操纵马出阵，身穿白色丧服，扬鞭大骂。陶谦也骑马来到门旗下，欠身施礼说：“我本想与明公交好，所以托付张闿护送尊父。没想到他贼心不改，才导致了这样的事。这实在与我陶谦无关。希望明公明察。”曹操大骂道：“老匹夫！杀我父亲，还敢胡言乱语！谁能把这个老贼生擒过来？”夏侯惇应声而出。陶谦慌忙退回阵中。夏侯惇追来，曹豹挺枪跃马，前来迎敌。两匹马刚一交锋，忽然狂风大作，飞沙走石，两军顿时大乱，各自收兵回营。
陶谦回到城中，与众将商议说：“曹兵势力强大，难以抵挡，我应当亲自捆绑自己前往曹操军营，任凭他处置，以此来拯救徐州一郡百姓的性命。”话还没说完，一人走上前说道：“府君长久以来镇守徐州，百姓感恩戴德。如今曹兵虽然众多，但一时还无法攻破我们的城池。府君与百姓坚守不出；我虽然没什么才能，但愿意献上一条小计策，让曹操1死无葬身之地！”众人十分惊讶，连忙问他有什么计策。正是：本为纳交反成怨，那知绝处又逢生。