当时庞舒在长安，私下藏了吕布的家人，送还给吕布。李傕、郭汜知道了，就杀了庞舒，写信给张杨，让他杀吕布。吕布因此离开张杨，去投靠张邈。正好张邈的弟弟张超带着陈宫来见张邈。

陈宫对张邈说：“现在天下大乱，英雄并起；你拥有千里的土地，却还要受制于人，这不是很可笑吗！现在曹操出征，兖州空虚；而吕布是当代的勇士，如果和他一起攻取兖州，霸业可成。”

张邈听了很高兴，就让吕布攻破了兖州，随后占领了濮阳。只有鄄城、东阿、范县三处，因为荀彧、程昱的计谋，死守得以保全，其他地方都被攻破了。

曹仁多次战斗，都不能取胜，特意来告急。曹操听到这个消息，大惊说：“兖州失守，我连家都没有了，必须尽快想办法！”

郭嘉说：“主公正好可以给刘备卖个人情，撤军回去收复兖州。”

曹操同意了，立刻给刘备回信，撤营退兵。

送信的人回到徐州，进城见到陶谦，呈上书信，说曹操的军队已经撤退了。陶谦非常高兴，派人请孔融、田楷、关羽、赵云等人来城中举行大会。

宴会结束后，陶谦请刘备坐在上座，拱手对大家说：“我老了，两个儿子都不成器，不能承担国家的重任。刘备是皇帝的亲戚，德行和才能都很高，可以领导徐州。我愿意退休养病。”

刘备说：“孔融让我来救徐州，是为了义气。现在我无缘无故地占据它，天下人会认为我是不义之人。”

糜竺说：“现在汉朝衰落，天下大乱，正是建立功业的时候。徐州富饶，人口众多，刘备你不应该推辞。”

刘备说：“这件事我绝对不敢接受。”

陈登说：“陶谦病多，不能处理事务，刘备你不要推辞。”

刘备说：“袁术是四世三公，全国人都归附他，现在在寿春，为什么不把州让给他？”

孔融说：“袁术是坟墓里的枯骨，不值一提！今天的事，如果天赐的机会不抓住，将来会后悔的。”

刘备坚决不接受。

陶谦哭着说：“如果你舍弃我离开，我死也不会瞑目！”

关羽说：“既然陶公让位，哥哥你暂时接管州事吧。”

张飞说：“又不是我们强迫他让出州郡；他好意让给我们，何必推辞！”

刘备说：“你们是想让我陷入不义吗？”

陶谦再三让位，刘备始终不接受。

陶谦说：“如果刘备你一定要拒绝，这里附近有个叫小沛的地方，足够驻军，请刘备你暂时驻军在那里，保护徐州。怎么样？”

大家都劝刘备留在小沛，刘备同意了。

陶谦犒劳完军队后，赵云告别了，刘备拉着他的手，流着泪告别。孔融、田楷也各自告别，带着军队回去了。刘备和关羽、张飞带着自己的部队来到小沛，修缮城墙，安抚居民。