1942年夏天，为了更好地应对敌人，沂北地区成立了工委和行署。李怀德从沂水县武装科调到沂北行署，担任武装科长和县大队长。沂北工委的其他领导成员包括：武杰是工委书记，崔杰千是行署主任，单昭祥是公安局长，李德民是组织部长，刘亚明是宣传部长，耿启明负责抗联和农会，王明贞是青年会长，陈淑身负责妇女救国会的工作。
沂北工委和行署成立时，所管辖的范围涵盖了原沂水县的一区部分以及二区、三区、七区。这些地区大部分处于敌占区或游击区，我们实际掌控的只有二十多个村子。工委和行署机关经常转移，主要在十来个村庄落脚。辖区内敌人设立的据点包括沂水城、武家洼、葛庄、松峰、道托、高桥和沭水。而马站以北的地区则被国民党五十一军和其他一些杂牌部队控制着。
沂北地区党组织实力强，群众基础扎实，军民关系特别融洽。虽然地方不大，但治安状况很好。就连敌人的据点，我们的工作组也能自由进出活动。那些敌人整天龟缩在据点里，除了偶尔出来扫荡，平时根本不敢随便离开老巢。
沂北工委成立没多久，就赶上了日伪军发起的秋季大规模“扫荡”。
1942年10月，敌人对青沂公路以西、沂山以南、沂水至东里店公路以北这一片地区展开了大规模"扫荡"，用的是一种叫拉网的战术。在敌人动手前，沂北工委已经知道了他们具体要扫荡的消息。李怀德带领县大队的一个中队，和行署主任崔杰千、工委书记武杰、公安局长单昭祥以及一些机关人员一起从常庄出发，直奔崖庄。他们打算和崖庄区公所的同志们汇合，然后采取"敌进我进"的策略，悄悄潜入高桥附近的敌占区藏起来。
李怀德带着队伍深夜赶到区公所，却发现那里的同志已经撤离。天快亮了，行动困难，他们只能在沙沟村南山旺的茂密树林里藏身等待。
天还没亮，李怀德偷偷摸到树林边上查看敌情，看见对面山坡上敌人点起了好几堆火。我们的队伍就在敌人眼皮底下，形势十分危急。李怀德回去跟崔、武、单他们商量后，决定就地隐藏，要求所有人都要听指挥，敌人不来找麻烦，谁都不能乱动，更不许开枪。要是敌人发现了咱们并打过来，就马上全力还击，集中火力从敌人后面冲出去。
大约早上八点，敌军开始进行“拉网式”搜索。其中一支队伍逐渐逼近李怀德他们，距离仅剩二三十米。李怀德身旁的粮秣助理员李中泉有些按捺不住，抓起手榴弹就要扔向敌人，李怀德立刻制止了他。情况极其危险！敌军一波接一波地从李怀德他们眼前经过。他们在敌人眼皮底下躲藏了整整一天一夜。
天黑了，队伍开始转移。县大队的一个中队在往根据地走的路上被敌人打散了。同一天，对崮山那边也发生了战斗。第二天，年纪大的崔杰千因为身体不好，就藏在老百姓家里；李怀德、武杰和单昭祥带着几个机关人员，趁着天黑回到根据地大诸葛、河北那一带，组织群众恢复生产，继续坚持斗争。
就在日军撤离后不久，国民党五十一军的一支部队趁着老百姓还没从恐慌中缓过神来，假扮成日军抢占了上华庄、下华庄、略疃等村子和北山一带。李怀德他们赶紧撤到北古村，组织起诸葛乡的乡分队和民兵，在杨家顶坚守阵地，成功挡住了国民党军队的进攻。
在这场惨烈的"扫荡"行动中，沂北县火队副队长贾不幸遇难，二地委组织部长潘维周也在安家圈一带英勇牺牲。日军实施的"烧光、杀光、抢光"政策给沂北根据地带来了巨大创伤，老百姓的日子过得异常艰难，连基本的生产生活都成了问题。
尽管敌人气焰嚣张，沂北地区的党员和群众却毫不畏惧。面对重重困难，他们依然挺直腰杆，坚信抗日战争的胜利终将到来。大家精神振奋，士气高涨，团结一致，共同投入这场艰苦卓绝的斗争中。
1943年2月末，日军再次对沂北一带展开"扫荡"。当地工委和行署的机关人员被迫分散行动。李怀德、武杰和单昭祥成功突围脱险。然而，王子固率领的一个连队却在歪头崮遭遇敌军包围。尽管他们与敌人展开了激烈的战斗，但由于双方实力差距过大，最终在弹药耗尽、补给断绝的情况下，全连官兵英勇就义。
那年春天，崔杰千调离岗位，余辉接任行署主任，李志南担任副主任。这一年的重点工作是响应中央号召，推动大规模生产活动，提升军民生活水平，协助主力部队进行第三次反顽作战，同时加强对敌占区的渗透，进一步拓展根据地范围。
在大生产热潮中，县里的干部和老百姓齐心协力，共同下地干活、纺纱织布、做鞋子、运送物资。没有牲口就用人力拉犁，这些实实在在的行动帮助大家挺过了最艰难的时期，为前线部队打赢第三次反顽战役提供了强有力的后方支持。
国民党五十一军撤退后，我们的根据地迅速扩大。工委派出工作队到八区悦庄等地进行工作，七区也扩展到了沂山脚下的张马庄。整体形势发展迅速，大家信心倍增，士气高涨。很快，四地委和沂山军分区、沂山专署成立，沂北地区归四地委和沂山专署管理。
1944年，抗日战局明显好转，沂北地区迅速扩展，沂水城、武家洼、马站、高桥、沭水、松峰、道托等地的敌占区都被清除。同年春天，行署主任余辉和副主任李志南被调任，李怀德暂代行署主任，其他领导职务保持不变。此时，工委和行署机关已能在沂北全境自由活动。
一年时间，沂北地区焕然一新。眼看抗战就要胜利了，为了更好调动百姓积极性，团结大家打击敌人，全县上下搞起了减租减息活动。穷苦农民的日子好过多了，大家打鬼子的劲头更足了。
1945年，减租减息的工作仍在进行。8月，日本侵略者突然宣布投降，起初大家都有点意外，等确认消息属实后，所有人都激动不已，纷纷互相传递这个好消息。各地都举办了庆祝活动，那种高兴劲儿，真是说不出的痛快。
很快，中央发出号召，为了保护抗战胜利的成果，避免蒋介石引发内战，要大力推动参军运动。上级决定让李怀德以行署主任的身份率先参军，并以沂北子弟兵团的名义动员全县青年加入。子弟兵团没有正式的团级编制，而是以各区的区中队为基础组建大队。
这个动员令一发布，全县上下都积极响应，很多家庭都主动把儿子、丈夫送去当兵，一时间报名参军成了热潮。不到三十天，全县就召集了三千五百多名新兵。李怀德虽然是团长，但他只是发出号召，并没有真正组建起一个完整的团队。
新兵们被分派到各个部队，李怀德这个名义上的团长也被调到了沂山军分区担任武装部长。这样一来，他在沂北的战斗生涯就此画上了句号。