第一军司令官梅津美治郎随即命令准备修建该路段的铁路。为了保证筑路工程的顺利进行，防止中国军队的破坏，他命令在太原的独立第三混成旅团以及在包头附近的骑兵第四旅团紧急南调，让其进入刚刚占领不久的榆社、武乡、沁县地区，维持祁县到长治之间白晋公路的安全。
日军骑兵第四旅团，是华北日军唯一一支骑兵部队。该骑兵部队成立于1901年，从1931年开始，他们一直在中国作战，此时该骑兵旅团原本属于日军驻蒙军，梅津美治郎通过大本营的关系将其调拨给了自己。
该骑兵旅团旅团长为小岛吉藏少将，有人员1675人，下辖骑兵25、26两个联队，每个联队有640人，编为4个中队，旅团部配有一个机枪中队、一个炮兵中队，拥有山炮、速射炮。
特务四连的主要任务就是负责破袭白晋公路，这个是在从武安出发前就拟定好的，所以十二团在停下来修筑工事时，特务四连就按照原先的计划分兵两路，分别前往白晋公路的南、北两段开始进行拔点作战任务。
日军前后整个行动速度还是很快的，这边才将中国军队驱赶离开公路以及靠近公路的战略要点，那边就已经在公路上开始修建据点和炮楼。重要位置以及大的据点就修建大炮楼，次要位置和据点就修建小炮楼。
沿白晋公路，鬼子每隔一公里左右就会修建一个据点，据点里全部建有炮楼。炮楼也不是很坚固，是由当地很常见的砖石和木头建成的，只有两层或者三层高。鬼子炮楼没有炮，驻守的人不多，绝大多数只有日本人的一个小分队，十几条步枪外加一挺机枪，一部分会配上掷弹筒。
这些炮楼，在任何一个完成初步工业化的国家眼中，都是不够看的，挨上几发75毫米口径的炮弹就会上天，在重型火力面前，这种炮楼几乎弱不禁风，起不到多少防护作用。
但就是这种简陋的炮楼，使得八路军游击队吃尽苦头，死伤惨重。
