稍后，杨坚奉武帝之命，与宇文宪联兵北上，进攻任城王高湝驻守的冀州（今河北冀州市）。高湝出兵迎战，被周军打得大败，旋即被俘。高湝是东魏实际统治者高欢唯一一个在世的儿子，辈尊望重，且名义上受幼帝禅让，称得上是凝聚北齐人心的最后一面旗帜。如今这面旗帜黯然倒下，意味着北齐已经彻底丧失了与北周抗衡的资本，只能乖乖接受被北周吞并的命运。
至此，立国二十八年的北齐宣告覆灭。
灭齐之后，武帝论功行赏，擢升杨坚为柱国、定州（今河北定州市）总管，让他出镇河北。北齐刚刚平定，河北显然是亟需镇抚的要地，杨坚能够获得这个任命，足见通过此次灭齐之战，他的能力已经得到了武帝的认可。
然而，当杨坚风尘仆仆地进入定州城，还没来得及熟悉当地的风土人情，一纸调令便从长安飞到了他的手中——武帝决定将他调往南兖州（今安徽亳州市），并命他即刻赴任。
杨坚强烈地意识到，武帝对他的猜忌之心犹存！
原因很简单，就当时北周的战略格局而言，南兖州的战略价值明显要比定州小得多。虽然从地缘角度看，南兖州与陈朝接壤，一般来讲也属于军事重地，但是，眼下北周的当务之急却不是对付陈朝，而是肃清北齐的残余势力，镇抚刚刚归降的北齐官民，让长安的统治权能够渗透到中原与河北的每一个角落。只有做完这一切，彻底安定北方的局势，继而积蓄力量，才谈得上南征陈朝，完成统一大业。换言之，南兖州的战略意义，势必要到几年以后才能显现。可如今，武帝却迫不及待地把杨坚从河北调往南方，摆明了就是不信任他。