遂城镇始建于春秋战国时期是徐水县历史上最早的文明古镇古称武遂遂州，英雄城。为明代前徐水县的兵防要地和政治中心。战国时期，燕在遂城建一城池，称武遂，为当时燕都外卫城池。隋开皇十八年(公元596)，为遂城县县府驻地。北宋时为宋、辽界城。金天会七年(公元1129)，在遂城立州治名遂州，明洪武初降州为县。明洪武八年(公元1375)，遂城县并入安肃县。