夏商时期，境内即建立了“铸”、“遂”等部落方国。
西周时期，又有建立的“肥子国”，境域属兖州之域。
春秋时期境域属齐、鲁两国分辖。战国时期属齐国所辖。秦代属齐郡所辖。
西汉初年（公元前206年）始置肥城县，属兖州刺史部泰山郡所辖。二千二百多年来，县境为郡、为县、为镇代有沿革。
东汉章帝末年（公元87～88年）撤销肥城县，境地分属济北郡卢县、蛇邱县和东平国富城县。
三国魏（220～265年）至东晋（317年前）归属同东汉。327年（晋成帝咸和二年）后，境地属后赵、前燕、前秦、后燕、南燕的济北郡、东平郡分辖。
南北朝宋（420～479年），在原肥城县故城设济北郡，原肥城县境地分属卢县、蛇邱县和富城县，隶属兖州。
南北朝北魏，527年（孝昌三年）复置肥城县，并设东济北郡于肥城县城。
南北朝北齐（550～577年）撤东济北郡，并入茌平县的济北郡，肥城县属之。
南北朝北周，577年（建德六年）于肥城县城置肥城郡。
隋开皇初年，废肥城郡，保留肥城县，属济州辖，隶属兖州。隋末，废肥城县，境地属济北郡管辖。
唐代622年（武德五年）复置肥城县，属东泰州辖，隶属河南道兖州。627年（贞观元年）撤肥城县，境地并入博城县。666年（乾封元年）改博城县为乾封县。668年（总章元年），改乾封县复为博城县。705年（神龙元年）再次改称乾封县。
五代（907～960年）境地仍属乾封县，隶属兖州。
宋代（960～1279年）初属乾封县，后属奉符县、平阴县分辖，隶属京东西路郓州。1115～1234年曾在旧肥城设辛寨镇，境地属平阴县、奉符县分辖，隶属山东西路东平府。
元代1275年（至元十二年）复置肥城县，隶属山东东西道济宁路。
明代1369年（洪武二年），肥城县改属济南府，隶属山东布政使司。
清代初沿明制。1734年（雍正十二年）改属泰安州，隶属山东布政使司泰武道。1735年（雍正十三年）泰安州升为泰安府，肥城县仍属之。
1913年属岱北道。
1914年属济南道。
1938年，属第六行政督察区。
1945年2月属鲁西（第二办事处）第六行政督察专员公署。
1947年属第十五行政督察区。
1939年10月，中国共产党领导的县抗日民主政府成立，初属泰西行政委员会，后属泰西专员公署。
1942年10月属晋冀鲁豫边区政府冀鲁豫第六专员公署。
1949年9月，隶属泰西专员公署。
1950年5月，肥城县归属泰安专员公署。
1958年10月划归聊城地区。
1959年7月划归济南市。
1961年5月复归泰安地区。
1985年3月隶属泰安市所辖。
1992年8月，撤销肥城县，设立肥城市（县级），仍为泰安市所辖。
