春秋战国时期，齐国在境内设博邑。秦代博邑改为博阳县，汉初改为博县，泰山郡治博县。汉武帝元封六年（公元前110年），泰山郡治所迁至奉高（今岱岳区范镇故县村）。
北魏时期，博县改为博平县，泰山郡治迁至博平。北齐时期，博平复改博县，泰山郡废，设东平郡。隋开皇元年（581年），东平郡废。隋开皇十六年（596年），博县改为汶阳县，后又改为博城县。唐乾封元年（666年）改为乾封县。唐总章元年（668年），复改博城县。唐神龙元年（705年），又改为乾封县。
宋开宝五年（972年），乾封县治迁岱岳镇（今泰城）。北宋大中祥符元年（1008年），乾封县改为奉符县。
金天会十四年（1136年），于奉符地设泰安军，泰安得名始此。金大定二十二年（1182年），升军为州。清雍正十三年（1735年）升州为府，设泰安附郭县。民国2年（1913年），裁府留泰安县。 新中国建立后，泰城为泰安专署及泰安县驻地。1958年6月，泰安城关镇及周围村庄划出建立泰山市。同年11月29日，泰山市与泰安县合并建立泰安市。1963年4月撤市复县。
1982年3月，泰安县复改为泰安市。
1985年3月，国务院批准撤销泰安地区，成立泰安市（地级），原泰安市（县级）分设泰山区、郊区（2000年改为岱岳区）。
1985年建区时，辖岱庙、财源、泰前、粥店4个办事处和小辛庄、黄山头、大津口、徐家楼、上高、桑家疃6个乡及粥店镇。
是年11月，撤销小辛庄乡、黄山头乡、粥店镇，桑家疃乡与上高乡合并。全区行政区划调整为岱庙、财源、泰前、粥店4个街道办事处和大津口、徐家楼、上高3个乡。
7个处乡的面积分别是：财源办事处9.9平方公里，岱庙办事处9.01平方公里，泰前办事处70.21平方公里，粥店办事处94.26平方公里，上高乡30.18平方公里，徐家楼乡18.85平方公里，大津口乡55.47平方公里。
1997年，泰山区面积288平方千米，辖4个街道、3个乡：财源街道辖3个行政村，人口98996人，其中农业人口4863人；泰前街道辖16个行政村，人口121812人，其中农业人口12203人；岱庙街道辖6个行政村，人口132367人，其中农业人口8100人；粥店街道辖30个行政村，人口56482人，其中农业人口29871人；徐家楼乡辖12个行政村，人口22755人，其中农业人口13990人；上高乡辖20个行政村，人口38646人，其中农业人口32899人；大津口乡辖7个行政村，人口11244 人，其中农业人口10882人。
1998年，泰山区面积288平方千米，辖4个街道、3个乡：财源街道辖1个行政村；泰前街道辖16个行政村；岱庙街道辖6个行政村；粥店街道辖30个行政村；徐家楼乡辖12个行政村；上高乡辖20个行政村；大津口乡辖7个行政村。
1999年6月14日，将泰安市泰山区的粥店街道办事处划归泰安市郊区管辖，将郊区的省庄镇、邱家店镇划归泰山区管辖（鲁政字[1999]144号）。1999年底，全区辖岱庙、财源、泰前3个办事处，大津口、徐家楼、上高、省庄、邱家店5个乡镇，94个村委会、57个居委会。
2000年，泰山区面积337平方千米，辖3个街道、2个镇、3个乡：岱庙街道辖18个行政村；财源街道辖21个行政村；泰前街道辖18个行政村；省庄镇辖40个行政村；邱家店镇辖44个行政村；上高乡辖20个行政村；徐家楼乡辖15个行政村；大津口乡辖7个行政村。
2001年，泰山区面积337平方千米，辖3个街道、2个镇、3个乡：岱庙街道辖17个居委会、2个村委会；财源街道辖20个居委会、1个村委会；泰前街道辖2个居委会、16个村委会；省庄镇辖40个村委会；邱家店镇辖44个村委会；上高乡辖20个村委会；徐家楼乡辖3个居委会、12个村委会；大津口乡辖7个村委会。
2002年6月20日，省政府批复同意：泰安市泰山区撤销徐家楼乡，以原徐家楼乡的行政区域设立徐家楼街道办事处，办事处机关驻原徐家楼乡人民政府驻地；撤销上高乡，以原上高乡的行政区域设立上高街道办事处，办事处机关驻原上高乡人民政府驻地。截至2002年12月31日，泰山区辖5个街道、2个镇、1个乡。