上义地域，秦汉时期属南海郡博罗、龙川两县之地。宋、元两代属归善、长乐两县之地。明朝隆庆三年（1569）成立永安县，属惠州府古名都，清代保留建制。民国元年（1912年）裁府设道，属潮循道永安县。民国三年（1914年）1月改永安县为紫金县，属紫金县。
“上义”之名据说是出自光辉乡岭头围关帝庙一幅楹联：“上扶汉室，义结桃园”，取其联首两字，故名“上义”。明、清代属古名都上义约（社）。民国十八年（1929年）属第一区上石乡。1930年属第一区上好乡。民国三十年（1941年）上义、好义合并为尚好乡，属第一区。
民国三十四年（1945年）尚好乡改名为广义乡。建国初期仍设区，上义划为第二区好义乡，1952年5月属第七区。1957年12月成立上义乡。1958年10月属好义人民公社。1961年4月成立上义人民公社。1968年3月并入好义人民公社。1973年4月恢复上义人民公社。1983年9月撤社设区，成立上义区公所。1987年4月撤区改镇，成立上义镇。
2000年行政下辖招元、上义、光辉、卷蓬、吉洞、郊田、叶西等7个行政村和1个居委会。
镇名相传出自岭头围关帝庙的一副楹联“上扶汉室，义结桃园”。境域明清时属古名都上义社（约）。民国18年（1929年）属第一区上义乡，民国30年属第一区尚好乡，民国34年改为广义乡。
建国初属第二区好义乡，1952年属第七区，1957年12月成立上义乡，1958年10月属好义公社，1961年4月分立上义公社，1963年3月并入好义公社，1973年4月再次恢复上义公社，1983年9月撤社设区，1987年4月改设上义镇。位于县境西南部，东连蓝塘，西接惠阳县梁化、大岚，南邻惠东县松坑，北临好义、凤安。镇府驻地上义圩，东北距县城80千米。
1988年，上义镇总人口3442户19704人，其中非农业人口1643人，总面积179.72平方千米，辖上义（径子、花园、塘围、罗汉、京坑、竹坑、干坑、果塘、上 9个自然村）、招元（下竹园、黄屋楼、大坝、田心、大岭、老塘、红旗、西园、石头潭9个自然村）、光辉（莲塘、山下、中心、黄坑、围背、围下、田心、水坑、勤兴、和平、韩村角、红旗、红群、塘面、钉坑、子寨、船肚、上黄嶂18个自然村）、吉洞（林坑排、上洞、上楼、探村、白水磜5个自然村）、卷蓬（卷蓬、高岗、芙蓉、水角、红光、径尾、下楼、新光、田心、河背10个自然村）、郊田（郊田、燕窝、伯坳、上村、朝王、壁水、竹应、桐坑8个自然村）、叶西（草塘、林禾、石人、矿坑、围光、探涧、半山、黄坑8个自然村）7个行政村和上义圩（佛子、下社、上社、楼背、圩头、上楼、老屋7个自然村）1个居委会。
2004年，全镇辖招元、叶西、郊田、上义、光辉、吉洞、卷蓬7个行政村和上义1个居委会，52个自然村，总面积178.5平方千米，总人口21646人。