由原来的六个镇台（明治时期的战略单位）之一的广岛镇台改编成为第五师团（广岛师团）是1888年春天。当初是由步兵第11、12、21、22，这四个联队组成的。最后确定了由步兵第11联队（广岛县），第21联队（滨田县），第41联队（福山市），第42联队（山口县）组成步兵第9旅团、第21旅团的基干。其中士兵都来自日本本州西部中国山地地区的广岛、岛根、山口的子弟兵部队。
1894年7月甲午战争（日方称之为：日清战争）爆发。为此，从第五师团抽调了两个步兵联队，以此为基础组成了大岛混成旅团（旅团长：大岛义昌少将），改编之后立即奔赴了朝鲜半岛。1894年7月27日，在朝鲜的汉城南面约100公里处名叫成欢的地方与清朝的淮军打了个遭遇战，战时持续了整整一天，清军溃败退入牙山。这场战役被日本人高度重视，因为是日本现代陆军创立以来首次与外国的陆军对阵，而且运用了现代化的战术，就是在世界作战史上也是值得记录的一笔。之后，大岛混成旅团攻陷平壤，参加了鸭绿江渡河战役、牛庄战役等等。 十年后的日俄战争，第五师团参加了辽阳、沙河、奉天会战。日俄战争之后被命令在满洲驻屯，直到1911年。1919年到1920年出兵西伯利亚。
1937年，七七事变爆发后，第五师团立即在板垣征四郎指挥下被调入中国华北地区。1937年7月27自日本出发登陆大沽加入中国驻屯军，于昌平以南集结，随即作为北支那派遣军预备队于8月16日投入南口作战；在平绥路东段作战攻占张家口、蔚县等地，遵照日本大本营的命令，第9旅团抽出派往平汉铁路主战场后有调往上海，参加了金山卫登陆。师团长率21旅团9月下旬在平型关作战，10月上旬至忻口作战，11月8日攻占太原；其中第五师团另一部分支队参与淞沪会战，还参与南京大屠杀。1937年底第五师团一路击溃30几个中国师，创下了板垣师团的“赫赫威名”。1938年1月转隶第二军，用于青岛、胶济路；1938年3月参加徐州会战的临沂、台儿庄战斗； 38年7月4日转隶北支那派遣军， 9月19日转隶21军，被调入华南，攻陷广东周边地区。11月29日回山东休整，39年9月5日调入关东军，9月29日转入大本营预备队，在大连待机。10月16日再次乘船机动到海南岛，参与攻陷南宁作战，1939年12月参与昆仑关战役，以21旅团长中村正雄以下死伤5000人的代价打残了拥有4万人编制的国军唯一一个机械化军第五军，（详细伤亡对比参见昆仑关战役词条第五节战果辨析）。
1940年9月非法进驻法属印度支那（现在的越南）驻屯，导致师团长 中村明人被解职。
1940年10月变更大本营直辖，12月编组为三单位师团，成为日本首批4个机械化步兵师。 第9、21旅团部撤销，41联队抽出。全师团仍有2.5万人。 在九州岛和第5飞行集团一起参见陆空合成登陆演习。
1941年太平洋战争爆发。第五师团被配属给山下奉文中将的第25军，参加进攻马来西亚、新加坡的战斗。1941年12月8在师团主力在泰国领地的辛格拉，而由步兵第42连队为基干而组成的安藤支队在帕塔尼一举登陆。这两支部队沿着马来半岛的西海岸南下，合围并攻陷了吉隆坡。1942年2月25日，在新加坡的英军投降，英国在远东最大的军事据点：新加坡沦陷了。
马来西亚、新加坡战役之后，新加坡战役之后，以第41步兵连队为基干组成了东支队。这支部队的预定任务是在菲律宾各岛执行扫荡，但是没过多久就被编入第17军（军指挥官：百武晴吉中将）。之后被派遣去参加莫尔兹比港攻坚战。而莫尔兹比港攻坚战的惨败，让这支队伍回到平壤参加补给新兵，被编入重建的第30师团。
师团主力43年1月转隶19军，45年3月19军解散，转隶日本第2军。在第8方面军今村均大将的指挥下，转战于巴布亚新几内亚。在现在印尼的塞兰岛1945年8月15日迎来了投降的那一天。接到天皇宣布无条件投降的电报，师团长山田清一悲愤地切腹自尽。