据传，永顺长官司所辖的述昆及72 峒口是动乱根据地，同时又是遭军事镇压的地区，三只羊地方也位于这一地区，百姓和政府的潜在矛盾十分尖锐。长官司除了利用谈判(抚) 时形成的有利政治条件，重用和谈领袖，取消株连政策，既往不咎，还选择一部分有能力的代表人物委以部分官职责任，让他们参政。
当时，三只羊乡地方尽是高山深谷，有少量刀耕火种的粮食但产量极低，主要靠打猎为生，从不交皇粮国税，官军多次进剿毫无结果。长官司设立以后也不交税。长官司最后听取三只羊乡父老的申诉，规定今后每年象征性收取三只野山羊作为税收(这是2006 年全国免除农业税之前历代政权税收量最少的)，“三只羊”乡因此得名。
在清朝的时候，三只羊乡分为上中下三段三个村，并由当地土司分别向这三个村征收一只羊作为税收，以为每年征收三只羊而得名，解放初归相邻的宜山县（今宜州市）管辖，后并入都安县至今。