张直被处死后，不但阳翟的贵族豪强们为之敛息，纷纷讨好荀贞，使他颇有当年曹操用五色棒杖死蹇硕从父后，洛阳权贵“为之敛迹，莫敢犯也”的风采，而且他在军中的威望也得到了极大的提升。
荀贞的部众来源很杂，有西乡的轻侠和乡民，有荀氏和颍阴刘氏的族人，有铁官徒，有因为战乱、为了报仇而参军的各县百姓，也有从黄巾军俘虏中选出的死士。在迎敌时，他们会团结在荀贞的旗帜下，但在战后，虽然荀贞对他们恩威并施，从来不吝赏赐，可指望在这么短的时间内就能获得他们全部的诚心效忠也是不太现实的，如今通过张直之事，荀贞明显感觉到，全营兵卒对他的敬畏又上了一个台阶。
趁着这股东风，他把之前决定对部队进行整编的事情提上了案头。
先，实现他对铁官徒的承诺，请求太守免掉其中有功者的罪，给他们赐下爵位，把愿意留下追从他的铁官徒转入郡兵。
其次，抚恤伤亡者，让余下的部卒自己决定是归家、还是接着跟从他出征。
这两件事说来简单，办起来还是挺麻烦的。
最简单的是请太守免去铁官徒其中有功者的罪和赐给有功者爵位，这是早就说好的事，太守没有拒绝的道理。
办过此事，荀贞令乐进、江鹄、小夏把铁官徒们集合起来，让他们自主选择去留，明言：“若是尔等不愿再从军，我不勉强，会给你们遣散路费。若是尔等愿意继续从军，我请示过府君了，可以把尔等转入郡兵，尔等有功劳在身的，可以在郡兵中做一个武职小吏。”
铁官徒多是亡命徒，正如荀贞早前的猜测，大部分人选择了后者，只有数十人选择了回家。荀贞说话算数，当场给他们放了路费。他如此仁义，铁官徒们十分感恩，已经决定留下的那些不说，数十个打算归家的又有十几人因此而改变了主意，决定留下来转为郡兵。
前几天太守下了道檄令，命郡兵曹充实郡兵。荀贞将这些铁官徒们的名字报上去，很顺利地就将他们转为了郡兵。郡中本有郡卒千余人，加上这数百铁官徒，现今共有两千余人。荀贞任高素、冯巩等为军官，并从西乡轻侠、荀氏族人中选了一些也同时转入郡兵里担任军职。
太守早先下给郡兵曹的檄令包含了两个方面的内容，除了充实郡兵外，还令郡兵曹拟一份郡卒操练的新计划。许仲奉荀贞之令，制定出来了一份计划，呈给荀贞看。荀贞看后，修改了几处，呈给给太守，太守批复同意。
忙了两天，郡兵、铁官徒这一块儿办理妥当。