1958年8月21日，毛泽东在北戴河召开的中央政治局扩大会议上讲话指出：“我们的军官，像云南的一个师长，一年当一个月兵，我看这是好办法。……这样，我们的军队就是永远打不散的军队。”8月30日，毛泽东进一步提出：“我看所有的‘长’———军长、师长等，都至少当一个月的兵，头一年最好搞两个月，要服从班长、排长指挥。一年你管人家十一个月，人家管你一个月还不行吗?有些过去当过兵的现在多年不当兵了，再去当一下。”9月20日，总政治部根据毛泽东的指示作出了《关于军队各级干部每年下连当兵一个月的规定》。规定下发后，各级军官积极响应，全军上下迅速掀起了干部下连当兵的热潮。
许世友笑着说：“怎么，看我老了?老兵能打仗，有战斗力!”
总政通知下发时，南京军区正在召开党委扩大会。第二天，毛泽东来到南京接见党委扩大会代表，他非常关心地询问军区司令员许世友：“世友同志啊，现在地方上规定每个领导干部要有一段时间进工厂当工人，下乡当农民，你们部队干部可不可以下连当兵?可不可以作个决议?”一向对毛泽东指示说一不二的许世友坚定表示：“完全可以!”毛泽东走后第二天，南京军区党委扩大会就作出了各级干部下连当兵的决议，全体代表都报名申请第一批下连当兵。9月23日，南京军区党委批准了许世友等30名将军第一批下连当兵的申请。当晚，被批准的几个将军兴奋地举行了一次“士兵座谈会”。许世友在会上说：“三十年前我当过兵，那时官兵不分你我，不分老少，都像亲兄弟一样，生活在一起，战斗在一起，个个心情舒畅，精神愉快。正是这些优良传统和作风，培育了战士的成长，培养了我们成为军官。今天，我们当了高级干部也不能忘本，在我五十一岁的今天，又第二次下连当兵，我真高兴。我这次下去一定要把兵当好。”
10月17日，上将许世友头戴船形帽，身穿士兵服，来到海防前线某步兵六连七班，当了一名“上等兵”，他的直接领导是中士班长张吉生。许世友刚到住处时，房东老大爷站在门口惊奇地打量这位老战士，孩子们也从窗口伸出头来看。许世友笑着说：“怎么，看我老了?老兵能打仗，有战斗力!”放下背包，许世友马上参加了班务会。他对大家说：“我这兵很老，1927年就当兵。这次到七班来当个老兵，希望同志们多帮助我。共产党员嘛，能上能下，能官能兵。”
消灭官架子
许世友知道，连队的干部、战士对他这样的人在班里当兵是有顾虑的。见到连长高立山的第一面，他就问：“连长，我到连里来当兵，你有顾虑吗?”连长说：“没有。”许世友说：“没有是假的。首先我向你表示态度，我这个兵好领导，一定听党支部和行政上的话，叫做什么就做什么，绝不会找你们的岔子。”为了消除大家的顾虑，他还经常向连队干部、战士交心，要求他们大胆管理，强调自己是来锻炼的，不是来行使首长职权的。他对班里同志说：“我们这些人做干部做了几十年，管人管了几十年，已经养成了管人的习惯。甚至说话声气、生活习惯、走路的样子等等都有这种表现。这种习惯势力是很顽固的，只要稍不检点，就会流露出来。希望大家以后从这方面经常督促我，帮助我拿下官架子，搞臭官架子。”排里组织政治学习时，许世友又发言说：“我们要把官气消灭掉。我们共产党员，不管你职务有多高，都要平等待人，连我在内，要下很大决心做到这一点。”
