1979年6月，中央军委决定调整三总部、各大军区、各大单位领导班子。由于邓小平是中共中央副主席、中央军委副主席、国务院副总理，还兼任着总参谋长，事情太多，总参的工作实在顾不过来。因此中央决定，邓小平不再兼任总参谋长，并在此次军队领导干部调整中统筹考虑总参谋长接替人选。

对于此次调整三总部、各大军区、各大单位领导班子，中央明确由军委副主席聂荣臻负责牵头。在酝酿总参谋长接替人选时，聂荣臻对前代总长杨成武的情况很了解和熟悉。当时的杨成武65岁，离京任副总参谋长兼福州军区司令员已逾两年。在那时军队高级干部年龄都比较老化的情况下，聂荣臻认为杨成武年龄不算大，身体还比较好，并有长期在总参谋部做领导工作的经验，比较熟悉军队的情况。因此他认为杨成武重回总参谋部工作比较合适。

为此，聂荣臻专门给军委写信，谈他对杨成武为总参谋长接替人选的看法，并安排秘书周均伦去向主持军委日常工作的领导同志当面汇报他的意见。但是，由于杨成武长期在军队中枢总参谋部工作，在那个特殊的年代里，他和文革时期的军内问题不可避免有这样和那样或多或少的牵连。因此，当时军内对杨成武作为总参谋长接替人选的异议不少。

在物色总参谋长接替人选的过程中，邓小平广泛征求党内、军内一些老同志的意见后，认为杨勇打仗不错，团结同志，主持总参谋部时工作认真负责，拟由他接任总参谋长，并准备将总后勤部部长张震调任第一副总参谋长，协助杨勇主持总参谋部工作。当时，军委一位领导还找张震谈话，向他说明军委“考虑到杨勇一直当指挥员，对参谋业务不太熟悉，决定调你任第一副总长，协助他工作”的意图。

就在此时，情况发生了一些变化。由于杨勇在主持总参谋部日常工作期间，比较坚持原则，得罪了一部分人，有些人不愿意看到杨勇接任总参谋长，于是关于杨勇的流言蜚语又多起来，不少匿名的告状信也寄到了军委等有关部门。面对出现的新情况，军委对总参谋长人选又有了新考虑。