В 1929 году Анатолий поступил в Вольскую теоретическую школу пилотов, в 1930-м – в 3-ю военную школу летчиков и летчиков-наблюдателей им. К.Е. Ворошилова в Оренбурге.

Службу А.К. Серов начал в декабре 1931 года младшим летчиком 1-й истребительной эскадрильи им. В.И. Ленина Ленинградского военного округа. Скоро Серов был назначен на должность старшего летчика, а в ноябре 1932 года – командира звена, ставшего одним из лучших в эскадрилье. На празднике в честь Дня авиации Серов блестяще выполнил каскад фигур высшего пилотажа и был премирован новыми летными очками. Блестящее пилотажное мастерство определило в будущем и блестящую карьеру летчика.

С августа 1933 года А.К. Серов – командир звена 26-й отдельной истребительной авиационной эскадрильи в Хабаровске. Звено (А. Серов, А. Власов, А. Сидоров), летавшее на истребителях И-5, освоило групповой высший пилотаж, за что было прозвано «воздушными акробатами». Необходимые для воздушного боя эволюции: наклонные и горизонтальные виражи, восходящие спирали, двойные и одинарные перевороты, ранверсманы (горки с поворотом), иммельманы (боевые развороты), пикирование, штопор и петля Нестерова с выходом в хвост неприятельского самолета. Опыт серовского звена был внедрен в военную авиацию.

В 1935 году А.К. Серов поступил на командный факультет Военно-воздушной академии им. Н.Е. Жуковского. Отучившись год, Серов понял, что командир крупного воздушного подразделения, на которого его готовят в академии, командует с ЗЕМЛИ. Ему же нужно НЕБО. И подал рапорт о переводе в строевую часть или на испытательную работу. В мае 1936 года А.К. Серов получил назначение на должность командира звена Научно-испытательного института Военно-воздушных сил Рабоче-крестьянской красной армии (НИИ ВВС РККА).

Институт находился под пристальным оком И.В. Сталина. Серов прекрасно влился не только в коллектив НИИ ВВС, но и вошел в состав «Красной пятерки», авиационной пилотажной группы. В групповом пилотаже многие летчики пробовали силы, но очень немногие добивались успеха: пилотирование истребителя в плотном строю требовало понимать ведущего на уровне подсознания. Серову это удавалось блестяще. На первомайском параде 1937 года именно он вел «Красную пятерку», выполнившую девять петель подряд над Красной площадью.