В 1918 г. окончил Московский университет. 20 лет (1918–1938) работал в Пензе; с 1938 г. до конца жизни — в Куйбышевском педагогическом институте. К пензенскому периоду относятся работы по изучению детской речи, первые большие публикации по этой тематике в московских изданиях (1927–1928); избрание в 1925 г. членом Московской диалектологической комиссии; присвоение в 1938 г. без защиты диссертации ученой степени кандидата наук.
В 1943 г. А. Н. Гвоздев защитил в МГУ докторскую диссертацию «Формирование у ребенка грамматического строя русского языка». В 1945 г. избран членом-корреспондентом Академии педагогических наук РСФСР.
С куйбышевским периодом жизни связано продолжение прежних разработок и новых направлений деятельности. А. Н. Гвоздев создает вузовские учебники и учебные пособия по современному русскому языку и стилистике, работы по фонологии, морфологии, орфографии, не потерявшие актуальность и в наши дни.