Вначале научные интересы А. А. Ляпунова были связаны с астрономией, геофизикой и, под влиянием П. П. Лазарева, с биофизикой. Но с начала 1930-х годов знакомство с Н. Н. Лузиным, а затем постоянное общение с ним пробудили у Алексея Андреевича творческий интерес к математике. В 1935 г. А. А. Ляпунов начал систематически работать в области дескриптивной теории множеств под руководством П. С. Новикова. Некоторое время до начала войны работал под руководством А. Н. Колмогорова в области теории вероятностей и ее приложений. С начала 1950-х гг. — профессор кафедр математической логики и вычислительной математики механико-математического факультета МГУ имени М. В. Ломоносова. В 1954 году был приглашен А. И. Китовым в созданный им Вычислительный центр на должность начальника лаборатории, где проработал до 1960 года. В 1960-х годах фактически создал отделение кибернетики в Институте математики Сибирского отделения АН СССР, основал кафедру теоретической кибернетики Новосибирского университета и лабораторию кибернетики Института гидродинамики, которыми руководил до конца жизни.
Круг научных интересов А. А. Ляпунова чрезвычайно разнообразен и широк: теория множеств и теория функций, вычислительная математика, теория вероятностей и математическая статистика, программирование, математическое моделирование процессов управления и математическая лингвистика, геофизика и биология, методологические проблемы науки и педагогические вопросы математики. Он является автором около 200 научных работ. Особую значимость имела педагогическая деятельность А. А. Ляпунова, в частности, его ключевая роль в создании Новосибирской физико-математической школы.