Учился на историко-филологическом факультете Казанского университета, интересовался психологией, этикой, литературоведением, педагогикой и логикой. Владел древнегреческим, латинским, немецким, английским, французским, итальянским, польским и чешским языками. После окончания Казанского университета остался там работать, стал приват-доцентом и читал лекции по философии. Также преподавал на Высших женских курсах. В 1913 году А. О. Маковельский отправился заниматься научной работой в Германию, а в 1920 году переехал в Азербайджан. Работал в Бакинском университете, Политехническом и Педагогическом институтах, Институте повышения квалификации учителей, Институте народного образования, Азербайджанском Государственном научно-исследовательском институте педагогики.
А. О. Маковельский — автор таких значимых работ, как «Древнегреческие атомисты», «Авеста», «История логики», «Софисты». Труды А. О. Маковельского по истории античной философии, философии народов Ближнего Востока внесли большой вклад в изучение историко-философской мысли.