Основная область научных интересов В. Ф. Кагана — основания геометрии и дифференциальная геометрия. Он исследовал и популяризовал идеи Н. И. Лобачевского, а также создал теорию субпроективных пространств, представляющих собой обобщения пространства Лобачевского. Был редактором журнала «Вестник опытной физики и элементарной математики», редактором математического отдела первого издания Большой советской энциклопедии и автором её статей. Основал издательство «Матезис», выпускавшее научную и научно-популярную физико-математическую литературу.