В 1960-1970-е гг. В. Н. Цытович активно участвовал в исследованиях новых плазменных эффектов, в том числе в области астрофизики. В 1970-1980-е гг. вместе с В. Л. Гинзбургом интенсивно работал в области теории переходного излучения и переходного рассеяния. В 1990-2000-е гг. исследовал новый механизм ускорения космических лучей — радиационно-резонансное ускорение, а также энергично развивал физику пылевой (комплексной) плазмы, став одним из основоположников этого направления. Его соавторами были известнейшие отечественные и зарубежные ученые — нобелевские лауреаты В. Л. Гинзбург и И. М. Франк, а также В. И. Векслер, С. А. Каплан, С. Б. Пикельнер (СССР), Д. тер Хаар (Великобритания), Д. Пайнс, Дж. Уортон (США), Г. Морфилл (Германия) и многие другие.