В своих работах в области социологии В. М. Хвостов выделял теоретическую (основную) социологию, исследующую социальные законы и связи, и социальную типологию, занимающуюся определением и характеристикой основных исторических типов общественной организации. Им был проделан один из первых в русской традиции критический анализ методологических основ западной и российской социологии. В социальной философии он использовал идеи Вундта, Зиммеля и Дюркгейма. Много внимания в его трудах уделялось этической проблематике, особенно соотношению нравственности и права, а также этическим нормам.