С. М. Рытов является одним из основоположников теории тепловых флуктуаций в электродинамике и автором отдельных разделов в популярных учебниках физики. В России хорошо известен его учебник «Введение в статистическую радиофизику». Его основные труды посвящены теории колебаний и волн, статистической радиофизике и оптике. Он получил фундаментальные результаты в теории автоколебаний систем томсоновского типа, в теории дифракции света на ультразвуке, в теории бетатронных и синхротронных колебаний, геометрической оптике, теории параметрических генераторов и усилителей. С. М. Рытов продолжил традиции своего учителя — физика Л. И. Мандельштамма — и постепенно создал свою научную школу.