Область научных интересов М. Я. Выгодского — история математики Древнего мира, дифференциальная геометрия. Он автор целого ряда учебников и справочников по математике, один из основателей Советской историко-математической школы, переводчик сочинений И. Кеплера, Г. Монжа, Л. Эйлера. Вместе с С. А. Яновской организовал в МГУ семинар по истории математики. Основные труды: «Галилей и инквизиция» (1934), «Арифметика и алгебра в Древнем мире» (1941), учебник «Основы исчисления бесконечно малых» (1931), учебное пособие «Справочник по элементарной математике» (1941).