Математические модели и методы исследования сложных колебаний неклассических распределенных механических систем