Робастная модификация PSO на основе M-средних для решения задач линейной регрессии

Линейная регрессия остается одним из базовых инструментов анализа данных, однако ее устойчивость резко снижается в присутствии выбросов и шумов, что приводит к искажению коэффициентов и снижению качества прогноза. Классические эвристические алгоритмы оптимизации, такие как Particle Swarm Optimization (PSO) и Jaya, показывают хорошие результаты на гладких функциях потерь, но оказываются чувствительными к выбросам при применении стандартной среднеквадратичной ошибки (MSE). Это создает потребность в разработке простых, но робастных модификаций, которые сохраняли бы глобальные поисковые свойства, не  усложняя структуру базового алгоритма.

Цель исследования. Разработать и экспериментально оценить робастную модификацию PSO (PSO-Robust), обеспечивающую устойчивость линейной регрессии к выбросам без усложнения основного алгоритма и без введения дополнительных гиперпараметров.

Методы исследования. Алгоритмическая идея: сохранить стандартные уравнения движения PSO; вмешательство только в функцию пригодности. Вместо среднеквадратичной функции потерь используются M-средние на базе функции Хьюбера с адаптивными весами, уменьшающими вклад выбросов. Вычислительные эксперименты на синтетических данных (15 % и 25 % выбросов) выполнены при одинаковых гиперпараметрах для всех сравниваемых алгоритмов и 30 независимых перезапусках. Оценка по средним и медианным тестовым ошибкам, а также по разбросу (дисперсия, межквартильный размах). Визуальный анализ – boxplot распределений ошибок и линии регрессии.

Результаты. PSO-Robust устойчиво превосходит классический PSO и Jaya по средним и медианным тестовым ошибкам. Наблюдается меньший разброс результатов (дисперсия). Визуальный анализ подтверждает сниженную чувствительность к выбросам (более компактные boxplot, более адекватные регрессионные линии).

Заключение. Модификация PSO-Robust демонстрирует стабильное превосходство над исходными алгоритмами по точности и устойчивости, обеспечивая более компактные boxplot и менее искаженные регрессионные линии. Предложенный подход сочетает простоту реализации с робастностью, повышая надежность регрессионных моделей в условиях неоднородных данных. Перспективы развития включают расширение метода на многомерные и нелинейные модели, а также исследование альтернативных робастных функций потерь.