Модифицированный проекционный обобщённый двухточечный двухэтапный экстраградиентный квазиньютоновский метод решения седловых задач

1.      Введение

В интенсивно развивающемся разделе вычислительной математики востребованы как непрерывные, так и итеративные методы решения седловых и равновесных задач. Мы рассматриваем итеративные проекционные методы отыскания седловых точек (ИПМОСТ). Напомним, что по определению, для всякой функции $\phi \mathrm{<mo\; stretchy="false">(</mo>}x\mathrm{,}y\mathrm{<mo\; stretchy="false">)</mo>}$, $x\in Q$, $u\in U$, с непустыми выпуклыми и замкнутыми множествами $Q\subset E^n$ и $U\subset E^m$, в евклидовых пространствах $E^n$ и $E^m$, точку $\mathrm{<mo\; stretchy="false">(</mo>}{x}^{\mathrm{<mo>*</mo>}}\mathrm{,}{u}^{\mathrm{<mo>*</mo>}}\mathrm{<mo\; stretchy="false">)</mo>}\in Q\times U\subset E^n\times E^m$, называют седловой точкой функции, если эта точка есть решение системы неравенств

$\phi \mathrm{<mo\; stretchy="false">(</mo>}{x}^{\mathrm{<mo>*</mo>}}\mathrm{,}u\mathrm{<mo\; stretchy="false">)</mo>}\le \phi \mathrm{<mo\; stretchy="false">(</mo>}{x}^{\mathrm{<mo>*</mo>}}\mathrm{,}{u}^{\mathrm{<mo>*</mo>}}\mathrm{<mo\; stretchy="false">)</mo>}\le \phi \mathrm{<mo\; stretchy="false">(</mo>}x\mathrm{,}{u}^{\mathrm{<mo>*</mo>}}\mathrm{<mo\; stretchy="false">)</mo>}\forall x\in Q\mathrm{,}u\in U\mathrm{.}$ (1.1)

 Седловой задачей называют задачу отыскания седловой точки. Седловым методом называют метод численного решения седловой задачи.

Известно, что к решению седловой задачи приводят экстремальные задачи математической физики, теории игр, математической экономики, оптимального управления и другие. Часто ИПМОСТ строятся на основе известных методов оптимизации (см., например, [1] $–$ [9]). В работах [1] $–$ [3], [7] имеются обзоры, в [8] $–$ [11] $—$ краткие обзоры, публикаций об исследовании методов решения седловых задач.

Простейший ИПМОСТ $—$ это известный метод проекции градиента (МПГ) седловой, который решает для выпукло-вогнутых гладких функций $\phi \mathrm{<mo\; stretchy="false">(</mo>}x\mathrm{,}u\mathrm{<mo\; stretchy="false">)</mo>}$ седловые задачи с хорошими (“неовражными”) гиперповерхностями уровней.

В связи с нуждами решения седловых задач науки и приложений, разрабатываются и обосновываются высокоскоростные методы их решения для седловых функций с “овражными” гиперповерхностями уровней. Методы переменной метрики (МПМ) для задач минимизации “овражных” функций характеризуются хорошей локальной скоростью сходимости, и при их реализации для седловых функций с овражными гиперповерхностями уровней ожидаются преимущества перед другими седловыми методами (см., например, [7], [11]) (хотя бы в случаях не самых сложных “оврагов” седловых функций).

Ввиду этого на основе идеи непрерывного "овражного" МПГ первого порядка с переменной метрикой (НМПГПМ) для задач минимизации, предложенного в работе [4], построен, авторами работы [4] и их учениками, ряд методов сначала для решения задач минимизации, затем равновесных. Например, в работе [5] исследован НМПГПМ второго порядка для решения "овражных" задач минимизации функции $f\mathrm{<mo\; stretchy="false">(</mo>}x\mathrm{<mo\; stretchy="false">)</mo>}$, отличающийся от метода первого порядка из работы [4] дифференциальным оператором второго порядка. Доказана сходимость этого метода, а также двух регуляризованных версий метода для решения неустойчивых задач минимизации. В [4], [5] использован оператор проектирования $P_Q^{G\mathrm{<mo\; stretchy="false">(</mo>}x\mathrm{<mo\; stretchy="false">(</mo>}t\mathrm{<mo\; stretchy="false">)</mo><mo\; stretchy="false">)</mo>}}$ в переменной метрике $G\mathrm{<mo\; stretchy="false">(</mo>}x\mathrm{<mo\; stretchy="false">)</mo>}$, в гильбертовом пространстве $H$. Метрика определена скалярным произведением $\left(G\mathrm{<mo\; stretchy="false">(</mo>}x\mathrm{<mo\; stretchy="false">(</mo>}t\mathrm{<mo\; stretchy="false">)</mo><mo\; stretchy="false">)</mo>}y\mathrm{,}y\right)$,  $\forall x\mathrm{,}y\in H$.

В работе [6] идея использования переменной метрики из [4] продолжена с дифференциального на итеративный метод минимизации функций с гиперповерхностями уровней “овражной структуры”, а именно, на предложенный в [6] проекционный обобщённый двухточечный двухэтапный экстраградиентный метод квазиньютоновский (ПОДЭМК) минимизации “овражных” функций $f\mathrm{<mo\; stretchy="false">(</mo>}x\mathrm{<mo\; stretchy="false">)</mo>}$, с оператором $P_Q$ проектирования на выпуклое замкнутое множество $Q$ в исходной метрике евклидова пространства $E^n$.

Мы исследуем в этой работе ИПМОСТ для “овражных” седловых функций $\phi \mathrm{<mo\; stretchy="false">(</mo>}x\mathrm{,}u\mathrm{<mo\; stretchy="false">)</mo>}$ с операторами $P_Q$ и $P_U$ проектирования на выпуклые замкнутые множества $Q$ и $U$ в исходной метрике евклидовых пространств $E^n$ и $E^m$. В работе [7] предложен и исследован ИПМОСТ для “овражной” седловой функции $\phi \mathrm{<mo\; stretchy="false">(</mo>}x\mathrm{,}u\mathrm{<mo\; stretchy="false">)</mo>}$, $\mathrm{<mo\; stretchy="false">(</mo>}x\mathrm{,}u\mathrm{<mo\; stretchy="false">)</mo>}\in Q\times U$, построенный на основе ПОДЭМК минимизации из [6], так называемый ПОДЭМК седловой (ПОДЭМКС), доказана его сходимость и линейная скорость сходимости для выпукло-вогнутых седловых функций, без предположения о сильной выпукло-вогнутости седловой функции.

В работах [8]$–$[10] были исследованы другие итеративные методы решения седловых и равновесных задач; в [11] исследован непрерывный проекционный обобщённый экстраградиентный квазиньютоновский метод второго порядка для решения седловых задач; доказана его сходимость и экспоненциальная скорость сходимости для выпукло-вогнутых функций.

Целью предлагаемой работы является исследование ПОДЭМКС модифицированного (ПОДЭМКСМ), построенного на основе ПОДЭМКС из работы [7], для решения седловой задачи (1.1) со сложными функциями $\phi \mathrm{<mo\; stretchy="false">(</mo>}x\mathrm{,}u\mathrm{<mo\; stretchy="false">)</mo>}$, имеющими “овражные” гиперповерхности уровней. Для ПОДЭМКСМ доказана сходимость для выпукло-вогнутых функций с Липшицевыми частными градиентами и сверхлинейная, и квадратичная, скорости сходимости для дважды непрерывно дифференцируемых седловых функций, при дополнительных условиях.

Сформулируем математическую постановку седловой задачи. Cедловые задачи для конкретных математических моделей решаются при своих требованиях (к пространствам, множествам и функциям), выражающихся в постановке задачи и влияющих на метод её решения; мы здесь предполагаем следующие:

а) Пусть множества $Q\subset E^n$, $U\subset E^m$, $Q\times U\subset E^n\times E^m$ непустые выпуклые и замкнутые;

б) выпукло-вогнутая функция $\phi \mathrm{<mo\; stretchy="false">(</mo>}x\mathrm{,}u\mathrm{<mo\; stretchy="false">)</mo>}$ с "овражными" гиперповерхностями уровней определена на множестве $W\mathrm{<mo>=</mo>}Q\times U\subset E^n\times E^m$ выпукла по $x\in Q\subset E^n$, и вогнута по $u\in U\subset E^m$, то есть для всех фиксированных $u\in U$ функция $g\mathrm{<mo\; stretchy="false">(</mo>}x\mathrm{<mo\; stretchy="false">)</mo><mo>=</mo>}\phi \mathrm{<mo\; stretchy="false">(</mo>}x\mathrm{,}u\mathrm{<mo\; stretchy="false">)</mo>}$ выпукла на $Q\subset E^n$, а $\forall x\in Q$ фиксированного функция $h\mathrm{<mo\; stretchy="false">(</mo>}u\mathrm{<mo\; stretchy="false">)</mo><mo>=</mo>}\phi \mathrm{<mo\; stretchy="false">(</mo>}x\mathrm{,}u\mathrm{<mo\; stretchy="false">)</mo>}$ вогнута на $U\in E^m$;

в) множество седловых точек $\mathrm{<mo\; stretchy="false">(</mo>}{x}^{\mathrm{<mo>*</mo>}}\mathrm{,}{u}^{\mathrm{<mo>*</mo>}}\mathrm{<mo\; stretchy="false">)</mo>}$ функции $\phi \mathrm{<mo\; stretchy="false">(</mo>}x\mathrm{,}u\mathrm{<mo\; stretchy="false">)</mo>}$ на $W\subset E^n\times E^m$ непусто, $W_{\mathrm{<mo>*</mo>}}\mathrm{<mo>=</mo>}{Q}_{\mathrm{<mo>*</mo>}}\times U^{\mathrm{<mo>*</mo>}}\ne \varnothing$;

г) частные градиенты функции $\phi \mathrm{<mo\; stretchy="false">(</mo>}x\mathrm{,}u\mathrm{<mo\; stretchy="false">)</mo>}$ Липшицевы на $Q\times U$:

$\begin{array}{c}\parallel \nabla {\phi }_x\mathrm{<mo\; stretchy="false">(</mo>}x\mathrm{,}u\mathrm{<mo\; stretchy="false">)</mo>}-\nabla {\phi }_x\mathrm{<mo\; stretchy="false">(</mo>}x\mathrm{<mo>\text{'}</mo>,}u\mathrm{<mo\; stretchy="false">)</mo>}\parallel \le L\parallel x-x\mathrm{<mo>\text{'}</mo>}\parallel \mathrm{,}u\in U\mathrm{,}x\mathrm{,}x\mathrm{<mo>\text{'}</mo>}\in Q\mathrm{<mo>;</mo>}\\ \parallel \nabla {\phi }_u\mathrm{<mo\; stretchy="false">(</mo>}x\mathrm{,}u\mathrm{<mo\; stretchy="false">)</mo>}-\nabla {\phi }_u\mathrm{<mo\; stretchy="false">(</mo>}x\mathrm{,}u\mathrm{<mo>\text{'}</mo><mo\; stretchy="false">)</mo>}\parallel \le L^0\parallel u-u\mathrm{<mo>\text{'}</mo>}\parallel \mathrm{,}x\in Q\mathrm{,}u\mathrm{,}u\mathrm{<mo>\text{'}</mo>}\in U\mathrm{,}\end{array}$ (1.2)

 где $L\mathrm{<mo>></mo>0}$, $L^0\mathrm{<mo>></mo>0}$ $—$ константы Липшица, $\nabla {\phi }_x$ $–$ частный градиент, ${\nabla }^2{\phi }_{xx}$ $–$ гессиан по первому аргументу, $\nabla {\phi }_u$ $–$ частный градиент, ${\nabla }^2{\phi }_{uu}$ $–$ гессиан по второму аргументу. Скаляры индексы $xx$ и $uu$ означают индексы для элементов матриц Гессе, соответственно, $x_i{x}_j$, $i\in \mathrm{<mo\; stretchy="false">[</mo>1<mo>:</mo>}n\mathrm{<mo\; stretchy="false">]</mo>}$, $j\in \mathrm{<mo\; stretchy="false">[</mo>1<mo>:</mo>}n\mathrm{<mo\; stretchy="false">]</mo>}$, $u_i{u}_j$, $i\in \mathrm{<mo\; stretchy="false">[</mo>1<mo>:</mo>}m\mathrm{<mo\; stretchy="false">]</mo>}$, $j\in \mathrm{<mo\; stretchy="false">[</mo>1<mo>:</mo>}m\mathrm{<mo\; stretchy="false">]</mo>}$.

 В терминах оператора проектирования седловая точка $\mathrm{<mo\; stretchy="false">(</mo>}{x}^{\mathrm{<mo>*</mo>}}\mathrm{,}{u}^{\mathrm{<mo>*</mo>}}\mathrm{<mo\; stretchy="false">)</mo>}\in W_{\mathrm{<mo>*</mo>}}$ задачи (1.1) характеризуется равенствами [3]

$x^{\mathrm{<mo>*</mo>}}\mathrm{<mo>=</mo>}{P}_Q\left[x^{\mathrm{<mo>*</mo>}}-\tau \nabla {\phi }_x\mathrm{<mo\; stretchy="false">(</mo>}{x}^{\mathrm{<mo>*</mo>}}\mathrm{,}{u}^{\mathrm{<mo>*</mo>}}\mathrm{<mo\; stretchy="false">)</mo>}\right]\mathrm{,}{u}^{\mathrm{<mo>*</mo>}}\mathrm{<mo>=</mo>}{P}_U\left[u^{\mathrm{<mo>*</mo>}}-\tau \nabla {\phi }_u\mathrm{<mo\; stretchy="false">(</mo>}{x}^{\mathrm{<mo>*</mo>}}\mathrm{,}{u}^{\mathrm{<mo>*</mo>}}\mathrm{<mo\; stretchy="false">)</mo>}\right]\mathrm{,}\tau \mathrm{<mo>></mo>0,}$ (1.3)

 где $P_Q$ и $P_U$ $–$ операторы проектирования на множества $Q$ и $U$.

2.      Метод решения задачи

Схема решение задачи (1.1)-(1.3) ПОДЭМКСМ строится следующим образом:

$\begin{array}{c}пусть\mathrm{<mo\; stretchy="false">(</mo>}{x}^0\mathrm{,}{u}^0\mathrm{<mo\; stretchy="false">)</mo>,<mo\; stretchy="false">(</mo>}{x}^1\mathrm{,}{u}^0\mathrm{<mo\; stretchy="false">)</mo>,<mo\; stretchy="false">(</mo>}{x}^1\mathrm{,}{u}^1\mathrm{<mo\; stretchy="false">)</mo>}\in E^n\times E^m-начальныеточкитакие\mathrm{,}что\\ \phi \mathrm{<mo\; stretchy="false">(</mo>}{x}^0\mathrm{,}{u}^0\mathrm{<mo\; stretchy="false">)</mo><mo>></mo>}\phi \mathrm{<mo\; stretchy="false">(</mo>}{x}^1\mathrm{,}{u}^0\mathrm{<mo\; stretchy="false">)</mo>,}\phi \mathrm{<mo\; stretchy="false">(</mo>}{x}^1\mathrm{,}{u}^0\mathrm{<mo\; stretchy="false">)</mo><mo><</mo>}\phi \mathrm{<mo\; stretchy="false">(</mo>}{x}^1\mathrm{,}{u}^1\mathrm{<mo\; stretchy="false">)</mo><mo>;</mo>}\\ \text{I}\text{этап:}{y}^k\mathrm{<mo>=</mo>}{x}^k-x^{k-1}\mathrm{,}{v}^k\mathrm{<mo>=</mo>}{u}^k-u^{k-1}\mathrm{,}\\ z^k\mathrm{<mo>=</mo>}{P}_Q\left(x^k+{\alpha }_k{y}^k\right)\mathrm{,}{w}^k\mathrm{<mo>=</mo>}{P}_U\left(u^k+{\alpha }_k{v}^k\right)\mathrm{<mo>;</mo>}\\ \text{II}\text{этап:}{x}^{k+1}\mathrm{<mo>=</mo>}{P}_Q\left(z^k-{\beta }_k{A}_k^{-1}\nabla {\phi }_x\mathrm{<mo\; stretchy="false">(</mo>}{z}^k\mathrm{,}{u}^k\mathrm{<mo\; stretchy="false">)</mo>}\right)\mathrm{,}\\ u^{k+1}\mathrm{<mo>=</mo>}{P}_U\left(w^k+{\lambda }_k{B}_k^{-1}\nabla {\phi }_u\mathrm{<mo\; stretchy="false">(</mo>}{x}^{k+1}\mathrm{,}{w}^k\mathrm{<mo\; stretchy="false">)</mo>}\right)\mathrm{,}k\ge \mathrm{1,}\end{array}$ (2.1)

 где ${\alpha }_k$, ${\beta }_k$, ${\lambda }_k$ $–$ положительные параметры метода; при каждом фиксированном $x\in E^n$ $A\mathrm{<mo\; stretchy="false">(</mo>}x\mathrm{<mo\; stretchy="false">)</mo><mo>:</mo>}{E}^n\to E^n$ и $\forall u\in E^m$ фиксированном $B\mathrm{<mo\; stretchy="false">(</mo>}u\mathrm{<mo\; stretchy="false">)</mo><mo>:</mo>}{E}^m\to E^m$ $—$ положительно определённые самосопряженные операторы, изменяющие метрику пространства.

Оператор $A\mathrm{<mo\; stretchy="false">(</mo>}x\mathrm{<mo\; stretchy="false">)</mo>}\forall x\in E^n$ (в (2.1) $A_k\mathrm{<mo>=</mo>}A\mathrm{<mo\; stretchy="false">(</mo>}{z}^k\mathrm{<mo\; stretchy="false">)</mo>}$ ), и оператор $B\mathrm{<mo\; stretchy="false">(</mo>}u\mathrm{<mo\; stretchy="false">)</mo>}\forall u\in E^m$ (в (2.1) $B_k\mathrm{<mo>=</mo>}B\mathrm{<mo\; stretchy="false">(</mo>}{w}^k\mathrm{<mo\; stretchy="false">)</mo>}$ ) таковы, что:

                 $m\parallel v{\parallel }^2\le \mathrm{<mo\; stretchy="false">(</mo>}A\mathrm{<mo\; stretchy="false">(</mo>}x\mathrm{<mo\; stretchy="false">)</mo>}v\mathrm{,}v\mathrm{<mo\; stretchy="false">)</mo>}\le M\parallel v{\parallel }^2\mathrm{,}\mathrm{0<mo><</mo>}m\le M\mathrm{,}v\mathrm{,}x\in Q\mathrm{,}$ (2.2)

$p\parallel v{\parallel }^2\le \mathrm{<mo\; stretchy="false">(</mo>}B\mathrm{<mo\; stretchy="false">(</mo>}u\mathrm{<mo\; stretchy="false">)</mo>}v\mathrm{,}v\mathrm{<mo\; stretchy="false">)</mo>}\le P\parallel v{\parallel }^2\mathrm{,}\mathrm{0<mo><</mo>}p\le P\mathrm{,}v\mathrm{,}u\in U\mathrm{.}$ (2.3)

 Обратные операторы таковы, что

$\begin{array}{c}\parallel v{\parallel }^2\mathrm{<mo>/</mo>}M\le \mathrm{<mo\; stretchy="false">(</mo>}{A}^{-1}\mathrm{<mo\; stretchy="false">(</mo>}x\mathrm{<mo\; stretchy="false">)</mo>}v\mathrm{,}v\mathrm{<mo\; stretchy="false">)</mo>}\le \parallel v{\parallel }^2\mathrm{<mo>/</mo>}m\mathrm{,}v\mathrm{,}x\in Q\mathrm{<mo>;</mo>}\\ \parallel v{\parallel }^2\mathrm{<mo>/</mo>}P\le \mathrm{<mo\; stretchy="false">(</mo>}{B}^{-1}\mathrm{<mo\; stretchy="false">(</mo>}u\mathrm{<mo\; stretchy="false">)</mo>}v\mathrm{,}v\mathrm{<mo\; stretchy="false">)</mo>}\le \parallel v{\parallel }^2\mathrm{<mo>/</mo>}p\mathrm{,}v\mathrm{,}u\in U\mathrm{.}\end{array}$ (2.4)

 Для ПОДЭМКС (2.1) характеристики (1.3) седловой точки запишутся в виде

$x^{\mathrm{<mo>*</mo>}}\mathrm{<mo>=</mo>}{P}_Q\left[x^{\mathrm{<mo>*</mo>}}-\beta A^{-1}\mathrm{<mo\; stretchy="false">(</mo>}{x}^{\mathrm{<mo>*</mo>}}\mathrm{<mo\; stretchy="false">)</mo>}\nabla {\phi }_x\mathrm{<mo\; stretchy="false">(</mo>}{x}^{\mathrm{<mo>*</mo>}}\mathrm{,}{u}^{\mathrm{<mo>*</mo>}}\mathrm{<mo\; stretchy="false">)</mo>}\right]\mathrm{,}\beta \mathrm{<mo>></mo>0,}$ (2.5)

$u^{\mathrm{<mo>*</mo>}}\mathrm{<mo>=</mo>}{P}_U\left[u^{\mathrm{<mo>*</mo>}}+\lambda B^{-1}\mathrm{<mo\; stretchy="false">(</mo>}{u}^{\mathrm{<mo>*</mo>}}\mathrm{<mo\; stretchy="false">)</mo>}\nabla {\phi }_u\mathrm{<mo\; stretchy="false">(</mo>}{x}^{\mathrm{<mo>*</mo>}}\mathrm{,}{u}^{\mathrm{<mo>*</mo>}}\mathrm{<mo\; stretchy="false">)</mo>}\right]\mathrm{,}\lambda \mathrm{<mo>></mo>0.}$ (2.6)

 Замечание 2.1. Отметим, что критерии проекций по первой и второй переменным соответственно будут по евклидовой исходной метрике (см. [13], с. 189):

$\mathrm{<mo\; stretchy="false">(</mo>}w-v\mathrm{,}z-w\mathrm{<mo\; stretchy="false">)</mo>}\ge \mathrm{0,}z\in Q\mathrm{,}\mathrm{<mo\; stretchy="false">(</mo>}w-v\mathrm{,}u-w\mathrm{<mo\; stretchy="false">)</mo>}\ge \mathrm{0,}u\in U\mathrm{,}$ (2.7)

 а при использовании в (2.1) операторов проектирования в новой метрике критериями проекций были бы неравенства

$\mathrm{<mo\; stretchy="false">(</mo>}A\mathrm{<mo\; stretchy="false">(</mo>}z\mathrm{<mo\; stretchy="false">)</mo><mo\; stretchy="false">(</mo>}w-v\mathrm{<mo\; stretchy="false">)</mo>,}x-w\mathrm{<mo\; stretchy="false">)</mo>}\ge \mathrm{0,}x\in Q\mathrm{,}\mathrm{<mo\; stretchy="false">(</mo>}B\mathrm{<mo\; stretchy="false">(</mo>}z\mathrm{<mo\; stretchy="false">)</mo><mo\; stretchy="false">(</mo>}w-v\mathrm{<mo\; stretchy="false">)</mo>,}u-w\mathrm{<mo\; stretchy="false">)</mo>}\ge \mathrm{0,}u\in U\mathrm{,}$

но здесь мы пользуемся (2.7), ибо в (2.1) операторы проектирования в исходной метрике.

3.      Вспомогательные утверждения

Неравенства в леммах дополняют необходимый для доказательства сходимости и скорости сходимости метода математический аппарат.

Лемма 3.1. Пусть $\forall u^k\in U\subset E^m$ из (2.1) выпуклая функция $g\mathrm{<mo\; stretchy="false">(</mo>}x\mathrm{<mo\; stretchy="false">)</mo>}\in C^{\mathrm{2,1}}\mathrm{<mo\; stretchy="false">(</mo>}Q\mathrm{<mo\; stretchy="false">)</mo>}$ удовлетворяет соотношениям

$\nabla g\mathrm{<mo\; stretchy="false">(</mo>}x\mathrm{<mo\; stretchy="false">)</mo><mo>=</mo>}{A}^{-1}\mathrm{<mo\; stretchy="false">(</mo>}x\mathrm{<mo\; stretchy="false">)</mo>}\nabla {\phi }_x\mathrm{<mo\; stretchy="false">(</mo>}x\mathrm{,}{u}^k\mathrm{<mo\; stretchy="false">)</mo>,}\parallel \nabla g\mathrm{<mo\; stretchy="false">(</mo>}w\mathrm{<mo\; stretchy="false">)</mo>}-\nabla g\mathrm{<mo\; stretchy="false">(</mo>}v\mathrm{<mo\; stretchy="false">)</mo>}\parallel \le K\parallel w-v\parallel \mathrm{,}w\mathrm{,}v\in Q\mathrm{,}K\mathrm{<mo>=</mo>}\frac{L}{m}\mathrm{.}$

Тогда

$\mathrm{<mo\; stretchy="false">(</mo>}\nabla g\mathrm{<mo\; stretchy="false">(</mo>}{x}^{\mathrm{<mo>*</mo>}}\mathrm{<mo\; stretchy="false">)</mo>,}z-x^{\mathrm{<mo>*</mo>}}\mathrm{<mo\; stretchy="false">)</mo>}\ge \mathrm{0,}z\in Q\mathrm{,}{x}^{\mathrm{<mo>*</mo>}}\in Q_{\mathrm{<mo>*</mo>}}\mathrm{.}$ (3.1)

Доказательство дано для работы [7].

Лемма 3.2. Пусть $\forall x^k\in Q\subset E^n$ из (2.1) вогнутая функция $h\mathrm{<mo\; stretchy="false">(</mo>}u\mathrm{<mo\; stretchy="false">)</mo>}\in C^{\mathrm{2,1}}\mathrm{<mo\; stretchy="false">(</mo>}U\mathrm{<mo\; stretchy="false">)</mo>}$ удовлетворяет соотношениям

$\nabla h\mathrm{<mo\; stretchy="false">(</mo>}u\mathrm{<mo\; stretchy="false">)</mo><mo>=</mo>}{B}^{-1}\mathrm{<mo\; stretchy="false">(</mo>}u\mathrm{<mo\; stretchy="false">)</mo>}\nabla {\phi }_u\mathrm{<mo\; stretchy="false">(</mo>}{x}^k\mathrm{,}u\mathrm{<mo\; stretchy="false">)</mo>,}\parallel \nabla h\mathrm{<mo\; stretchy="false">(</mo>}u\mathrm{<mo\; stretchy="false">)</mo>}-\nabla h\mathrm{<mo\; stretchy="false">(</mo>}v\mathrm{<mo\; stretchy="false">)</mo>}\parallel \le R\parallel u-v\parallel \mathrm{,}u\mathrm{,}v\in U\mathrm{,}R\mathrm{<mo>=</mo>}\frac{L^0}{2m}\mathrm{.}$

Тогда

$\mathrm{<mo\; stretchy="false">(</mo>}\nabla h\mathrm{<mo\; stretchy="false">(</mo>}{u}^{\mathrm{<mo>*</mo>}}\mathrm{<mo\; stretchy="false">)</mo>,}{u}^{\mathrm{<mo>*</mo>}}-w\mathrm{<mo\; stretchy="false">)</mo>}\ge \mathrm{0,}w\in U\mathrm{,}{u}^{\mathrm{<mo>*</mo>}}\in U^{\mathrm{<mo>*</mo>}}\mathrm{.}$ (3.2)

Доказательство дано для работы [7].

Лемма 3.3. Для всякой тройки точек $u\mathrm{,}v\mathrm{,}w\in E^n$ (или $u\mathrm{,}v\mathrm{,}w\in E^m$ ) справедливо неравенство

$\mathrm{<mo\; stretchy="false">(</mo>1}-\epsilon \mathrm{<mo\; stretchy="false">)</mo>}\parallel u-v{\parallel }^2+\mathrm{<mo\; stretchy="false">(</mo>1}-{\epsilon }^{-1}\mathrm{<mo\; stretchy="false">)</mo>}\parallel v-w{\parallel }^2\le \parallel u-w{\parallel }^2\le$

$\le \mathrm{<mo\; stretchy="false">(</mo>1}+\epsilon \mathrm{<mo\; stretchy="false">)</mo>}\parallel u-v{\parallel }^2+\mathrm{<mo\; stretchy="false">(</mo>1}+{\epsilon }^{-1}\mathrm{<mo\; stretchy="false">)</mo>}\parallel v-w{\parallel }^2\mathrm{,}\epsilon \mathrm{<mo>></mo>0.}$ (3.3)

Доказательство приведено, например, в работе [6].

4.      Сходимость ПОДЭМКСМ

Теорема 4.1. Пусть выполнены: предположения а)$–$ г) из п. 1 о задаче (1.1) и функции $\phi \mathrm{<mo\; stretchy="false">(</mo>}x\mathrm{,}u\mathrm{<mo\; stretchy="false">)</mo>}$; неравенства (2.2) $–$ (2.4); параметры константы ПОДЭМКСМ (2.1) таковы:

$\begin{array}{c}\mathrm{0<mo><</mo>}\alpha \mathrm{<mo><</mo>1<mo>/</mo>3,0<mo><</mo>}\beta \mathrm{<mo><</mo>2<mo\; stretchy="false">(</mo>1}-3\alpha \mathrm{<mo\; stretchy="false">)</mo>}m\mathrm{<mo>/</mo><mo\; stretchy="false">[</mo>}L\mathrm{<mo\; stretchy="false">(</mo>1}-\alpha \mathrm{<mo\; stretchy="false">)</mo><mo\; stretchy="false">]</mo>,}\\ \mathrm{0<mo><</mo>}\lambda \mathrm{<mo><</mo>4}p\mathrm{<mo\; stretchy="false">(</mo>1}-3\alpha \mathrm{<mo\; stretchy="false">)</mo><mo>/</mo><mo\; stretchy="false">[</mo>}{L}^0\mathrm{<mo\; stretchy="false">(</mo>1}-\alpha \mathrm{<mo\; stretchy="false">)</mo><mo\; stretchy="false">]</mo>.}\end{array}$ (4.1)

Тогда процесс (2.1), (4.1) по норме пространства $E^n\times E^m$ сходится к решению $\mathrm{<mo\; stretchy="false">(</mo>}{x}^{\mathrm{<mo>*</mo>}}\mathrm{,}{u}^{\mathrm{<mo>*</mo>}}\mathrm{<mo\; stretchy="false">)</mo>}\in W_{\mathrm{<mo>*</mo>}}$ задачи (1.1), то есть $x^k\to x^{\mathrm{<mo>*</mo>}}\in Q_{\mathrm{<mo>*</mo>}}$, $u^k\to u^{\mathrm{<mo>*</mo>}}\in U^{\mathrm{<mo>*</mo>}}$ при $k\to \infty$.

Доказательство. Представим каждое уравнение из (2.1), пользуясь (2.7), в виде вариационного неравенства, тогда этот итерационный процесс запишется в форме:

$\left(z^k-x^k-{\alpha }_k{y}^k\mathrm{,}v-z^k\right)\ge \mathrm{0,}v\in Q\mathrm{,}$ (4.2)

$\left(x^{k+1}-z^k+{\beta }_k{A}_k^{-1}\nabla {\phi }_x\mathrm{<mo\; stretchy="false">(</mo>}{z}^k\mathrm{,}{u}^k\mathrm{<mo\; stretchy="false">)</mo>,}v-x^{k+1}\right)\ge \mathrm{0,}$ (4.3)

$\left(w^k-u^k-{\alpha }_k{v}^k\mathrm{,}u-w^k\right)\ge \mathrm{0,}u\in U\mathrm{,}$ (4.4)

$\left(u^{k+1}-w^k-{\lambda }_k{B}_k^{-1}\nabla {\phi }_u\mathrm{<mo\; stretchy="false">(</mo>}{x}^{k+1}\mathrm{,}{w}^k\mathrm{<mo\; stretchy="false">)</mo>,}u-u^{k+1}\right)\ge 0.$ (4.5)

 Далее почти везде обозначим ${\alpha }_k\mathrm{<mo>=</mo>}\alpha$, ${\beta }_k\mathrm{<mo>=</mo>}\beta$, ${\lambda }_k\mathrm{<mo>=</mo>}\lambda$.

Здесь сначала преобразуем (4.2), (4.3), пользуясь свойствами скалярного произведения, формулой (2.1) и вспомогательными неравенствами.

Пользуясь неравенством Коши-Буняковского и нерасширяющим свойством оператора проектирования ([13], с. 190), из (4.2) имеем:

$\parallel z^k-x^k{\parallel }^2\le \alpha \mathrm{<mo\; stretchy="false">(</mo>}{y}^k\mathrm{,}{z}^k-x^k\mathrm{<mo\; stretchy="false">)</mo>}\le \alpha \parallel y^k\parallel \parallel z^k-x^k\parallel \mathrm{<mo>=</mo>}$

$\mathrm{<mo>=</mo>}\alpha \parallel y^k\parallel \parallel P_Q\mathrm{<mo\; stretchy="false">(</mo>}{x}^k+\alpha y^k\mathrm{<mo\; stretchy="false">)</mo>}-P_Q\mathrm{<mo\; stretchy="false">(</mo>}{x}^k\mathrm{<mo\; stretchy="false">)</mo>}\parallel \le {\alpha }^2\parallel y^k{\parallel }^2\mathrm{.}$ (4.6)

 Первое слагаемое в неравенстве, следующем из (4.3) с учётом леммы 3.1,

$\left(x^{k+1}-x^{\mathrm{<mo>*</mo>}}\mathrm{,}{x}^{k+1}-z^k\right)\le \beta \mathrm{<mo\; stretchy="false">(</mo>}\nabla g\mathrm{<mo\; stretchy="false">(</mo>}{z}^k\mathrm{<mo\; stretchy="false">)</mo>,}{x}^{\mathrm{<mo>*</mo>}}-x^{k+1}\mathrm{<mo\; stretchy="false">)</mo>,}$ (4.7)

 где $\nabla g\mathrm{<mo\; stretchy="false">(</mo>}{z}^k\mathrm{<mo\; stretchy="false">)</mo><mo>=</mo><mo\; stretchy="false">[</mo>}A\mathrm{<mo\; stretchy="false">(</mo>}{z}^k{\mathrm{<mo\; stretchy="false">)</mo><mo\; stretchy="false">]</mo>}}^{-1}\nabla {\phi }_x\mathrm{<mo\; stretchy="false">(</mo>}{z}^k\mathrm{,}{u}^k\mathrm{<mo\; stretchy="false">)</mo>}$, $z^k\in Q$, $u^k\in U$, преобразуем с помощью тождества

$\parallel u-w{\parallel }^2\mathrm{<mo>=</mo>}\parallel u-v{\parallel }^2+\mathrm{2<mo\; stretchy="false">(</mo>}u-v\mathrm{,}v-w\mathrm{<mo\; stretchy="false">)</mo>}+\parallel v-w{\parallel }^2\forall v\mathrm{,}u\mathrm{,}w\in E^n\mathrm{.}$ (4.8)

 Получим

$-\left(x^{\mathrm{<mo>*</mo>}}-x^{k+1}\mathrm{,}{x}^{k+1}-z^k\right)\mathrm{<mo>=</mo>}-\left(\parallel x^{\mathrm{<mo>*</mo>}}-z^k{\parallel }^2-\parallel x^{\mathrm{<mo>*</mo>}}-x^{k+1}{\parallel }^2-\parallel x^{k+1}-z^k{\parallel }^2\right)\mathrm{<mo>/</mo>2.}$

 С учётом этого преобразования из (4.7) следует неравенство

$\parallel x^{\mathrm{<mo>*</mo>}}-x^{k+1}{\parallel }^2+\parallel x^{k+1}-z^k{\parallel }^2-\parallel x^{\mathrm{<mo>*</mo>}}-z^k{\parallel }^2\le 2\beta \mathrm{<mo\; stretchy="false">(</mo>}\nabla g\mathrm{<mo\; stretchy="false">(</mo>}{z}^k\mathrm{<mo\; stretchy="false">)</mo>,}{x}^{\mathrm{<mo>*</mo>}}-x^{k+1}\mathrm{<mo\; stretchy="false">)</mo>.}$ (4.9)

 В (4.9) преобразуем третье слагаемое, пользуясь нерастягивающим свойством оператора проектирования,

$\parallel z^k-x^{\mathrm{<mo>*</mo>}}{\parallel }^2\mathrm{<mo>=</mo>}\parallel P_Q\mathrm{<mo\; stretchy="false">(</mo>}{x}^k+\alpha y^k\mathrm{<mo\; stretchy="false">)</mo>}-P_Q\mathrm{<mo\; stretchy="false">(</mo>}{x}^{\mathrm{<mo>*</mo>}}\mathrm{<mo\; stretchy="false">)</mo>}{\parallel }^2\le$

$\le \parallel x^k+\alpha y^k-x^{\mathrm{<mo>*</mo>}}{\parallel }^2\mathrm{<mo>=</mo>}\parallel x^k-x^{\mathrm{<mo>*</mo>}}{\parallel }^2+2\alpha \mathrm{<mo\; stretchy="false">(</mo>}{x}^k-x^{\mathrm{<mo>*</mo>}}\mathrm{,}{y}^k\mathrm{<mo\; stretchy="false">)</mo>}+{\alpha }^2\parallel y^k{\parallel }^2\mathrm{,}$

 и здесь преобразуем среднее слагаемое с помощью (4.8),

$2\alpha \mathrm{<mo\; stretchy="false">(</mo>}{x}^k-x^{\mathrm{<mo>*</mo>}}\mathrm{,}{y}^k\mathrm{<mo\; stretchy="false">)</mo><mo>=</mo>}\alpha \left(\parallel x^k-x^{\mathrm{<mo>*</mo>}}{\parallel }^2+\parallel y^k{\parallel }^2-\parallel x^{k-1}-x^{\mathrm{<mo>*</mo>}}{\parallel }^2\right)\mathrm{,}$

 тогда

$-\mathrm{<mo>|</mo><mo>|</mo>}{z}^k-x^{\mathrm{<mo>*</mo>}}{\mathrm{<mo>|</mo><mo>|</mo>}}^2\ge -\mathrm{<mo\; stretchy="false">(</mo>1}+\alpha \mathrm{<mo\; stretchy="false">)</mo><mo>|</mo><mo>|</mo>}{x}^k-x^{\mathrm{<mo>*</mo>}}{\mathrm{<mo>|</mo><mo>|</mo>}}^2+\alpha \mathrm{<mo>|</mo><mo>|</mo>}x{}^{k-1}-x{}^{\mathrm{<mo>*</mo>}}{\parallel }^2-\mathrm{<mo\; stretchy="false">(</mo>}\alpha +{\alpha }^2\mathrm{<mo\; stretchy="false">)</mo><mo>|</mo><mo>|</mo>}y{}^k{\parallel }^2\mathrm{.}$

 Правую часть (4.9) сложим с неравенством (3.1) из леммы 3.1 при $z\mathrm{<mo>=</mo>}{x}^{k+1}$, умножив на $2\beta$ и, c учётом константы Липшица $K\mathrm{<mo>=</mo>}\frac{L}{m}$ для градиента гладкой выпуклой функции $g\mathrm{<mo\; stretchy="false">(</mo>}x\mathrm{<mo\; stretchy="false">)</mo>}$ из леммы 1, применим неравенство для таких функций ([12], гл. 1, c. 25)

$2\beta \left(\nabla g\mathrm{<mo\; stretchy="false">(</mo>}z{}^k\mathrm{<mo\; stretchy="false">)</mo>}-\nabla g\mathrm{<mo\; stretchy="false">(</mo>}{x}^{\mathrm{<mo>*</mo>}}\mathrm{<mo\; stretchy="false">)</mo>,}{x}^{\mathrm{<mo>*</mo>}}-x^{k+1}\right)\le 2\beta \frac{K}{4}\parallel z^k-x^{k+1}{\parallel }^2\mathrm{<mo>=</mo>}\frac{L\beta }{2m}\parallel z^k-x^{k+1}{\parallel }^2\mathrm{,}$

 $z\mathrm{,}{x}^{k+1}\in Q$, $x^{\mathrm{<mo>*</mo>}}\in Q_{\mathrm{<mo>*</mo>}}$. Подставив эти оценки слагаемых, из (4.9) получим,

$\parallel x^{k+1}-x^{\mathrm{<mo>*</mo>}}{\parallel }^2+\mathrm{<mo\; stretchy="false">(</mo>1}-\frac{L\beta }{2m}\mathrm{<mo\; stretchy="false">)</mo>}\parallel z^k-x^{k+1}{\parallel }^2+\alpha \parallel x^{k-1}-x^{\mathrm{<mo>*</mo>}}{\parallel }^2\le$

$\le \mathrm{<mo\; stretchy="false">(</mo>1}+\alpha \mathrm{<mo\; stretchy="false">)</mo>}\parallel x^{\mathrm{<mo>*</mo>}}-x^k{\parallel }^2+\mathrm{<mo\; stretchy="false">(</mo>}{\alpha }^2+\alpha \mathrm{<mo\; stretchy="false">)</mo>}\parallel y^k{\parallel }^2\mathrm{,}k\ge 1.$ (4.10)

 В (4.10) второе слагаемое преобразуем с помощью левого неравенства (3.3), затем (4.6). Получим

$\parallel x^{k+1}-z^k{\parallel }^2\ge \mathrm{<mo\; stretchy="false">(</mo>1}-\alpha \mathrm{<mo\; stretchy="false">)</mo>}\parallel x^{k+1}-x^k{\parallel }^2+\mathrm{<mo\; stretchy="false">(</mo>1}-{\alpha }^{-1}\mathrm{<mo\; stretchy="false">)</mo>}\parallel x^k-z^k{\parallel }^2\ge$

$\ge \mathrm{<mo\; stretchy="false">(</mo>1}-\alpha \mathrm{<mo\; stretchy="false">)</mo>}\parallel x^{k+1}-x^k{\parallel }^2-\mathrm{<mo\; stretchy="false">(</mo>1}-\alpha \mathrm{<mo\; stretchy="false">)</mo>}\alpha \parallel y^k{\parallel }^2\mathrm{,}$

 отсюда

$\mathrm{<mo\; stretchy="false">(</mo>1}-\frac{L\beta }{2m}\mathrm{<mo\; stretchy="false">)</mo>}\parallel x^{k+1}-z^k{\parallel }^2\ge \mathrm{<mo\; stretchy="false">(</mo>1}-\frac{L\beta }{2m}\mathrm{<mo\; stretchy="false">)</mo><mo\; stretchy="false">(</mo>1}-\alpha \mathrm{<mo\; stretchy="false">)</mo>}\left(\parallel x^{k+1}-x^k{\parallel }^2-\alpha \parallel y^k{\parallel }^2\right)\mathrm{.}$

 Подставив это преобразование в (4.10), получим неравенство

$\parallel x^{k+1}-x^{\mathrm{<mo>*</mo>}}{\parallel }^2+a_1\parallel x^{k+1}-x^k{\parallel }^2+\alpha \parallel x^{k-1}-x^{\mathrm{<mo>*</mo>}}{\parallel }^2\le$

$\le \mathrm{<mo\; stretchy="false">(</mo>1}+\alpha \mathrm{<mo\; stretchy="false">)</mo>}\parallel x^{\mathrm{<mo>*</mo>}}-x^k{\parallel }^2+a_2\parallel y^k{\parallel }^2\mathrm{,}k\ge \mathrm{1,}$ (4.11)

 где $a_1\mathrm{<mo>=</mo><mo\; stretchy="false">(</mo>1}-\alpha \mathrm{<mo\; stretchy="false">)</mo><mo\; stretchy="false">(</mo>1}-\frac{L\beta }{2m}\mathrm{<mo\; stretchy="false">)</mo>}$, $a_2\mathrm{<mo>=</mo>2}\alpha -\frac{L\beta }{2m}\mathrm{<mo\; stretchy="false">(</mo>}\alpha -{\alpha }^2\mathrm{<mo\; stretchy="false">)</mo>}$, $\mathrm{0<mo><</mo>}\beta \mathrm{<mo><</mo>}\frac{2m}{L}$.

Теперь рассмотрим неравенства (4.4) и (4.5). Представим неравенство (4.5) в форме

$\left(u^{k+1}-w^k\mathrm{,}{u}^{k+1}-u^{\mathrm{<mo>*</mo>}}\right)\le \lambda \left(\nabla h\mathrm{<mo\; stretchy="false">(</mo>}{w}^k\mathrm{<mo\; stretchy="false">)</mo>,}{u}^{k+1}-u^{\mathrm{<mo>*</mo>}}\right)\mathrm{,}$ (4.12)

 где по лемме 3.2 $\nabla h\mathrm{<mo\; stretchy="false">(</mo>}{w}^k\mathrm{<mo\; stretchy="false">)</mo><mo>=</mo>}{B}_k^{-1}\nabla {\phi }_u\mathrm{<mo\; stretchy="false">(</mo>}{x}^{k+1}\mathrm{,}{w}^k\mathrm{<mo\; stretchy="false">)</mo>}$ и, поскольку

$\left(\nabla h\mathrm{<mo\; stretchy="false">(</mo>}{w}^k\mathrm{<mo\; stretchy="false">)</mo>,}{u}^{k+1}-u^{\mathrm{<mo>*</mo>}}\right)\mathrm{<mo>=</mo>}-\left(\nabla h\mathrm{<mo\; stretchy="false">(</mo>}{w}^k\mathrm{<mo\; stretchy="false">)</mo>,}{u}^{\mathrm{<mo>*</mo>}}-w^k\right)\mathrm{<mo>–</mo>}\left(\nabla h\mathrm{<mo\; stretchy="false">(</mo>}{w}^k\mathrm{<mo\; stretchy="false">)</mo>,}{w}^k-u^{k+1}\right)\mathrm{,}$

 для преобразования получим неравенство

$\left(u^{k+1}-w^k\mathrm{,}{u}^{k+1}-u^{\mathrm{<mo>*</mo>}}\right)+\lambda \left(\nabla h\mathrm{<mo\; stretchy="false">(</mo>}{w}^k\mathrm{<mo\; stretchy="false">)</mo>,}{u}^{\mathrm{<mo>*</mo>}}-w^k\right)+\lambda \left(\nabla h\mathrm{<mo\; stretchy="false">(</mo>}{w}^k\mathrm{<mo\; stretchy="false">)</mo>,}{w}^k-u^{k+1}\right)\le 0.$ (4.13)

 С помощью нерасширяющего свойства оператора проектирования ([13], с. 190) и неравенства Коши-Буняковского, из (4.4) имеем

  $\parallel w^k-u^k{\parallel }^2\le \alpha \mathrm{<mo\; stretchy="false">(</mo>}{v}^k\mathrm{,}{w}^k-u^k\mathrm{<mo\; stretchy="false">)</mo>}\le \alpha \parallel v^k\parallel \parallel w^k-u^k\parallel \le$

  $\le \alpha \parallel v^k\parallel \parallel P_U\mathrm{<mo\; stretchy="false">(</mo>}{w}^k\mathrm{<mo\; stretchy="false">)</mo>}-P_U\mathrm{<mo\; stretchy="false">(</mo>}{u}^k\mathrm{<mo\; stretchy="false">)</mo>}\parallel \le$

$\le \alpha \parallel v^k\parallel \parallel u^k+\alpha v^k-u^k\parallel \mathrm{<mo>=</mo>}{\alpha }^2\parallel v^k{\parallel }^2\mathrm{.}$ (4.14)

 Первое слагаемое из (4.13) преобразуем с помощью тождества (4.8),

               $-\left(u^{\mathrm{<mo>*</mo>}}-u^{k+1}\mathrm{,}{u}^{k+1}-w^k\right)\mathrm{<mo>=</mo>}-\left(\parallel u^{\mathrm{<mo>*</mo>}}-w^k{\parallel }^2-\parallel u^{\mathrm{<mo>*</mo>}}-u^{k+1}{\parallel }^2-\parallel u^{k+1}-w^k{\parallel }^2\right)\mathrm{<mo>/</mo>2.}$

 Ко второму и третьему слагаемым из (4.13) применим соответственно неравенства (см. [14], гл. 2, с.44; и [13], гл. 2, с. 93)

                                                       $\left(\nabla h\mathrm{<mo\; stretchy="false">(</mo>}{w}^k\mathrm{<mo\; stretchy="false">)</mo>,}{u}^{\mathrm{<mo>*</mo>}}-w^k\right)\ge h\mathrm{<mo\; stretchy="false">(</mo>}{u}^{\mathrm{<mo>*</mo>}}\mathrm{<mo\; stretchy="false">)</mo>}-h\mathrm{<mo\; stretchy="false">(</mo>}{w}^k\mathrm{<mo\; stretchy="false">)</mo>,}$

                                  $\left(\nabla h\mathrm{<mo\; stretchy="false">(</mo>}{w}^k\mathrm{<mo\; stretchy="false">)</mo>,}{w}^k\mathrm{<mo>–</mo>}{u}^{k+1}\right)\ge h\mathrm{<mo\; stretchy="false">(</mo>}{w}^k\mathrm{<mo\; stretchy="false">)</mo>}-h\mathrm{<mo\; stretchy="false">(</mo>}{u}^{k+1}\mathrm{<mo\; stretchy="false">)</mo>}-\frac{R}{2}\parallel u^{k+1}-w^k{\parallel }^2$

 здесь число $R\mathrm{<mo>=</mo>}{L}^0\mathrm{<mo>/</mo><mo\; stretchy="false">(</mo>2}p\mathrm{<mo\; stretchy="false">)</mo>}$ определено в лемме 3.2.

Приведя подобные, учитывая условие вогнутости $h\mathrm{<mo\; stretchy="false">(</mo>}{u}^{\mathrm{<mo>*</mo>}}\mathrm{<mo\; stretchy="false">)</mo>}-h\mathrm{<mo\; stretchy="false">(</mo>}{u}^{k+1}\mathrm{<mo\; stretchy="false">)</mo>}\ge 0$ и лемму 3.2, правая часть (4.12) с учётом (4.13) преобразуется к виду

                           $\lambda \left(\nabla h\mathrm{<mo\; stretchy="false">(</mo>}{w}^k\mathrm{<mo\; stretchy="false">)</mo>,}{u}^{k+1}-u^{\mathrm{<mo>*</mo>}}\right)\le \lambda \frac{R}{2}\parallel u^{k+1}-w^k{\parallel }^2\mathrm{<mo>=</mo>}\frac{L^0\lambda }{4p}\parallel u^{k+1}-w^k{\parallel }^2\mathrm{.}$

 Тогда из (4.12) и, следовательно, (4.13), следует,

                                  $\parallel u^{k+1}-u^{\mathrm{<mo>*</mo>}}{\parallel }^2+\mathrm{<mo\; stretchy="false">(</mo>1}-\frac{L^0\lambda }{4p}\mathrm{<mo\; stretchy="false">)</mo>}\parallel u^{k+1}-w^k{\parallel }^2-\parallel w^k-u^{\mathrm{<mo>*</mo>}}{\parallel }^2\le 0.$ (4.15)

 Преобразуем здесь второе слагаемое с помощью левого неравенства (3.3) при $\epsilon \mathrm{<mo>=</mo>}\alpha$, учтём оценку (4.14),

                 $\parallel u^{k+1}-w^k{\parallel }^2\ge \mathrm{<mo\; stretchy="false">(</mo>1}-\alpha \mathrm{<mo\; stretchy="false">)</mo>}\parallel u^{k+1}-u^k{\parallel }^2+\mathrm{<mo\; stretchy="false">(</mo>1}-{\alpha }^{-1}\mathrm{<mo\; stretchy="false">)</mo>}\parallel u^k-w^k{\parallel }^2\ge$

                                               $\ge \mathrm{<mo\; stretchy="false">(</mo>1}-\alpha \mathrm{<mo\; stretchy="false">)</mo>}\parallel u^{k+1}-u^k{\parallel }^2+\mathrm{<mo\; stretchy="false">(</mo>1}-{\alpha }^{-1}\mathrm{<mo\; stretchy="false">)</mo>}{\alpha }^2\parallel v^k{\parallel }^2\mathrm{,}$

                                $b\parallel u^{k+1}-w^k{\parallel }^2\ge \mathrm{<mo\; stretchy="false">(</mo>1}-\alpha \mathrm{<mo\; stretchy="false">)</mo>}b\parallel u^{k+1}-u^k{\parallel }^2-\mathrm{<mo\; stretchy="false">(</mo>1}-\alpha \mathrm{<mo\; stretchy="false">)</mo>}\alpha b\parallel v^k{\parallel }^2\mathrm{,}$

 $b\mathrm{<mo>=</mo>1}-\frac{L^0\lambda }{4p}$, а третье слагаемое преобразуем с помощью нерастягивающего свойства оператора проектирования и (4.8),

                 $\parallel w^k-u^{\mathrm{<mo>*</mo>}}{\parallel }^2\le \parallel P_U\mathrm{<mo\; stretchy="false">(</mo>}{u}^k+\alpha v^k\mathrm{<mo\; stretchy="false">)</mo>}-P_U\mathrm{<mo\; stretchy="false">(</mo>}{u}^{\mathrm{<mo>*</mo>}}\mathrm{<mo\; stretchy="false">)</mo>}{\parallel }^2\le \parallel u^k+\alpha v^k-u^{\mathrm{<mo>*</mo>}}{\parallel }^2\mathrm{<mo>=</mo>}$

                                              $\mathrm{<mo>=</mo>}\parallel u^k-u^{\mathrm{<mo>*</mo>}}{\parallel }^2+2\alpha \mathrm{<mo\; stretchy="false">(</mo>}{v}^k\mathrm{,}{u}^k-u^{\mathrm{<mo>*</mo>}}\mathrm{<mo\; stretchy="false">)</mo>}+{\alpha }^2\parallel v^k{\parallel }^2\le$

                                  $\le \mathrm{<mo\; stretchy="false">(</mo>1}+\alpha \mathrm{<mo\; stretchy="false">)</mo>}\parallel u^k-u^{\mathrm{<mo>*</mo>}}{\parallel }^2+\mathrm{<mo\; stretchy="false">(</mo>}{\alpha }^2+\alpha \mathrm{<mo\; stretchy="false">)</mo>}\parallel v^k{\parallel }^2-\alpha \parallel u^{k-1}-u^{\mathrm{<mo>*</mo>}}{\parallel }^2\mathrm{,}$

                   $-\parallel w^k-u^{\mathrm{<mo>*</mo>}}{\parallel }^2\ge -\mathrm{<mo\; stretchy="false">(</mo>1}+\alpha \mathrm{<mo\; stretchy="false">)</mo>}\parallel u^k-u^{\mathrm{<mo>*</mo>}}{\parallel }^2-\mathrm{<mo\; stretchy="false">(</mo>}{\alpha }^2+\alpha \mathrm{<mo\; stretchy="false">)</mo>}\parallel v^k{\parallel }^2+\alpha \parallel u^{k-1}-u^{\mathrm{<mo>*</mo>}}{\parallel }^2\mathrm{,}$

 где использована получаемая с помощью (4.8) оценка

   $2\alpha \mathrm{<mo\; stretchy="false">(</mo>}{v}^k\mathrm{,}{u}^k-u^{\mathrm{<mo>*</mo>}}\mathrm{<mo\; stretchy="false">)</mo><mo>=</mo>}-2\alpha \mathrm{<mo\; stretchy="false">(</mo>}{u}^{k-1}-u^k\mathrm{,}{u}^k-u^{\mathrm{<mo>*</mo>}}\mathrm{<mo\; stretchy="false">)</mo><mo>=</mo>}\alpha \parallel v^k{\parallel }^2-\alpha \parallel u^{k-1}-u^{\mathrm{<mo>*</mo>}}{\parallel }^2+\alpha \parallel u^k-u^{\mathrm{<mo>*</mo>}}{\parallel }^2\mathrm{.}$

 С учётом этих преобразований из (4.15) получим,

    $\parallel u^{k+1}-u^{\mathrm{<mo>*</mo>}}{\parallel }^2+a_3\parallel u^{k+1}-u^k{\parallel }^2+\alpha \parallel u^{k-1}-u^{\mathrm{<mo>*</mo>}}{\parallel }^2\le \mathrm{<mo\; stretchy="false">(</mo>1}+\alpha \mathrm{<mo\; stretchy="false">)</mo>}\parallel u^k-u^{\mathrm{<mo>*</mo>}}{\parallel }^2+a_4\parallel v^k{\parallel }^2\mathrm{,}k\ge \mathrm{1,}$     (4.16)

 где $a_3\mathrm{<mo>=</mo>1}-\alpha -\frac{L^0\mathrm{<mo\; stretchy="false">(</mo>1}-\alpha \mathrm{<mo\; stretchy="false">)</mo>}\lambda }{4p}$, $a_4\mathrm{<mo>=</mo>2}\alpha -\frac{L^0\lambda }{4p}\mathrm{<mo\; stretchy="false">(</mo>}\alpha -{\alpha }^2\mathrm{<mo\; stretchy="false">)</mo>}$, $\mathrm{0<mo><</mo>}\lambda \mathrm{<mo><</mo>}\frac{4p}{L^0}$.

Сложив неравенства (4.11) и (4.16), имеем

                 $\parallel x^{k+1}-x^{\mathrm{<mo>*</mo>}}{\parallel }^2+\parallel u^{k+1}-u^{\mathrm{<mo>*</mo>}}{\parallel }^2+a_1\parallel x^{k+1}-x^k{\parallel }^2+$

                                     $+a_3\parallel u^{k+1}-u^k{\parallel }^2+\alpha \mathrm{<mo\; stretchy="false">(</mo>}\parallel x^{k-1}-x^{\mathrm{<mo>*</mo>}}{\parallel }^2+\parallel u^{k-1}-u^{\mathrm{<mo>*</mo>}}{\parallel }^2\mathrm{<mo\; stretchy="false">)</mo>}\le$

                        $\le \mathrm{<mo\; stretchy="false">(</mo>1}+\alpha \mathrm{<mo\; stretchy="false">)</mo><mo\; stretchy="false">(</mo>}\parallel x^{\mathrm{<mo>*</mo>}}-x^k{\parallel }^2+\parallel u^k-u^{\mathrm{<mo>*</mo>}}{\parallel }^2\mathrm{<mo\; stretchy="false">)</mo>}+a_2\parallel y^k{\parallel }^2+a_4\parallel v^k{\parallel }^2\mathrm{,}k\ge 1.$ (4.17)

 Просуммируем (4.17) от $k\mathrm{<mo>=</mo>1}$ до $k\mathrm{<mo>=</mo>}m$, $m\ge 1$, тогда

                 $\alpha \mathrm{<mo\; stretchy="false">(</mo>}\parallel x^0-x^{\mathrm{<mo>*</mo>}}{\parallel }^2+\parallel u^0-u^{\mathrm{<mo>*</mo>}}{\parallel }^2\mathrm{<mo\; stretchy="false">)</mo>}+\parallel x^{m+1}-x^{\mathrm{<mo>*</mo>}}{\parallel }^2+$

                                    $+a_1\parallel x^{m+1}-x^m{\parallel }^2+\parallel u^{m+1}-u^{\mathrm{<mo>*</mo>}}{\parallel }^2+a_3\parallel u^{m+1}-u^m{\parallel }^2+$

                                  $+{\displaystyle \sum _{k\mathrm{<mo>=</mo>1}}^{k\mathrm{<mo>=</mo>}m-1}}\left(\mathrm{<mo\; stretchy="false">(</mo>}{a}_1-a_2\mathrm{<mo\; stretchy="false">)</mo>}\parallel x^{k+1}-x^k{\parallel }^2+\mathrm{<mo\; stretchy="false">(</mo>}{a}_3-a_4\mathrm{<mo\; stretchy="false">)</mo>}\parallel u^{k+1}-u^k{\parallel }^2\right)\le$

                                           $\le a_2\parallel x^1-x^0{\parallel }^2+a_4\parallel u^1-u^0{\parallel }^2+\parallel x^1-x^{\mathrm{<mo>*</mo>}}{\parallel }^2+$

                                              $+\parallel u^1-u^{\mathrm{<mo>*</mo>}}{\parallel }^2+\alpha \mathrm{<mo\; stretchy="false">(</mo>}\parallel x^m-x^{\mathrm{<mo>*</mo>}}{\parallel }^2+\parallel u^m-u^{\mathrm{<mo>*</mo>}}{\parallel }^2\mathrm{<mo\; stretchy="false">)</mo>,}$ (4.18)

 где $a_1-a_2\mathrm{<mo>=</mo>1}-3\alpha -\frac{L{\mathrm{<mo\; stretchy="false">(</mo>1}-\alpha \mathrm{<mo\; stretchy="false">)</mo>}}^2\beta }{2m}\mathrm{<mo>></mo>0}$, $a_3-a_4\mathrm{<mo>=</mo>1}-3\alpha -\frac{L^0\lambda }{4p}{\mathrm{<mo\; stretchy="false">(</mo>1}-\alpha \mathrm{<mo\; stretchy="false">)</mo>}}^2\mathrm{<mo>></mo>0}$, $\mathrm{0<mo><</mo>}\alpha \mathrm{<mo><</mo>1<mo>/</mo>3}$, $\mathrm{0<mo><</mo>}\beta \mathrm{<mo><</mo>}\frac{2m\mathrm{<mo\; stretchy="false">(</mo>1}-3\alpha \mathrm{<mo\; stretchy="false">)</mo>}}{L{\mathrm{<mo\; stretchy="false">(</mo>1}-\alpha \mathrm{<mo\; stretchy="false">)</mo>}}^2}$, $\mathrm{0<mo><</mo>}\lambda \mathrm{<mo><</mo>}\frac{4p\mathrm{<mo\; stretchy="false">(</mo>1}-3\alpha \mathrm{<mo\; stretchy="false">)</mo>}}{L^0{\mathrm{<mo\; stretchy="false">(</mo>1}-\alpha \mathrm{<mo\; stretchy="false">)</mo>}}^2}$.

К первым двум, пятому и шестому слагаемым правой части (4.18) применим правое неравенство (3.3) при $\epsilon \mathrm{<mo>=</mo>1}$ 

                                            $a_2\parallel x^1-x^0{\parallel }^2\le 2a_2\mathrm{<mo\; stretchy="false">(</mo>}\parallel x^1-x^{\mathrm{<mo>*</mo>}}{\parallel }^2+\parallel x^0-x^{\mathrm{<mo>*</mo>}}{\parallel }^2\mathrm{<mo\; stretchy="false">)</mo>,}$

                                            $a_4\parallel u^1-u^0{\parallel }^2\le 2a_4\mathrm{<mo\; stretchy="false">(</mo>}\parallel u^1-u^{\mathrm{<mo>*</mo>}}{\parallel }^2+\parallel u^{\mathrm{<mo>*</mo>}}-u^0{\parallel }^2\mathrm{<mo\; stretchy="false">)</mo>,}$

                                                           $\alpha \mathrm{<mo\; stretchy="false">(</mo>}\parallel x^m-x^{\mathrm{<mo>*</mo>}}{\parallel }^2+\parallel u^m-u^{\mathrm{<mo>*</mo>}}{\parallel }^2\mathrm{<mo\; stretchy="false">)</mo>}\le$

                      $\le 2\alpha \mathrm{<mo\; stretchy="false">(</mo>}\parallel x^m-x^{m+1}{\parallel }^2+\parallel x^{m+1}-x^{\mathrm{<mo>*</mo>}}{\parallel }^2+\parallel u^m-u^{m+1}{\parallel }^2+\parallel u^{m+1}-u^{\mathrm{<mo>*</mo>}}{\parallel }^2\mathrm{<mo\; stretchy="false">)</mo>.}$

 Тогда из (4.18) следует,

                 $\mathrm{<mo\; stretchy="false">(</mo>1}-2\alpha \mathrm{<mo\; stretchy="false">)</mo>}\left(\parallel x^{m+1}-x^{\mathrm{<mo>*</mo>}}{\parallel }^2+\parallel u^{m+1}-u^{\mathrm{<mo>*</mo>}}{\parallel }^2\right)+$

                                      $+\mathrm{<mo\; stretchy="false">(</mo>}{a}_1-2\alpha \mathrm{<mo\; stretchy="false">)</mo>}\parallel x^{m+1}-x^m{\parallel }^2+\mathrm{<mo\; stretchy="false">(</mo>}{a}_3-2\alpha \mathrm{<mo\; stretchy="false">)</mo>}\parallel u^{m+1}-u^m{\parallel }^2+$

                                  $+{\displaystyle \sum _{k\mathrm{<mo>=</mo>1}}^{k\mathrm{<mo>=</mo>}m-1}}\left(\mathrm{<mo\; stretchy="false">(</mo>}{a}_1-a_2\mathrm{<mo\; stretchy="false">)</mo>}\parallel x^{k+1}-x^k{\parallel }^2+\mathrm{<mo\; stretchy="false">(</mo>}{a}_3-a_4\mathrm{<mo\; stretchy="false">)</mo>}\parallel u^{k+1}-u^k{\parallel }^2\right)\le$

                          $\le a_5\parallel x^0-x^{\mathrm{<mo>*</mo>}}{\parallel }^2+a_6\parallel u^0-u^{\mathrm{<mo>*</mo>}}{\parallel }^2+a_7\parallel x^1-x^{\mathrm{<mo>*</mo>}}{\parallel }^2+a_8\parallel u^1-u^{\mathrm{<mo>*</mo>}}{\parallel }^2\mathrm{,}$ (4.19)

 где

                                                    $a_5\mathrm{<mo>=</mo>2}{a}_2-\alpha \mathrm{<mo>=</mo>3}\alpha -\frac{L\mathrm{<mo\; stretchy="false">(</mo>}\alpha -{\alpha }^2\mathrm{<mo\; stretchy="false">)</mo>}\beta }{m}\mathrm{<mo>></mo>0,}$

                                                    $a_6\mathrm{<mo>=</mo>2}{a}_4-\alpha \mathrm{<mo>=</mo>3}\alpha -\frac{L^0\mathrm{<mo\; stretchy="false">(</mo>}\alpha -{\alpha }^2\mathrm{<mo\; stretchy="false">)</mo>}\lambda }{2p}\mathrm{<mo>></mo>0,}$

                                                     $1-2\alpha \mathrm{<mo>></mo>0,}{a}_7\mathrm{<mo>=</mo>1}+2a_2\mathrm{,}{a}_8\mathrm{<mo>=</mo>1}+2a_4\mathrm{,}$

 и, с учётом неравенств

                                                                              $\mathrm{0<mo><</mo>}\alpha \mathrm{<mo><</mo>1<mo>/</mo>3,}$

                                              $\mathrm{0<mo><</mo>}{a}_1-2\alpha \mathrm{<mo><</mo>}{a}_1-a_2\mathrm{,0<mo><</mo>}{a}_3-2\alpha \mathrm{<mo><</mo>}{a}_3-a_4\mathrm{,}$

                                                          $\mathrm{0<mo><</mo>}\beta \mathrm{<mo><</mo>2}m\mathrm{<mo\; stretchy="false">(</mo>1}-3\alpha \mathrm{<mo\; stretchy="false">)</mo><mo>/</mo><mo\; stretchy="false">[</mo>}L\mathrm{<mo\; stretchy="false">(</mo>1}-\alpha \mathrm{<mo\; stretchy="false">)</mo><mo\; stretchy="false">]</mo>,}$

                                                          $\mathrm{0<mo><</mo>}\lambda \mathrm{<mo><</mo>4}p\mathrm{<mo\; stretchy="false">(</mo>1}-3\alpha \mathrm{<mo\; stretchy="false">)</mo><mo>/</mo><mo\; stretchy="false">[</mo>}{L}^0\mathrm{<mo\; stretchy="false">(</mo>1}-\alpha \mathrm{<mo\; stretchy="false">)</mo><mo\; stretchy="false">]</mo>,}$

 неравенство (4.19) упростится

                 $\mathrm{<mo\; stretchy="false">(</mo>1}-2\alpha \mathrm{<mo\; stretchy="false">)</mo>}\left(\parallel x^{m+1}-x^{\mathrm{<mo>*</mo>}}{\parallel }^2+\parallel u^{m+1}-u^{\mathrm{<mo>*</mo>}}{\parallel }^2\right)+$

                                 $+{\displaystyle \sum _{k\mathrm{<mo>=</mo>1}}^{k\mathrm{<mo>=</mo>}m}}\left(\mathrm{<mo\; stretchy="false">(</mo>}{a}_1-2\alpha \mathrm{<mo\; stretchy="false">)</mo>}\parallel x^{k+1}-x^k{\parallel }^2+\mathrm{<mo\; stretchy="false">(</mo>}{a}_3-2\alpha \mathrm{<mo\; stretchy="false">)</mo>}\parallel u^{k+1}-u^k{\parallel }^2\right)\le$

                          $\le a_5\parallel x^0-x^{\mathrm{<mo>*</mo>}}{\parallel }^2+a_6\parallel u^0-u^{\mathrm{<mo>*</mo>}}{\parallel }^2+a_7\parallel x^1-x^{\mathrm{<mo>*</mo>}}{\parallel }^2+a_8\parallel u^1-u^{\mathrm{<mo>*</mo>}}{\parallel }^2\mathrm{.}$ (33)

Из (4.20) при $m\to \infty$ следует сходимость ряда

                                    ${\displaystyle \sum _{k\mathrm{<mo>=</mo>1}}^{k\mathrm{<mo>=</mo>}\infty }}\left(\mathrm{<mo\; stretchy="false">(</mo>}{a}_1-2\alpha \mathrm{<mo\; stretchy="false">)</mo>}\parallel x^{k+1}-x^k{\parallel }^2+\mathrm{<mo\; stretchy="false">(</mo>}{a}_3-2\alpha \mathrm{<mo\; stretchy="false">)</mo>}\parallel u^{k+1}-u^k{\parallel }^2\right)\mathrm{.}$

 Тогда (4.20) эквивалентно неравенству

                 $\mathrm{<mo\; stretchy="false">(</mo>1}-2\alpha \mathrm{<mo\; stretchy="false">)</mo>}\left(\parallel x^{m+1}-x^{\mathrm{<mo>*</mo>}}{\parallel }^2+\parallel u^{m+1}-u^{\mathrm{<mo>*</mo>}}{\parallel }^2\right)\le$

                          $\le a_5\parallel x^0-x^{\mathrm{<mo>*</mo>}}{\parallel }^2+a_6\parallel u^0-u^{\mathrm{<mo>*</mo>}}{\parallel }^2+a_7\parallel x^1-x^{\mathrm{<mo>*</mo>}}{\parallel }^2+a_8\parallel u^1-u^{\mathrm{<mo>*</mo>}}{\parallel }^2\mathrm{.}$

 Следовательно, из (4.20) следует: $\parallel x^k-x^{\mathrm{<mo>*</mo>}}\parallel \to 0$, $\parallel u^k-u^{\mathrm{<mo>*</mo>}}\parallel \to 0$, $k\text{}\text{}\mathrm{<mi>\; </mi>}\to \mathrm{<mi>\; </mi>}\text{}\text{}\infty$; последовательность $\left\{\parallel x^k-x^{\mathrm{<mo>*</mo>}}{\parallel }^2+\parallel u^k-u^{\mathrm{<mo>*</mo>}}{\parallel }^2\right\}$ невозрастающая и ограничена и, по теореме Больцано-Вейерштрасса, существует сходящаяся подпоследовательность $\left\{x^{k_i}\mathrm{,}{u}^{k_i}\right\}\to \mathrm{<mi>\; </mi>}\text{}\text{}\mathrm{<mo\; stretchy="false">(</mo>}{x}^{\mathrm{<mo>*</mo>}}\mathrm{,}{u}^{\mathrm{<mo>*</mo>}}\mathrm{<mo\; stretchy="false">)</mo>}$, $k_i\to \infty$ и $\parallel x^{k_i}-x^{\mathrm{<mo>*</mo>}}\parallel +\parallel u^{k_i}-u^{\mathrm{<mo>*</mo>}}\parallel \to 0$, $k_i\to \infty$,

                                                 $\parallel x^{k_i}-x^{k_i-1}\parallel +\parallel u^{k_i}-u^{k_i-1}\parallel \to \mathrm{0,}{k}_i\to \infty \mathrm{.}$ (4.21)

 Тогда при $k\to \infty$ из второго и четвёртого уравнений (2.1) следуют равенства (2.5), (2.6), эквивалентные характеристике (1.3) седловой точки в терминах оператора проектирования; следовательно, $\mathrm{<mo\; stretchy="false">(</mo>}{x}^{\mathrm{<mo>*</mo>}}\mathrm{,}{u}^{\mathrm{<mo>*</mo>}}\mathrm{<mo\; stretchy="false">)</mo>}$ $—$ седловая точка функции $\phi \mathrm{<mo\; stretchy="false">(</mo>}x\mathrm{,}u\mathrm{<mo\; stretchy="false">)</mo>}$, то есть решение задачи (1.1).

Положим $x^{\mathrm{<mo>*</mo>}}\mathrm{<mo>=</mo>}{x}^c$, $u^{\mathrm{<mo>*</mo>}}\mathrm{<mo>=</mo>}{u}^c$, выберем $\forall \epsilon \mathrm{<mo>></mo>0}$ и числа $k_{i_0}\mathrm{<mo>=</mo>}r$ и $r\ge m-1$ так, чтобы выполнялись неравенства

                             $\begin{array}{c}\parallel x^{k_i}-x^{k_i-1}{\parallel }^2\le \epsilon \mathrm{<mo>/</mo><mo\; stretchy="false">(</mo>4}{a}_2-2\alpha \mathrm{<mo\; stretchy="false">)</mo>,}\parallel u^{k_i}-u^{k_i-1}{\parallel }^2\le \epsilon \mathrm{<mo>/</mo><mo\; stretchy="false">(</mo>4}{a}_3-2\alpha \mathrm{<mo\; stretchy="false">)</mo>,}\\ \parallel x^m-x^c{\parallel }^2\le \epsilon \mathrm{<mo>/</mo><mo\; stretchy="false">(</mo>4}+4\alpha \mathrm{<mo\; stretchy="false">)</mo>,}\parallel u^m-u^c{\parallel }^2\le \epsilon \mathrm{<mo>/</mo><mo\; stretchy="false">(</mo>4}+4\alpha \mathrm{<mo\; stretchy="false">)</mo>.}\end{array}$ (4.22)

 Просуммируем (4.17) от $k\mathrm{<mo>=</mo>}m$ до $k\mathrm{<mo>=</mo>}N$ при $x^{\mathrm{<mo>*</mo>}}\mathrm{<mo>=</mo>}{x}^c$, $u^{\mathrm{<mo>*</mo>}}\mathrm{<mo>=</mo>}{u}^c$, $N\mathrm{<mo>></mo>}r\ge m-1$:

                 $\parallel x^{N+1}-x^c{\parallel }^2+a_1\parallel x^{N+1}-x^N{\parallel }^2+\parallel u^{N+1}-u^c{\parallel }^2+a_3\parallel u^{N+1}-u^N{\parallel }^2+$

                                                       $+\alpha \mathrm{<mo\; stretchy="false">(</mo>}\parallel x^{m-1}-x^c{\parallel }^2+\parallel u^{m-1}-u^c{\parallel }^2\mathrm{<mo\; stretchy="false">)</mo>}+$

                                 $+{\displaystyle \sum _{k\mathrm{<mo>=</mo>}m}^{k\mathrm{<mo>=</mo>}N-1}}\left(\mathrm{<mo\; stretchy="false">(</mo>}{a}_1-a_2\mathrm{<mo\; stretchy="false">)</mo>}\parallel x^{k+1}-x^k{\parallel }^2+\mathrm{<mo\; stretchy="false">(</mo>}{a}_3-a_4\mathrm{<mo\; stretchy="false">)</mo>}\parallel u^{k+1}-u^k{\parallel }^2\right)\le$