Необходимое и достаточное условие существования экстремума функций нескольких переменных

безусловный оптимизация лагранж экстремум

Рассмотрим функцию  n действительных переменных. Введем матричные обозначения для точки в n-мерном пространстве, градиента (вектора частных производных первого порядка функции f) и гессиана (матрицы частных производных второго порядка):

 - точка в n-мерном пространстве,

 - градиент,

 - гессиан (матрица Гессе).

 - элемент G(X) - частная производная второго порядка. G(X) - симметрическая матрица [2].

Определение 3. Функция  имеет локальный минимум в точке , если существует окрестность точки , такая, что  во всех точках этой окрестности, то есть существует такая d>0, что для всех  справедливо  [1].

Определение 4. Если  для всех X из области определения функции f, то  - точка глобального минимума[1].

Предполагая непрерывность  и всех ее частных производных, можно обобщить классический подход на случай n³2.

Запишем разложение функции в ряд Тейлора:

 .

Тогда, если  - точка минимума функции , то каждая первая частная производная ,  должна обращаться в ноль в точке , иначе соответствующим выбором H можно будет добиться того, что разность , будет отрицательна [2].

Необходимое условие существования минимума в точке :

Если функция  дифференцируема в точке , то она может иметь в этой точке внутренний максимум или минимум лишь в том случае, когда ее первый дифференциал обращается в этой точке в нуль:

.

Тогда знак разности , определяется членом , который положителен для всех H, если матрица G( ) положительно определена, и отрицателен при отрицательно определенном гессиане [3].

Достаточное условие:

Если функция  имеет в точке  непрерывные вторые частные производные и если в этой точке выполняются необходимые условия, то в случае:

если  - положительно определена, то  - минимум;

если  - отрицательно определена,  -максимум.

Таким образом, для решения задачи оптимизации классическим методом необходимо решить систему уравнений , что невозможно сделать аналитически за исключением очень узкого класса таких систем (например, система линейных уравнений невысокого порядка). Затем придется еще устанавливать определенность гессиана, что тоже является совсем нетривиальной задачей в случае больших размерностей. Все это приводит к необходимости разрабатывать итерационные процедуры решения задач оптимизации[2].

Условная оптимизация

Задача условной оптимизации заключается в поиске минимального или максимального значения скалярной функции f(x) n-мерного векторного аргументах при заданных ограничениях[5].