1. Введение

Классический метод характеристик является эффективным методом построения гладкого решения уравнения в частных производных первого порядка [1-3]. Вдоль характеристик распространяются возмущения граничных значений решения. Подобную роль характеристики выполняют и для некоторых уравнений второго порядка [1-2]. Характеристическая система обыкновенных дифференциальных уравнений определяет касательное поле на поверхности коразмерности один, задаваемой самим дифференциальным уравнением первого порядка [4]. Современная теория обобщенных вязких решений рассматривает класс непрерывных негладких
функций, для которых классический метод характеристик неприменим [5-8]. Обобщение характеристик с помощью дифференциальных включений использовалось в [6] для определения минимаксных решений уравнений первого порядка. В [9] отмечалось, что сингулярные траектории в теории дифференциальных игр представляют собой некоторый специальный (обобщенный) тип характеристик для соответствующего уравнения Беллмана-Айзекса. Подобная теория сингулярных характеристик разработана в [10, 11]. С помощью сингулярных характеристик можно строить некоторые поверхности, на которых решение и/или гамильтониан (левая часть уравнения) негладки. Для особых гиперповерхностей система сингулярных характеристик определяет касательное поле на подмногообразии коразмерности 3 в пространстве $(x,u,p)$, где переменная $u$ соответствует искомой скалярной функции $u(x)$, а $p$ соответствует ее градиенту. Упомянутое подмногообразие может определяться, в частности, одной из гладких ветвей искомого решения, так что сингулярные характеристики могут зависеть от решения. Задачи построения поверхностей с помощью характеристического поля на подмногообразии коразмерности 3, 5, 7, ..., возникают и в других областях теории уравнений в частных производных, не связанных обязательно с уравнением первого порядка. В данной работе предлагается одно из применений метода сингулярных характеристик для построения особой поверхности решения вариационной задачи в области (в терминах кратного интеграла). При этом подмногообразие коразмерности 3 определяется с помощью обобщенных условий Вейерштрас-
са-Эрдмана [12].