Применение негладких функционалов для решения задач оценивания

1. Применение негладких функционаловдля решения задач оценивания П.А. Акимов, А.И. Матасов Лаборатория управления и навигации, механико-математический факультет МГУ им. М.В. Ломоносова

2. Дискретная динамическая система Уравнения динамики в дискретном времени Измерения Информация о начальном состоянии Характеристики точностей Матрицы весовых коэффициентов (диагональные)

3. Проблема со смешанными нормами Вариационная задача аппроксимации (задача сглаживания) при ограничениях (1) Постановка задачи соответствует ситуации, когда возможны аномально большие значения погрешностей Специфика задачи: • наличие слагаемых двух типов: модули и квадраты невязок • большое количество неизвестных – • большое количество ограничений – Специфика решения: • варьирование весов • рекуррентный алгоритм Специфика решения: • варьирование весов • рекуррентный алгоритм Специфика решения: • варьирование весов • рекуррентный алгоритм

4. Вероятностная интерпретация Погрешности в измерениях и динамике – независимые случайные величины с нулевым математическим ожиданием и заданной дисперсией: распределены по закону Гаусса со средним квадр. отклонением распределены по закону Лапласа со средним квадр. отклонением Метод максимума апостериорной плотности приводит к задаче типа (1) с точностью до подстановки

5. Алгоритм весовых и временных рекурсий (I) Два «вложенных» итерационных процесса «Весовая» рекурсия: последовательность квадратических задач при ограничениях Основная идея – аппроксимация модулей невязок в функционале решение на предыдущей итерации

6. Алгоритм весовых и временных рекурсий (II) При малых невязках - регуляризация параметр, характеристика малости невязок Весовые матрицы Последовательность шагов при ограничениях приближения решения исходной проблемы Замечание. Более распространенный способ аппроксимации модулей в отличие от представленного здесь подхода, плохо приближает производную целевой функции

7. Алгоритм весовых и временных рекурсий (III) «Временная» рекурсия: решение квадратических задач сглаживания. Формулы Брайсона-Фрейзера из формул фильтра Калмана из рекуррентных формул в «обратном» времени

8. Алгоритм весовых и временных рекурсий (IV) Структура алгоритма Шаг вычисление весовых матриц - построение функции Формулы Брайсона-Фрейзера … … … … Критерий остановки Нет Шаг Да Приближенное решение найдено

9. Уровни неоптимальности Уровень неоптимальности текущей итерации минимальное значение целевого функционала Оценка уровня неоптимальности Критерий остановки алгоритма Теорема. Пусть на текущей итерации получено решение Тогда оценка уровня неоптимальности имеет вид

10. Идея доказательства теоремы (I) Проблема, двойственная к задаче со смешанными нормами, имеет вид при ограничениях (3) (2) Проблема, двойственная к задаче аппроксимации, имеет вид (4) при ограничениях (2)

11. Идея доказательства теоремы (II) Решение проблемы (4) - Соотношения двойственности Оценка снизу при ограничении (3):

12. Идея доказательства теоремы (III)

13. Численный пример Дискретная динамическая система Измерения и априорная информация Весовые матрицы K=3600. Неизвестных параметров 14389 Компонент векторов невязокв функционале10800 Скачок в компоненте

14. Результаты оценивания Методы численного решения аппроксимация, метод весовых и временных рекурсий, решение найдено за 943 с аппроксимация, метод весовых и временных рекурсий, решение найдено за 80 с аппроксимация, рекуррентный алгоритм сглаживания, R увеличен в 10 раз, решение найдено за 0.6 с аппроксимация, рекуррентный алгоритм сглаживания, R увеличен в 50 раз, решение найдено за 0.6 с

15. Уровни неоптимальности Параметры метода весовых и временных рекурсий Существенная экономия вычислительных ресурсов при использовании проблемы со смешанными нормами

16. Два способа перехода к аппроксимирующим задачам Классический способ аппроксимации (метод Вейсфельда) Улучшенный способ аппроксимации Разные решения двойственной задачи (4) На «поздних» итерациях, вблизи оптимального решения исходной задачи точнее удовлетворяет условию Точнее оценивается уровень неоптимальности

17. Численное сравнение двух способов перехода к аппроксимирующим задачам Некорректная оценка уровня неоптимальности, однако различие в решениях незначительно.

18. Заключение 1. Предложен метод весовых и временных рекурсий для проблемы аппроксимации со смешанными номами в динамических задачах оценивания. Он является обобщением алгоритма Вейсфельда на случай динамических систем и существенно использует: - переход к вспомогательным квадратическим задачам; - рекуррентные соотношения между оценками векторов состояния в проблемах сглаживания. 2. При помощи теории двойственности выпуклых вариационных задач построены оценки уровней неоптимальности, которые учитывают динамический характер рассматриваемых систем и «смешанный» характер функционалов. 3. Численные эксперименты показали возможность эффективного решения динамических проблем аппроксимации большой размерности (с несколькими десятками тысяч переменных).

19. Литература [1] Мудров В.И., Кушко В.Л.Методы обработки измерений: квазиправдоподобные оценки. – М.: Радио и связь, 1983. [2] Bloomfield P., Steiger W.L.Least Absolute Deviations: Theory, Applications, and Algorithms. – Boston-Basel-Stuttgart: Birkhauser, 1983. [3] Алексеев В.М., Тихомиров В.М., Фомин С.В.Оптимальное управление. – М.: Физматлит, 2005. [4] T. Kailath, A. H. Sayed, and B. Hassibi.Linear Estimation. New Jersey: Prentice Hall, 2000. [5] АкимовП.А., Деревянкин А.В., Матасов А.И..Гарантирующий подход и аппроксимация в задачах оценивания параметров БИНС при стендовых испытаниях.- М.: Изд-воМГУ, 2012. [6] P. A. Akimov and A. I. Matasov. Recursive estimation algorithm for norm approximation in dynamic systems with nonoptimality levels. Proc. European Control Conference, 2013. [6] B. Wahlberg, S. Boyd, M. Annergren and Y. Wang.An ADMMalgorithm for a class of total variation regularized estimationproblems. Proc. 16th IFAC Symposium on SystemIdentification,2012 [7] M.A.T. Figueiredo. Lecture Notes on the EM Algorithm. Lisboa Instituto Superior Archive, 2008