Винеровское оценивание

Винеровское оценивание — задача нахождения импульсной характеристики линейной стационарной системы, дающей на выходе оптимальную в смысле минимума математического ожидания средней квадратической ошибки оценку значений полезного сигнала, поступающего на вход в аддитивной смеси с шумом.

Условия

Требуется найти импульсную характеристику [math]\displaystyle{ w(t) }[/math] линейной стационарной системы, на вход которой поступает аддитивная смесь [math]\displaystyle{ f(t) }[/math] полезного сигнала [math]\displaystyle{ y(t) }[/math] с шумом [math]\displaystyle{ e(t) }[/math]: [math]\displaystyle{ f(t) = y(t) + e(t) }[/math], а на выходе должна получаться оценка значения полезного сигнала [math]\displaystyle{ d(t) = \int_{-\infty}^{+\infty}w(\tau)f(t-\tau)d\tau }[/math], которая минимизирует математическое ожидание средней квадратической ошибки между оценкой и реальным значением полезного сигнала [math]\displaystyle{ \epsilon^{2} (t)=m_{1} \left \{ (y(t) - d(t))^{2} \right \} }[/math].

Предполагается, что условия применения, характер сигналов и помех остаются достаточно стабильными, их статистические характеристики меняются мало. Если же условия переменны и помехи в процессе работы систем изменяются существенно, то возникает необходимость автоматической оптимизации параметров систем. Это осуществляется в различного рода экстремальных, адаптивных, обучаемых системах.

Решение задачи

Ошибка системы равна разности между оценкой [math]\displaystyle{ d(t) }[/math] и реальным значением [math]\displaystyle{ y(t) }[/math] полезного сигнала [math]\displaystyle{ e(t)=d(t)-y(t) }[/math]. Минимальная среднеквадратическая ошибка по определению равна:

[math]\displaystyle{ \eta=\overline{e^{2}}=\overline{d^{2}}-2\,\overline{d\,y}+\overline{y^{2}} }[/math] =

[math]\displaystyle{ \overline{d^{2}}-2\int_{-\infty}^{+\infty} w(\tau)\overline{f(t-\tau)d(t)} \, \mathrm{d}\tau + \int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}w(\xi)w(\mu)\overline{f(t-\xi)f(t-\mu)}\, \mathrm{d}\xi\, \mathrm{d}\mu }[/math] =

[math]\displaystyle{ \overline{d^{2}}-2\int_{-\infty}^{+\infty} w(\tau)\rho_{fd}(\tau) \mathrm{d}\tau+\int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}w(\xi)w(\mu)\rho_{ff}(\xi-\mu) \,\mathrm{d}\xi \,\mathrm{d} \mu }[/math].

Здесь используются обозначения для корреляционных функций:

[math]\displaystyle{ \rho_{fd}(\tau)=\overline{f(t)\,d(t+\tau)} }[/math]

[math]\displaystyle{ \rho_{ff}(\tau)=\overline{f(t)\,f(t+\tau)} }[/math].

Черта над формулой означает осреднение по времени. Будем считать, что оптимальная импульсная характеристика системы существует и равна [math]\displaystyle{ w_\text{opt} }[/math].

Тогда любая отличающаяся от неё импульсная характеристика системы может быть представлена в виде

[math]\displaystyle{ w(t) = w_\text{opt}(t)+\alpha\,\theta(t) }[/math],

где [math]\displaystyle{ \theta(t) }[/math] — произвольная функция времени, [math]\displaystyle{ \alpha }[/math] — варьируемый коэффициент.

Минимум среднеквадратической ошибки отклонения достигается при [math]\displaystyle{ \alpha=0 }[/math]. Для поиска [math]\displaystyle{ w_\text{opt}(t) }[/math] нужно найти производную показателя качества [math]\displaystyle{ \eta }[/math] по коэффициенту вариации [math]\displaystyle{ \alpha }[/math] и приравнять её нулю при [math]\displaystyle{ \alpha=0 }[/math]:

[math]\displaystyle{ \frac{\partial\eta}{\partial\alpha}|_{\alpha=0} }[/math] =

[math]\displaystyle{ -2\int_{-\infty}^{+\infty}\theta(\tau)\,\rho_{fd}(\tau)\, \mathrm{d}\tau+\int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty} \left[w_\text{opt}(\xi)\,\theta(\mu) + w_\text{opt}(\mu)\,\theta(\xi)\right] \,\rho_{ff}(\xi-\mu) \,\mathrm{d}\xi \,\mathrm{d}\mu }[/math] =

[math]\displaystyle{ -2\int_{-\infty}^{+\infty}\theta(\xi)\rho_{fd}(\xi)\,\mathrm{d}\xi + 2 \int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}\theta(\xi)\, w_\text{opt}(\mu)\,\rho_{ff}(\xi-\mu)\,\mathrm{d}\xi\, \mathrm{d} \mu }[/math] =

[math]\displaystyle{ 2\int_{-\infty}^{+\infty} \theta(\xi)\, \left[\int_{-\infty}^{+\infty}w_\text{opt}(\mu)\rho_{ff}(\xi-\mu)\mathrm{d}\mu- \rho_{fd}(\xi) \right]\, \mathrm{d}\xi = 0 }[/math]

Поскольку [math]\displaystyle{ \theta(\xi) }[/math] — произвольная функция, последнее равенство выполняется тогда и только тогда, когда:

[math]\displaystyle{ \int_{-\infty}^{+\infty} w_\text{opt}(\mu)\, \rho_{ff}(\xi-\mu)\, \mathrm{d}\mu-\rho_{fd}(\xi)=0 }[/math].

Это и есть уравнение Винера-Хопфа, определяющее оптимальную импульсную характеристику системы по критерию минимальной среднеквадратической ошибки. Для решения применим преобразование Лапласа к полученному уравнению. Известно, что преобразование Лапласа от свертки равно произведению преобразований Лапласа, тогда:

[math]\displaystyle{ w_\text{opt}(p)S_{ff}(p)-S_{fd}(p)=0 }[/math],

где [math]\displaystyle{ w_\text{opt}(p)=L{w_\text{opt}(t)} }[/math]; [math]\displaystyle{ S_{ff}(p)=L{\rho_{ff}(t)} }[/math]; [math]\displaystyle{ S_{fd}(p)=L{\rho_{fd}(t)} }[/math].

Таким образом определяем оптимальный винеровский фильтр 1-го рода:

[math]\displaystyle{ W_\text{opt I}= \frac{S_{fd}(p)}{S_{ff}(p)} }[/math].

Когда порядок полинома в числителе оказывается выше порядка полинома в знаменателе, винеровский фильтр 1-го рода физически нереализуем. Для решения задачи, после определения импульсной характеристики её принудительно приравнивают нулю при отрицательных значениях [math]\displaystyle{ t }[/math] (именно отличие [math]\displaystyle{ w(t) }[/math] от нуля при [math]\displaystyle{ t\lt 0 }[/math] характеризует физическую нереализуемость системы) и таким образом получают физически реализуемый винеровский фильтр 2-го рода.

История

Во время Второй мировой войны перед американским математиком Н. Винером встала задача отделения полезного сигнала от шума при решении задач автоматизации систем противовоздушной обороны, использующих радиолокационную технику. В 1942 г. Н. Винер теоретически решил эту задачу, допустив, что искомая система должна быть линейной с постоянными параметрами, время наблюдения бесконечно, входной и выходной сигналы системы являются стационарными и стационарно связанными случайными процессами, и система минимизирует среднюю квадратическую ошибку между полезным входным и выходным сигналами. Были созданы и опробованы экспериментальные аналоговые устройства, использующие этот метод, но по ряду причин применить их в реальных системах ПВО не удалось.

См. также

• Уравнение Винера — Хопфа

Литература

• Норберт Винер «Я-математик», М., «Наука», 1964, гл 12 «Годы войны. 1940—1945», с. 213—265;
• Хургин Я. И. «Да, нет или может быть…», 2-е изд., М., «Наука», 1983, 208 с., илл., 32.81 Х98 УДК 62-50 ББК 32.81 6Ф0.1, тир. 100000 экз., гл. «Искусство надежды», с. 138—148;
• Л. А. Вайнштейн, В. Д. Зубаков «Выделение сигналов на фоне случайных помех», М., «Советское радио», 1960, 447 с., гл. 1 «Основные понятия теории фильтрации случайных процессов», с. 7-54;
• Дж. Бендат «Основы теории случайных шумов и её применения», М., «Наука», 1965, 464 стр. с илл., гл. 4 «Оптимальное линейное упреждение и фильтрация», с. 165—215;
• Левин Б. Р. «Теоретические основы статистической радиотехники. Книга вторая», М., «Советское радио», 1968, 502 стр. с илл., гл. 4 «Фильтрация случайных процессов», с. 278—319;