Характеристическая функция случайной величины

Характеристи́ческая фу́нкция случа́йной величины́ — один из способов задания распределения. Характеристические функции могут быть удобнее в тех случаях, когда, например, плотность или функция распределения имеют очень сложный вид. Также характеристические функции являются удобным инструментом для изучения вопросов слабой сходимости (сходимости по распределению). В теорию характеристических функций внесли большой вклад Ю.В. Линник, И.В. Островский, К.Р. Рао, Б. Рамачандран.

Определение

Пусть есть случайная величина [math]\displaystyle{ X }[/math] с распределением [math]\displaystyle{ \mathbb{P}^X }[/math]. Тогда характеристическая функция задаётся формулой:

[math]\displaystyle{ \phi_X(t) = \mathbb{E} \left[e^{itX}\right] }[/math].

Пользуясь формулами для вычисления математического ожидания, определение характеристической функции можно переписать в виде:

[math]\displaystyle{ \phi_X(t) = \int\limits_{-\infty}^{\infty} e^{itx}\, \mathbb{P}^X(dx) }[/math],

то есть характеристическая функция — это обратное преобразование Фурье распределения случайной величины.

Если случайная величина [math]\displaystyle{ X }[/math] принимает значения в произвольном гильбертовом пространстве [math]\displaystyle{ \mathcal{H} }[/math], то её характеристическая функция имеет вид:

[math]\displaystyle{ \phi_{X}(t) = \mathbb{E}\left[e^{i \langle t, X \rangle }\right],\; \forall t \in \mathcal{H} }[/math],

где [math]\displaystyle{ \langle \cdot, \cdot \rangle }[/math] обозначает скалярное произведение в [math]\displaystyle{ \mathcal{H} }[/math].

Дискретные и абсолютно непрерывные случайные величины

Если случайная величина [math]\displaystyle{ X }[/math] дискретна, то есть [math]\displaystyle{ \mathbb{P}(X = x_k) = p_k,\; k=1,2,\ldots }[/math], то

[math]\displaystyle{ \phi_X(t) = \sum_{k=1}^{\infty} e^{itx_k}\, p_k }[/math].

Пример. Пусть [math]\displaystyle{ X }[/math] имеет распределение Бернулли. Тогда

[math]\displaystyle{ \phi_X(t) = e^{it \cdot 1} \cdot p + e^{it \cdot 0} \cdot q = p e^{it} + q }[/math].

Если случайная величина [math]\displaystyle{ X }[/math] абсолютно непрерывна, то есть она имеет плотность [math]\displaystyle{ f_X(x) }[/math], то

[math]\displaystyle{ \phi_X(t) = \int\limits_{-\infty}^{\infty} e^{itx}\, f_X(x)\, dx }[/math].

Пример. Пусть [math]\displaystyle{ X \sim U[0,1] }[/math] имеет стандартное непрерывное равномерное распределение. Тогда

[math]\displaystyle{ \phi_X(t) = \int\limits_{0}^{1} e^{itx} \cdot 1\, dx = \left.\frac{e^{itx}}{it}\right\vert_0^1 = \frac{e^{it}-1}{it} }[/math].

Свойства характеристических функций

• Характеристическая функция однозначно определяет распределение. Пусть [math]\displaystyle{ X,Y }[/math] есть две случайные величины, и [math]\displaystyle{ \phi_X(t) = \phi_Y(t),\; \forall t }[/math]. Тогда [math]\displaystyle{ \mathbb{P}^X = \mathbb{P}^Y }[/math]. В частности, если обе величины абсолютно непрерывны, то совпадение характеристических функций влечёт совпадение плотностей. Если обе случайные величины дискретны, то совпадение характеристических функций влечёт совпадение функций вероятности.
• Характеристическая функция всегда ограничена:

[math]\displaystyle{ |\phi_X(t)| \leq 1,\ \forall t \in \mathbb{R} }[/math].

• Характеристическая функция в нуле равна единице:

[math]\displaystyle{ \phi_X(0) \ = 1 }[/math].

• Характеристическая функция всегда равномерно непрерывна: [math]\displaystyle{ \phi_X \in C(\mathbb{R}) }[/math].
• Характеристическая функция как функция случайной величины однородна:

[math]\displaystyle{ \phi_{aX}(t) = \phi_X(at),\; \forall a \in \mathbb{R} }[/math].

• Характеристическая функция суммы независимых случайных величин равна произведению их характеристических функций. Пусть [math]\displaystyle{ X_1,\ldots, X_n }[/math] суть независимые случайные величины. Обозначим [math]\displaystyle{ S_n = \sum\limits_{i=1}^n X_i }[/math]. Тогда

[math]\displaystyle{ \phi_{S_n}(t) = \prod\limits_{i=1}^n \phi_{X_i}(t) }[/math].

• Характеристическая функция эрмитова: для всех вещественных [math]\displaystyle{ t }[/math] верно равенство [math]\displaystyle{ \phi_X(-t) = \overline \phi_X(t) }[/math], где [math]\displaystyle{ \overline \phi_X(t) }[/math] означает комплексно сопряжённую с [math]\displaystyle{ \phi_X(t) }[/math] функцию.
• Теорема обращения (Леви). Пусть [math]\displaystyle{ F }[/math] - функция распределения, а [math]\displaystyle{ \phi }[/math] - её характеристическая функция. Если [math]\displaystyle{ a }[/math] и [math]\displaystyle{ b }[/math] - точки непрерывности [math]\displaystyle{ F }[/math], то

[math]\displaystyle{ F(b) - F(a) = \frac{1} {2\pi} \lim_{T \to \infty} \int_{-T}^{+T} \frac{e^{-ita} - e^{-itb}} {it}\, \phi(t)\, dt. }[/math]

• Характеристическая функция положительно определена: при каждом целом [math]\displaystyle{ m \gt 0 }[/math] для любых вещественных чисел [math]\displaystyle{ u_1, u_2, ..., u_m }[/math] и любых комплексных чисел [math]\displaystyle{ z_1, z_2, ..., z_m }[/math] выполняется неравенство [math]\displaystyle{ \sum_{i,j = 1}^{m}\varphi(u_i-u_j)z_i\bar{z_j} \geqslant 0 }[/math]. Здесь [math]\displaystyle{ \bar{z_j} }[/math] означает комплексно сопряжённое к [math]\displaystyle{ z_j }[/math] число.

Вычисление моментов

Если случайная величина [math]\displaystyle{ X }[/math] имеет начальный [math]\displaystyle{ n }[/math]-й момент, то характеристическая функция имеет непрерывную [math]\displaystyle{ n }[/math]-ю производную, то есть [math]\displaystyle{ \phi_X \in C^n(\mathbb{R}) }[/math], и более того:

[math]\displaystyle{ i^n \left.\mathbb{E}\left[X^n\right] = \frac{d^n}{dt^n}\phi_X(t)\right\vert_{t=0} }[/math].

Обратное преобразование Фурье

Пусть дана случайная величина [math]\displaystyle{ X }[/math], чья характеристическая функция равна [math]\displaystyle{ \phi_X(t) \ }[/math]. Тогда

• если [math]\displaystyle{ X }[/math] дискретна и принимает целые значения, то

[math]\displaystyle{ \mathbb{P}(X = k) = \frac{1}{2\pi} \int\limits_{-\pi}^{\pi} e^{-itk}\, \phi_X(t)\, dt, \; k \in \mathbb{Z} }[/math];

• если [math]\displaystyle{ X }[/math] абсолютно непрерывна, и [math]\displaystyle{ f_X(x) }[/math] — её плотность, то

[math]\displaystyle{ f_X(x) = \frac{1}{2\pi} \int\limits_{-\infty}^{\infty} e^{-itx}\, \phi_X(t)\, dt,\; x \in \mathbb{R} }[/math].

Достаточные условия

Чтобы функция [math]\displaystyle{ \varphi(t) }[/math] была характеристической функцией какой-то случайной величины, достаточно, чтобы [math]\displaystyle{ \varphi(t) }[/math] была неотрицательной, чётной, непрерывной, выпуклой вниз функцией, [math]\displaystyle{ \varphi(0)=1 }[/math] и [math]\displaystyle{ \varphi(t) \rightarrow 0 }[/math] при [math]\displaystyle{ t \rightarrow \infty }[/math] (теорема Титчмарша — Пойи).

Необходимые и достаточные условия

Пусть [math]\displaystyle{ \varphi(u) }[/math] - непрерывная функция [math]\displaystyle{ u \in R^n }[/math] и [math]\displaystyle{ \varphi(0) = 1 }[/math]. Для того, чтобы функция [math]\displaystyle{ \varphi(u) }[/math] была характеристической, необходимо и достаточно, чтобы она была положительно определённой функцией, то есть при каждом целом [math]\displaystyle{ m \gt 0 }[/math] для любых вещественных чисел [math]\displaystyle{ u_1, u_2, ..., u_m }[/math] и любых комплексных чисел [math]\displaystyle{ z_1, z_2, ..., z_m }[/math] выполняется неравенство [math]\displaystyle{ \sum_{i,j = 1}^{m}\varphi(u_i-u_j)z_i\bar{z_j} \geqslant 0 }[/math] (Теорема Бохнера — Хинчина). Здесь [math]\displaystyle{ \bar{z_j} }[/math] означает комплексно сопряжённое к [math]\displaystyle{ z_j }[/math] число.

См. также

• Теорема Леви о непрерывности (метод характеристических функций).
• Прямая и обратная предельная теорема
• Теорема Титчмарша — Пойи
• Теорема Бохнера — Хинчина

Литература

• Линник Ю.В., Островский И.В. Разложения случайных величин и векторов, Наука, М., 1972.
• Лукач Е. Характеристические функции. - М., Наука, 1979. - 424 с.