Вихрь Мерсенна

Вихрь Мерсе́нна (англ. Mersenne twister, MT) — генератор псевдослучайных чисел (ГПСЧ), разработанный в 1997 году японскими учёными Макото Мацумото (яп. 松本 眞) и Такудзи Нисимура (яп. 西村 拓士). Вихрь Мерсенна основывается на свойствах простых чисел Мерсенна (отсюда название) и обеспечивает быструю генерацию высококачественных по критерию случайности псевдослучайных чисел.

Вихрь Мерсенна лишён многих недостатков, присущих другим ГПСЧ, таких как малый период, предсказуемость, легко выявляемые статистические закономерности.

Тем не менее, этот генератор не является криптостойким, что ограничивает его использование в криптографии.

Существуют по меньшей мере два общих варианта алгоритма, различающихся только величиной используемого простого числа Мерсенна, наиболее распространённым из которых является алгоритм MT19937, период которого составляет 2¹⁹⁹³⁷ − 1 (приблизительно 4,3•10⁶⁰⁰¹).

Свойства

Вихрь Мерсенна является витковым регистром сдвига с обобщённой отдачей (TGFSR) (англ. twisted generalised feedback shift register). «Вихрь» — это преобразование, которое обеспечивает равномерное распределение генерируемых псевдослучайных чисел в 623 измерениях (для линейных конгруэнтных генераторов оно ограничено 5 измерениями). Поэтому функция корреляции между двумя последовательностями выборок в выходной последовательности вихря Мерсенна пренебрежимо мала.

Псевдослучайная последовательность, порождаемая вихрем Мерсенна, имеет очень большой период, равный числу Мерсенна, что более чем достаточно для многих практических приложений.

Существуют эффективные реализации Вихря Мерсенна, превосходящие по скорости многие стандартные ГПСЧ (в частности, в 2—3 раза быстрее линейных конгруэнтных генераторов). Алгоритм вихря Мерсенна реализован в программной библиотеке Boost, Glib и стандартных библиотеках для C++, Python, Ruby, R, PHP, MATLAB, Autoit.

Выдаваемые вихрем Мерсенна последовательности псевдослучайных чисел успешно проходят статистические тесты DIEHARD, что подтверждает их хорошие статистические свойства.

Генератор не предназначен для получения криптографически стойких случайных последовательностей чисел. Для обеспечения криптостойкости выходную последовательность генератора необходимо подвергнуть обработке одним из криптографических алгоритмов хеширования.

К-распределение

Было предложено много генераторов возможно «высокого качества», но только немногие могут быть использованы для серьёзного моделирования из-за отсутствия чёткого понятия «хаотичности» для генераторов псевдослучайных чисел, так как каждый исследователь концентрируется на конкретных параметрах хаотичности. Среди многих известных мер, тесты, основанные на более высоком равномерном распределении, таких как спектральный тест и тест на к-распределении, описанный ниже, считается сильнейшим.

Определение

Говорят, что псевдослучайная последовательность x_i периода P, состоящая из w-битных целых, имеет k-распределение с v-битной точностью, если она удовлетворяет следующему условию:
Пусть trunc_v(x) — число, образованное первыми v битами последовательности x_i, рассмотрим P векторов вида [math]\displaystyle{ (\text{trunc}_v(x_i), \, \text{trunc}_v(x_{i+1}), \, ..., \, \text{trunc}_v(x_{i+k-1})) \quad (0\leq i\lt P) }[/math], длиной kv бит.
Тогда каждая из 2^kv возможных комбинаций битов встречается равное число раз, за исключением комбинации, состоящей полностью из нулей, которая встречается на один раз меньше.

Геометрическая интерпретация

Для каждого v = 1, 2,., w, пусть k(v) — максимальное число, такое, что последовательность является к-распределенной с v-битной точностью. Разделим каждое целое x_i на 2^w для нормализации в псевдослучайное вещественное число x_i из интервала [0, 1]. Поместим P точек в k- мерный куб с координатами (x_i, x_i+1…, x_i+k-1)(i = 0, 1,…, P-1) для всего периода. Каждая из осей данного k-мерного куба разделена на 2^v интервалов. Таким образом, мы разделили куб на 2^kv малых куба. Последовательность является к-распределённой с v-битной точностью, если каждый малый куб содержит равное число точек, кроме куба в начале координат, который содержит на одну точку меньше. Следовательно, чем выше k(v) для каждого v, тем более многомерным будет распределение с v-битной точностью. Под тестом на k-распределение мы будем понимать получение значений k(v).

Описание

x будем обозначать w-мерные векторы над полем [math]\displaystyle{ F_{2} }[/math] = {0,1}, соответствующие машинным словам размера w. Вихрь Мерсенна генерирует последовательность векторов, которые являются псевдослучайными целыми из диапазона от 0 до 2^w — 1. Путём деления на 2^w — 1 можно также получить псевдослучайное вещественное число из диапазона [0,1].

Алгоритм основан на следующей рекуррентной формуле:

[math]\displaystyle{ x_{k+n} := x_{k+m} \oplus ({x_k}^u \mid {x_{k+1}}^l) A, \qquad k=0,1,\ldots \qquad(1) }[/math]

где:

• n - целое, которое обозначает порядок рекуррентности,
• m - целое, 1 ≤ m < n,
• A - матрица размера w×w, с элементами из [math]\displaystyle{ F_{2} }[/math],
• [math]\displaystyle{ \mid }[/math] — побитовое ИЛИ (OR),
• [math]\displaystyle{ \oplus }[/math] — сложение по модулю два (XOR).

В правой части x_k^u обозначает «старшие w-r бит» x_k и x_k+1^l «младшие r бит» x_k+1. Вектор (x_k^u | x_k+1^l) является конкатенацией старших w-r бит x_k и младших r бит x_k+1. Возьмём (x₀, x₁,…, x_n-1) в качестве начального заполнения. Тогда генератор вычислит x_n по рекуррентному выражению при k= 0. Полагая k = 1,2, …, генератор вычислит x_n+1, x_n+2,… Форма матрицы A выбрана из расчета скорости выполнения умножения на A:

[math]\displaystyle{ A = \begin{pmatrix} 0 & 1 & & & & \\ 0 & 0 & 1 & & & \\ 0 & \cdots & \cdots & \ddots & & \\ & & & & \ddots & \\ & & & & & 1\\ a_{w-1} & a_{w-2} & \cdots & \cdots & \cdots & a_{0} \end{pmatrix} }[/math]

И вычисление xA сводится к побитовым операциям:

[math]\displaystyle{ \boldsymbol{x}A = \begin{cases}\boldsymbol{x} \gg 1 & x_0 = 0\\(\boldsymbol{x} \gg 1) \oplus \boldsymbol{a} & x_0 = 1\end{cases} }[/math]

где

[math]\displaystyle{ \boldsymbol{x} := ({x_k}^u \mid {x_{k+1}}^l) \qquad \qquad k=0,1,\ldots }[/math]

[math]\displaystyle{ \boldsymbol{a} := ({a_{w-1}}, {a_{w-2}},\ldots ,{a_{0}}) }[/math]

[math]\displaystyle{ \boldsymbol{x} := ({x_{w-1}}, {x_{w-2}},\ldots ,{x_{0}}) }[/math]

Неполные массивы

Неполные массивы

Последовательность МТ (x_k+n, x_k+n-1,…, x_k+1^u) образует (n × w — r)-массив. Так как r битов отбрасываются, массив называется неполным массивом. Каждый элемент получен из рекуррентного соотношения (1). Смена состояния MT также происходит по линейному соотношению и определяется с помощью линейного преобразования B.

В соответствии с общей теорией линейных рекуррентных последовательностей, каждое значение в (n × w − r)-массиве есть линейная рекуррентная последовательность, соответствующая характеристическому многочлену φ_B(t) преобразования B. Матрица B имеет размеры (n × w − r) × (n × w − r) и следующую форму:

[math]\displaystyle{ B = \begin{pmatrix} 0 & I_{w} & \cdots & 0 & 0 \\ \vdots & & & & \\ I_{w} & \vdots & \ddots & \vdots & \vdots \\ \vdots & & & & \\ 0 & 0 & \cdots & I_{w} & 0 \\ 0 & 0 & \cdots & 0 & I_{w - r} \\ S & 0 & \cdots & 0 & 0 \end{pmatrix} \begin{matrix} \\ \\ \leftarrow m\hbox{-th row} \\ \\ \\ \\ \end{matrix} }[/math]

[math]\displaystyle{ S = \begin{pmatrix} 0 & I_{r} \\ I_{w - r} & 0 \end{pmatrix} A }[/math]

Где [math]\displaystyle{ I_{r} }[/math] — единичная матрица размера r × r.

Для [math]\displaystyle{ l=0,1,\ldots }[/math] выполняется [math]\displaystyle{ (x_{l+n},x_{l+n-1},\ldots,x_{l+1}) := (x_{l+n-1},x_{l+n-2},\ldots,x_{l}) B }[/math].
Характеристический многочлен φ_B(t) преобразования B имеет вид:

[math]\displaystyle{ \Phi_B(t) = (t^n + t^m)^{w-r} \cdot (t^{n-1} + t^{m-1})^r + a_0(t^n + t^m)^{w-r} \cdot (t^{n-1} + t^{m-1})^{r-1} + ... + a_{r-2}(t^n + t^m)^{w-r} \cdot (t^{n-1} + t^{m-1}) + a_{r-1}(t^n + t^m)^{w-r} + a_r(t^n + t^m)^{w-r-1} + ... + a_{w-2}(t^n + t^m) + a_{w-1} }[/math]

Последовательность достигает максимального периода 2^(nw-r)−1, тогда и только тогда когда φ_B(t) -примитивный.

Закалка

Необработанные последовательности, генерируемые рекурсией (1), обладают плохим равномерным распределением на больших размерностях. Чтобы это исправить, используется метод закалки (англ. tempering), на выходе которого получается итоговая псевдослучайная последовательность. Метод заключается в том, что каждое сгенерированное слово умножается справа на специальную обратимую матрицу T размера w × w. Для матрицы T: x → z = x T, выбраны следующие последовательные преобразования:

y := x ⊕ (x >> u)

y := :y ⊕ ((y << s) & b)

y := :y ⊕ ((y << t) & c)

z := y ⊕ (y >> l)

где l, s, t и u — целые, а b и c — специально подобранные битовые маски размера слова, и (x≫u) обозначает побитовую операцию сдвига вправо на u бит.

Алгоритм

Вихрь Мерсенна алгоритмически реализуется двумя основными частями: рекурсивной и закалки. Рекурсивная часть представляет собой регистр сдвига с линейной обратной связью, в котором все биты в его слове определяются рекурсивно; поток выходных битов определяются также рекурсивно функцией битов состояния.

Блок-схема.

Регистр сдвига состоит из 624 элементов, и, в общей сложности, из 19937 клеток. Каждый элемент имеет длину 32 бита за исключением первого элемента, который имеет только 1 бит за счет отбрасывания бита.

Процесс генерации начинается с логического умножения на битовую маску, отбрасывающей 31 бита (кроме наиболее значащих).

Следующим шагом выполняется инициализация (x₀, x₁,…, x₆₂₃) любыми беззнаковыми 32-разрядными целыми числами. Следующие шаги включают в себя объединение и переходные состояния.

Смена состояния МТ.

Пространство состояний имеет 19937 бит (624·32 — 31). Следующее состояние генерируется сдвигом одного слова вертикально вверх и вставкой нового слова в конец. Новое слово вычисляется гаммированием средней части с исключённой. Выходная последовательность начинается с x₆₂₄, x₆₂₅,…

Алгоритм производится в шесть этапов:

 Шаг 0. Предварительно инициализируется значение констант u1, h1, a
  u1 ← 10…0   битовая маска старших w-r бит,
  h1 ← 01…1   битовая маска младших r бит,
  a ← aw-1aw-2…a0  последняя          строка матрицы A.

 Шаг 1. x[0], x[1],…,x[n-1] ←  начальное    заполнение

 Шаг 2. Вычисление (xiu | xi+1l)
  y ← (x[i] AND u1) OR (x[(i + 1) mod n] AND h1)

 Шаг 3. Вычисляется значение следующего элемента последовательности по 
 рекуррентному выражению (1)
  x[i] ← x[(i + m) mod n] XOR (y>>1) XOR a    если младший бит y = 1

  Или
  x[i] ← x[(i + m) mod n] XOR (y>>1) XOR 0   если  младший бит y = 0
 Шаг 4. Вычисление x[i]T
  y ← x[i]
  y ← y XOR (y>>u)
  y ← y XOR ((y<<s) AND b)
  y ← y XOR ((y<<t) AND c)
  z ← y XOR (y>>l)
  вывод z
 Шаг 5. i ← (i + 1) mod n 

 Шаг 6. Перейти к шагу 2.

Параметры 32-битного генератора MT

Параметры MT были тщательно подобраны для достижения упомянутых выше свойств. Параметры n и r выбраны так, что характеристический многочлен примитивный или nw — r равна числу Мерсенна 19937. Обратите внимание, что значение w эквивалентно размеру слова компьютера. В этом случае это 32 бита. В то время как значения n, m, r и w фиксируются, значение последней строки матрицы A выбирается случайным образом. Для чисел Мерсенна тест на простоту целых намного проще. Так, известно много простых чисел Мерсенна (то есть простых вида 2^p−1), до p=43112609 [1] . Параметры закалки (англ. tempering ) подобраны так, что мы можем получить хорошее равномерное распределение. Все параметры МТ приведены в таблице 1.

Таблица 1

n	624
w	32
r	31
m	397
a	9908B0DF16
u	11
s	7
t	15
l	18
b	9D2C568016
c	EFC6000016

Другие варианты реализации

В связи с изменениями в технологии, в частности, ростом производительности процессоров, были изобретены 64-битные и 128-битные версии МТ. 64-разрядная версия была предложена Такудзи Нисимурой в 2000 году, 128-разрядная − в 2006 году тоже Такудзи Нисимурой. Обе версии имеют тот же период, что и оригинальный MT.

64-битный MT имеет две версии. Первая версия использует то же рекурсивное соотношение, во вторую версию были добавлены ещё два вектора, что увеличило количество членов характеристического многочлена:

[math]\displaystyle{ x_{k+n} := x_{k+m2} \oplus x_{k+m1} \oplus x_{k+m0} \oplus ({x_k}^u \mid {x_{k+1}}^l) A \qquad(2) }[/math]

По сравнению с 32-разрядной MT, 64-разрядная версия работает быстрее. Все параметры для 64-битной версии приведены в таблице 2.

Таблица 2

ID	Для рекурсивного соотношения (1)		Для рекурсивного соотношения (2)
n	312	312	312	312	312
w	64	64	64	64	64
r	31	31	31	31	31
m	156	156
m0			63	63	63
m1			151	151	151
m2			224	224	224
a	B5026F5AA96619E916	F6A3F020F058B7A716	B3815B624FC82E2F16	8EBD4AD46CB39A1E16	CACB98F78EBCD4ED16
b	D66B5EF5B4DA000016	28AAF6CDBDB4000016	599CFCBFCA66000016	656BEDFFD9A4000016	A51DBEFFDA6C000016
c	FDED6BE00000000016	FDEDEAE00000000016	FFFAAFFE0000000016	FDFECE7E0000000016	FFEE9BF60000000016
u	29	29	26	26	26
s	17	17	17	17	17
t	37	37	33	33	33
l	41	41	39	39	39

Литература

• M. Matsumoto, T. Nishimura. Mersenne twister: A 623-dimensionally equidistributed uniform pseudorandom number generator (англ.) // ACM Trans. on Modeling and Computer Simulations : journal. — 1998. — Vol. 8, no. 1. — P. 3—30. — doi:10.1145/272991.272995.
• Matsumoto, M.; Kurita, Y. Twisted GFSR generators (неопр.) // ACM Trans. on Modeling and Computer Simulations. — 1992. — Т. 2, № 3. — С. 179—194. — doi:10.1145/146382.146383.
• Matsumoto, Makoto; Nishimura, Takuji; Hagita, Mariko; Saito, Mutsuo. Cryptographic Mersenne Twister and Fubuki Stream/Block Cipher (англ.) : journal. — 2005.
• T. Nishimura. Tables of 64-bit Mersenne twisters (неопр.) // ACM Trans. on Modeling and Computer Simulations. — 2000. — Т. 10, № 4. — С. 248—357. — doi:10.1145/369534.369540.
• Matsumoto M., Saito M., Nishimura T., Hagita M. CryptMT Stream Cipher Ver. 3.The eSTREAM Project (неопр.).

Ссылки

• Makoto Matsumoto, Academic publications on MT (англ.)
• Mersenne Twister home page, with C code (англ.)
• Cuba — a library for multidimensional numerical integration
• The Mersenne Twister (англ.)