Перейти к содержанию

GPT-4

Эта статья находится на начальном уровне проработки, в одной из её версий выборочно используется текст из источника, распространяемого под свободной лицензией
Материал из энциклопедии Руниверсалис
Generative Pre-trained Transformer 4 (GPT-4)
Тип Большая языковая модель и artificial intelligence model
Разработчик OpenAI
Разработчики OpenAI
Написана на Python
Языки интерфейса многоязычный, в том числе русский
Первый выпуск 14 марта 2023 года
Последняя версия (14 марта 2023)
Состояние активное
Лицензия Проприетарная
Ссылки
Сайт openai.com/product/gpt-4

GPT-4 (Generative Pre-trained Transformer 4) — мультимодальная[англ.] большая языковая модель, созданная OpenAI, четвёртая в серии GPT. Она была выпущена 14 марта 2023 года и доступна для пользователей ChatGPT Plus[1]. Microsoft подтвердила, что версии Bing, использующие GPT, на самом деле использовали GPT-4 до его официального выпуска[2]. В качестве трансформера GPT-4 была предварительно обучена прогнозировать следующий токен (используя как общедоступные данные, так и «данные, лицензированные сторонними поставщиками»), а затем была доработана с помощью обучения с подкреплением на основе отзывов людей[3].

В техническом отчёте GPT-4 явно воздерживались от указания размера модели, ссылаясь на «конкурентную среду и последствия для безопасности крупномасштабных моделей»[3]. The Verge процитировала слухи о том, что GPT-4 существенно увеличит количество параметров со 175 миллиардов в GPT-3 до 100 триллионов, что генеральный директор OpenAI Сэм Олтмен назвал «полной чушью»[4]. Представители США Дон Бейер[англ.] и Тед Лью[англ.] подтвердили New York Times, что Олтмен посетил Конгресс в январе 2023 года, чтобы продемонстрировать GPT-4 и его улучшенные «элементы управления безопасностью» по сравнению с другими моделями ИИ[5].

OpenAI написала в своем блоге, объявляя о GPT-4, что «GPT-4 более надёжен, креативен и способен обрабатывать гораздо более сложные инструкции, чем GPT-3.5»[1]. Она может читать, анализировать или генерировать до 25 000 слов текста, что является значительным улучшением по сравнению с предыдущими версиями технологии[6][7]. The New York Times писала, что GPT-4 продемонстрировал впечатляющие улучшения в точности по сравнению с GPT-3.5, получила возможность обобщать и комментировать изображения, смогла обобщать сложные тексты, прошла экзамен на адвоката и несколько стандартных тестов, но всё же показала склонность к галлюцинациям в ответах[8].

22 марта 2023 года Илон Маск вместе с более чем 1000 экспертов в области искусственного интеллекта опубликовал письмо с требованием ввести мораторий на обучение систем более мощных, чем GPT-4, так как неконтролируемый процесс в этой области, по мнению Маска и согласных с ним экспертов, может представлять угрозу для человечества[9][10].

Примечания

  1. 1,0 1,1 GPT-4. openai.com (14 марта 2023). Дата обращения: 14 марта 2023. Архивировано 14 марта 2023 года.
  2. Microsoft’s new Bing was using GPT-4 all along. techcrunch.com (14 марта 2023). Дата обращения: 14 марта 2023. Архивировано 15 марта 2023 года.
  3. 3,0 3,1 GPT-4 Technical Report. OpenAI (2023). Дата обращения: 14 марта 2023. Архивировано 14 марта 2023 года.
  4. Vincent, James OpenAI CEO Sam Altman on GPT-4: "people are begging to be disappointed and they will be". The Verge (18 января 2023). Дата обращения: 27 января 2023. Архивировано 26 января 2023 года.
  5. Kang, Cecilia. As A.I. Booms, Lawmakers Struggle to Understand the Technology, The New York Times (3 марта 2023). Дата обращения 15 марта 2023.
  6. GPT-4. OpenAI (14 марта 2023). Дата обращения: 14 марта 2023. Архивировано 14 марта 2023 года.
  7. GPT-4 Developer Livestream. OpenAI.
  8. Metz. 10 Ways GPT-4 Is Impressive but Still Flawed (англ.), The New York Times (14 марта 2023). Архивировано 14 марта 2023 года. Дата обращения 14 марта 2023.
  9. Pause Giant AI Experiments: An Open Letter (англ.) ?. Future of Life Institute. Дата обращения: 1 апреля 2023. Архивировано 30 марта 2023 года.
  10. Илон Маск, Стив Возняк и ещё тысяча экспертов в области ИИ призвали как минимум на полгода остановить обучение ИИ вроде GPT-4 и ему подобных. iXBT.com. Дата обращения: 1 апреля 2023. Архивировано 31 марта 2023 года.