Перейти к содержанию

Cerebras Systems

Эта статья находится на начальном уровне проработки, в одной из её версий выборочно используется текст из источника, распространяемого под свободной лицензией
Материал из энциклопедии Руниверсалис
Cerebras Systems

Cerebras Systems — американская компания, занимающаяся искусственным интеллектом, с офисами в Кремниевой долине, Сан-Диего, Торонто и Токио[1]. Cerebras создает компьютерные системы для сложных приложений искусственного интеллекта, требующих глубокого обучения[2].

История

Cerebras была основана в 2015 году Эндрю Фельдманом, Гэри Лаутербахом, Майклом Джеймсом, Шоном Ли и Жан-Филиппом Фрикером[3]. Эти пять основателей работали вместе в SeaMicro, которая была основана в 2007 году Фельдманом и Лаутербахом и позже была продана AMD в 2012 году за 334 миллиона долларов[4][5].

В мае 2016 года Cerebras получила 27 миллионов долларов в виде финансирования серии А под руководством Benchmark Foundation Capital и Eclipse Ventures[3][6]. В декабре 2016 года финансирование серии B обеспечила компания Coatu Management Llc, а в январе 2017 года финансирование серии C обеспечила компания VY Capital[3]. В ноябре 2018 года Cerebras завершили раунд серии D с 88 миллионами долларов, превратив компанию в единорога. Среди инвесторов этого раунда были Altimeter, VY Capital, Coatue, Foundation Capital, Benchmark и Eclipse[7][8].

19 августа 2019 года Cerebras анонсировала свой Wafer-Scale Engine (WSE)[9][10][11]. В ноябре 2019 года Cerebras завершила раунд серии E с более чем 270 миллионами долларов при оценке в 2,4 миллиарда долларов[12].

В 2020 году компания объявила об открытии офиса в Японии и партнерстве с Tokyo Electron Devices.

В апреле 2021 года Cerebras анонсировала CS-2, основанную на процессоре Wafer Scale Engine Two (WSE-2), который имеет 850 000 ядер[1]. В августе 2021 года компания анонсировала свою технологию масштабирования нейровычислений, которая может управлять нейронной сетью с более чем 120 триллионами соединений[13] .

В марте 2024 года Cerebras представила вычислительную платформу CS-3, основанную на суперчипе WSE-3, который имеет 900 000 ядер. Система масштабируется до 2048 устройств.

Последние годы Cerebras Systems готовилась выйти на IPO, однако в последний момент без явных объяснений компания отозвала свою заявку на публичное размещение акций[14]. По предположению сторонних наблюдателей правительство США заблокировало IPO опасаясь утечки новейших технологий в Китай через инвесторов ОАЭ[15].

Технология

Cerebras Wafer Scale Engine (WSE) — это единый интегрированный процессор масштаба кремниевой пластины, который включает в себя вычислительные ресурсы, память и межкомпонентную матрицу соединений[16]. WSE-1 является основой Cerebras CS-1, компьютера первого поколения с искусственным интеллектом Cerebras. Это устройство, устанавливаемое в 19-дюймовую стойку, предназначено для обучения ИИ и поддержке рабочих вычислений на основе нейросетей в центрах обработки данных[10]. CS-1 включает в себя один центральный процессор WSE с 400 000 процессорных ядер, а также двенадцать соединений 100 Gigabit Ethernet для передачи и передачи данных[10][17]. WSE-1 включает 1,2 триллиона транзисторов, 400 000 вычислительных ядер и 18 гигабайт оперативной памяти[9][10][11].

В апреле 2021 года Cerebras анонсировала систему искусственного интеллекта CS-2, основанную на процессоре Wafer Scale Engine 2-го поколения (WSE-2), производимом по 7-нм техпроцессу TSMC[1]. Вычислительный комплекс имеет высоту 26 дюймов и умещается в одну треть стандартной стойки центра обработки данных[18]. Процессор Cerebras WSE-2 обладает 850 000 ядрами, на пластине-процессоре размещаются 2,6 триллиона транзисторов. WSE-2, по сравнению с предыдущей версией, расширил объём встроенной SRAM до 40 гигабайт, пропускную способность памяти до 20 петабайт в секунду и общую пропускную способность фабрики соединений до 220 петабит в секунду.

В августе 2021 года компания объявила о своем решении для масштабирования нейровычислений, которое объединяет несколько интегральных схем (обычно называемых «чипами») в нейронную сеть с множеством соединений. Это позволяет единой системе поддерживать модели ИИ с более чем 120 триллионами параметров. Такое решение включает четыре нововведения: Cerebras Weight Streaming, новую архитектуру исполнения программного обеспечения; Cerebras MemoryX, технология расширения памяти; Cerebras SwarmX, оптимизированная для ИИ коммуникационная ткань; и Selectable Sparsity, технология динамического сбора разреженных частиц.

Использование

Сообщается, что технологии Cerebras используют клиенты, работающие в фармацевтическом и медико-биологическом секторах.

В 2020 году GlaxoSmithKline (GSK) начала использовать систему искусственного интеллекта Cerebras CS-1 в своем лондонском центре искусственного интеллекта для моделирования нейронных сетей, чтобы ускорить генетические и геномные исследования и сократить время, необходимое для открытия лекарств. Исследовательская группа GSK смогла повысить сложность моделей кодировщиков, которые они могли генерировать, одновременно сократив время обучения. Среди других клиентов фармацевтической отрасли — компания AstraZeneca, которая смогла сократить время обучения с двух недель на кластере графических процессоров до двух дней с помощью системы Cerebras CS-1.

Аргоннская национальная лаборатория использует CS-1 с 2020 года в исследованиях COVID-19 и раковых опухолях на основе крупнейшей в мире базы данных по лечению рака. Серия моделей, запущенных на CS-1 для прогнозирования реакции лекарств от рака на опухоли, достигла ускорения во много сотен раз на CS-1 по сравнению с исходным уровнем производительности, обеспечиваемым GPU.

Суперкомпьютер Lassen Национальной лаборатории Лоуренса Ливермора использовал CS-1 как для классифицированных, так и в несекретных задач для физического моделирования.

В августе 2021 года Cerebras объявила о партнерстве с компанией Peptilogics, занимающейся биотехнологической платформой, по разработке решений искусственного интеллекта для ускорения цикла разработки пептидных терапевтических средств.

По словам разработчиков, в полномасштабном режиме, использующем 2048 систем, WSE-3 может обучить модель Llama 70B с нуля за один день, энергопотребление всего кластера из 2048 ускорителей составит 48 МВт.

Примеры выпущенных устройств

  • Система Cerebras CS-1 на процессоре WSE-1 (2020 год)[19]. Техпроцесс 16 нм TSMC, количество транзисторов 1,2 триллиона, количество AI-ядер 400 000, внутренняя SRAM-память 18 ГБ, площадь чипа 46 225 Шаблон:Мм2 (215x215 мм), пропускная способность памяти 9 ПБ/с, общая пропускная способность чипа 100 Пбит/с, энергопотребление системы 17 КВт, максимальное количество в кластере — неизвестно, максимальное количество параметров нейросети, обрабатываемое максимальным количеством ускорителей в кластере — ограничено размером внутренней памяти, возможность использовать внешнюю память не поддерживается.
  • Система Cerebras CS-2 на процессоре WSE-2 (2022 год)[20]. Техпроцесс 7 нм TSMC, количество транзисторов 2,6 триллиона, количество AI-ядер 850 000, внутренняя SRAM-память 40 ГБ, площадь чипа 46 225 Шаблон:Мм2 (215x215 мм), пропускная способность памяти 20 ПБ/с, общая пропускная способность чипа 220 Пбит/с, энергопотребление системы 23 КВт, максимальное количество в кластере 192 шт., максимальное количество параметров нейросети, обрабатываемое максимальным количеством ускорителей в кластере — 1 трлн, возможность использовать внешнюю память MemoryX с помощью технологии Weight Streaming.
  • Система Cerebras CS-3 на процессоре WSE-3 (2024 год)[21]. Техпроцесс 5 нм TSMC, количество транзисторов 4 триллиона, количество AI-ядер 900 000, внутренняя SRAM-память 44 ГБ, площадь чипа 46 225 Шаблон:Мм2 (215x215 мм), пропускная способность памяти 21 ПБ/с, общая пропускная способность чипа 220 Пбит/с, энергопотребление системы 23 КВт, максимальное количество в кластере — 2048 шт., максимальное количество параметров нейросети, обрабатываемое максимальным количеством ускорителей в кластере — 24 трлн, возможность использовать внешнюю память до 1,2 Пбайт.

См. также

Примечания

  1. ↑ 1,0 1,1 1,2 Cerebras launches new AI supercomputing processor with 2.6 trillion transistors (англ.) ?. VentureBeat (20 апреля 2021). Дата обращения: 23 октября 2021. Архивировано 23 октября 2021 года.
  2. ↑ Cerebras Systems deploys the ‘world’s fastest AI computer’ at Argonne National Lab (англ.) ?. VentureBeat (19 ноября 2019). Дата обращения: 23 октября 2021. Архивировано 23 октября 2021 года.
  3. ↑ 3,0 3,1 3,2 Aaron Tilley. AI Chip Boom: This Stealthy AI Hardware Startup Is Worth Almost A Billion (англ.). Forbes. Дата обращения: 23 октября 2021. Архивировано 23 октября 2021 года.
  4. ↑ Quentin Hardy. A.M.D. Buying SeaMicro for $334 Million (англ.) ?. Bits Blog (29 февраля 2012). Дата обращения: 23 октября 2021. Архивировано 23 октября 2021 года.
  5. ↑ Cade Metz. How Google Spawned The 384-Chip Server (англ.) // Wired. — ISSN 1059-1028.
  6. ↑ A stealthy startup called Cerebras raised around $25 million to build deep learning hardware (англ.) ?. TechCrunch. Дата обращения: 23 октября 2021.
  7. ↑ Dylan Martin. AI Chip Startup Cerebras Reveals 'World's Fastest AI Supercomputer'. CRN (27 ноября 2019). Дата обращения: 23 октября 2021. Архивировано 23 октября 2021 года.
  8. ↑ Moor Insights and Strategy. Cerebras Unveils AI Supercomputer-On-A-Chip (англ.). Forbes. Дата обращения: 23 октября 2021. Архивировано 23 октября 2021 года.
  9. ↑ 9,0 9,1 Metz, Cade. To Power A.I., Start-Up Creates a Giant Computer Chip, The New York Times (19 августа 2019).
  10. ↑ 10,0 10,1 10,2 10,3 The Cerebras CS-1 computes deep learning AI problems by being bigger, bigger, and bigger than any other chip (англ.) ?. TechCrunch. Дата обращения: 23 октября 2021.
  11. ↑ 11,0 11,1 Cerebras’ New Monster AI Chip Adds 1.4 Trillion Transistors (англ.). IEEE Spectrum (20 апреля 2021). Дата обращения: 23 октября 2021. Архивировано 23 октября 2021 года.
  12. ↑ Sally Ward-Foxton. EETimes - Cerebras Crams More Compute Into Second-Gen ‘Dinner Plate Sized’ Chip. EETimes (20 апреля 2021). Дата обращения: 23 октября 2021. Архивировано 23 октября 2021 года.
  13. ↑ Cerebras' Tech Trains "Brain-Scale" AIs (англ.). IEEE Spectrum (24 августа 2021). Дата обращения: 23 октября 2021. Архивировано 23 октября 2021 года.
  14. ↑ Novet, Jordan AI chipmaker Cerebras withdraws IPO (англ.). CNBC (3 октября 2025). Дата обращения: 17 декабря 2025.
  15. ↑ Cerebras отложит IPO: США опасаются, что Китай получит доступ к ИИ-суперчипам при посредничестве ОАЭ. ServerNews - все из мира больших мощностей. Дата обращения: 17 декабря 2025.
  16. ↑ Cerebras’s Giant Chip Will Smash Deep Learning’s Speed Barrier (англ.). IEEE Spectrum (1 января 2020). Дата обращения: 23 октября 2021. Архивировано 23 октября 2021 года.
  17. ↑ Neocortex Will Be First-of-Its-Kind 800,000-Core AI Supercomputer (англ.) ?. HPCwire (9 июня 2020). Дата обращения: 23 октября 2021. Архивировано 23 октября 2021 года.
  18. ↑ Tiernan Ray. Cerebras continues 'absolute domination’ of high-end compute, it says, with world’s hugest chip two-dot-oh (англ.). ZDNet. Дата обращения: 23 октября 2021. Архивировано 23 октября 2021 года.
  19. ↑ Самый большой в мире процессор Cerebras оказался в сотни раз быстрее суперкомпьютера на базе NVIDIA GPU. 3DNews (19 ноября 2020). Дата обращения: 17 ноября 2022. Архивировано 19 ноября 2022 года.
  20. ↑ Cerebras Systems поставила рекорд в области машинного обучения для одиночных систем. Servernews.ru (24 июня 2022). Дата обращения: 17 ноября 2022. Архивировано 19 ноября 2022 года.
  21. ↑ Cerebras представила гигантский процессор WSE-3 c 900 тысячами ядер. 3DNews. (13 марта 2024). Дата обращения: 14 декабря 2025.
Источник — https://xn--h1ajim.xn--p1ai/index.php?title=Cerebras_Systems&oldid=28859462