Google Alphabet представляет свой AI-чип Trillium
Alphabet, материнская компания Google, объявила о запуске нового предложения в своем семействе микросхем искусственного интеллекта для центров обработки данных под названием Trillium.
По словам компании, Trillium — это ее самое передовое оборудование для искусственного интеллекта, используемое в тензорных процессорах или TPU, также разработанных для искусственного интеллекта.
Специальные чипы для центров обработки данных искусственного интеллекта Google — один из немногих вариантов на рынке, которые не производятся Nvidia. Один из немногих элементов, позволяющих избежать опасного монопольного положения.
По имеющимся данным, в то время как Nvidia в настоящее время занимает 80% рынка в сегменте чипов искусственного интеллекта, Google доминирует на остальных 20%.
Важно отметить, что Google не продает чипы. Однако компания арендует их через свою платформу облачных вычислений.
Скорость и эффективность Trillium
«ТПУ Trillium достигают впечатляющего 4,7-кратного увеличения пиковой производительности вычислений на один чип по сравнению с ТПУ v5e», — говорится в сообщении Google в блоге.
В своем последнем предложении компания также утверждает, что удвоила емкость и пропускную способность памяти с высокой пропускной способностью (HBM) и удвоила пропускную способность межчипового соединения (ICI) по сравнению с TPU v5e.
«Кроме того, Trillium оснащен SparseCore третьего поколения, ускорителем, специализирующимся на обработке сверхбольших вложений, часто встречающихся в расширенных рабочих нагрузках классификации и рекомендаций», — говорится в сообщении в блоге.
Он также добавил, что они смогут обучить следующую волну «базовых моделей» с меньшими задержками и меньшими затратами.
По данным Google , TPU Trillium шестого поколения более чем на 67% более энергоэффективны, чем TPU v5e. Энергопотребление — один из ключевых факторов при выборе чипов для искусственного интеллекта.
Дополнительные функции и как они помогут будущим моделям ИИ
Кроме того, Trillium может масштабироваться до 256 TPU в одном модуле с высокой пропускной способностью и низкой задержкой.
«В дополнение к масштабируемости на уровне модулей, благодаря технологии мультисрезов и интеллектуальным процессорам Titanium (IPU), TPU Trillium могут масштабироваться до сотен модулей, соединяя десятки тысяч чипов в конструкции масштаба суперкомпьютера, соединенных между собой мультипетабитной сетью. в секунду в сети дата-центра», — говорится в блоге.
Чтобы добиться увеличения вычислительной производительности на один чип Trillium в 4,7 раза, компания увеличила размер блоков матричного умножения (MXU) и увеличила тактовую частоту.
«ТПУ Trillium станут основой следующей волны моделей и агентов искусственного интеллекта, и мы с нетерпением ждем возможности помочь нашим клиентам раскрыть эти расширенные возможности», — говорится в сообщении компании в блоге.
Повышение популярности сервисов облачных вычислений Google и Gemini
Новый чип поможет таким компаниям, как Deep Genomics, Deloitte и другим, которые используют сервисы Google Cloud.
«Поддержка обучения и обслуживания мультимодальных моделей с длинным контекстом на TPU Trillium также позволит Google DeepMind обучать и обслуживать будущие поколения моделей Gemini быстрее, эффективнее и с меньшей задержкой, чем когда-либо прежде», — заявили в компании.
TPU Trillium являются частью гиперкомпьютера Google Cloud AI, суперкомпьютерной архитектуры, разработанной специально для передовых рабочих нагрузок искусственного интеллекта.
«Gemini 1.5 Pro — это крупнейшая и наиболее мощная модель искусственного интеллекта от Google, которая была обучена с использованием десятков тысяч ускорителей TPU», — сказал Джефф Дин, главный научный сотрудник Google Deepmind и Google Research.
«Наша команда воодушевлена анонсом шестого поколения TPU, и мы с нетерпением ждем повышения производительности и эффективности обучения и вывода в масштабе наших моделей Gemini».
Использование этих новых чипов должно позволить Google ответить на OpenAI, которая недавно представила обновление своей модели искусственного интеллекта, подтвердив свое превосходство над материей .
Благодаря нашему Telegram-каналу вы можете быть в курсе публикаций новых статей «Экономические сценарии».
В статье Google Alphabet представляет свой AI-чип Trillium от Economic Scenarios .
Это автоматический перевод публикации, опубликованной в журнале Scenari Economici по адресу https://scenarieconomici.it/google-alphabet-presenta-il-suo-chip-per-la-ai-trillium/ в Wed, 15 May 2024 14:52:19 +0000.