Предыдущая публикация
Microsoft представила собственный ИИ-чип Maia 100, который будет конкурировать с решениями Nvidia
Microsoft представила собственный чип для искусственного интеллекта Maia 100, который, как надеется компания, сможет конкурировать с разработками Nvidia. Помимо него Microsoft представила чип Cobalt 100 на базе Arm для вычислений общего назначения. Это первые чипы, разработанные Microsoft для её облачной инфраструктуры Azure.
ИИ-ускоритель Azure Maia 100 изготовлен по 5-нм техпроцессу, он получил 105 млрд транзисторов, что примерно на 30% меньше, чем у чипа AMD MI300X AI (153 млрд). Чип предназначен для выполнения облачных рабочих нагрузок искусственного интеллекта, таких как обучение больших языковых моделей. Он будет использоваться в том числе и для выполнения рабочих нагрузок в рамках партнёрства с OpenAI.
Сейчас Microsoft тестирует, насколько Maia 100 соответствует потребностям чат-бота поисковой системы Bing, ИИ-помощника GitHub Copilot и модели GPT-3.5-Turbo от OpenAI, сообщила в комментарии для The Verge корпоративный вице-президент по аппаратным системам и инфраструктуре Microsoft Azure Рани Боркар.
ИИ-ускоритель Azure Maia 100 изготовлен по 5-нм техпроцессу, он получил 105 млрд транзисторов, что примерно на 30% меньше, чем у чипа AMD MI300X AI (153 млрд). Чип предназначен для выполнения облачных рабочих нагрузок искусственного интеллекта, таких как обучение больших языковых моделей. Он будет использоваться в том числе и для выполнения рабочих нагрузок в рамках партнёрства с OpenAI.
Сейчас Microsoft тестирует, насколько Maia 100 соответствует потребностям чат-бота поисковой системы Bing, ИИ-помощника GitHub Copilot и модели GPT-3.5-Turbo от OpenAI, сообщила в комментарии для The Verge корпоративный вице-президент по аппаратным системам и инфраструктуре Microsoft Azure Рани Боркар.
Процессор Azure Cobalt представляет собой 128-ядерный чип, созданный на основе процессорной платформы Arm Neoverse Compute Subsystem (CSS) и адаптированный для Microsoft. Он предназначен для поддержки общих облачных сервисов и задач Azure.
«Мы много думали не только о том, как добиться высокой производительности, но и об управлении энергопотреблением, — объясняет Боркар. — Мы приняли несколько тщательно продуманных решений в дизайне, которые добавили возможность контролировать производительность и энергопотребление на ядро на каждой отдельной виртуальной машине».
Cobalt сейчас тестируется в Microsoft Teams и Microsoft SQL Server, и уже в следующем году компания планирует предоставить клиентам первые виртуальные машины на Cobalt для различных рабочих нагрузок. Как заявляет Боркар, они покажут заметный прирост производительности по сравнению с серверами на базе Arm, которые Microsoft в настоящее время использует для Azure.
«Наши первые тесты показывают рост производительности на 40% по сравнению с Arm-решениями, которые используются в наших ЦОД сейчас», — указывает Боркар. Microsoft пока не раскрывает ни полных характеристик чипов и систем, ни подробных результатов тестов.
Как напомнила Боркар, у Microsoft «долгая история в разработке микросхем». Компания участвовала в разработке чипов для Xbox и для своих устройств Surface. В апреле ресурс The Information сообщал, что Microsoft занимается разработкой чипов для задач искусственного интеллекта с 2019 года.
В настоящее время роль ведущего поставщика ускорителей вычислений для ИИ занимает Nvidia. Её графические процессоры Nvidia H100 продаются на eBay по цене выше $40 000. На неделе компания анонсировала новый ускоритель H200 на архитектуре Hopper с 141 Гбайт памяти HBM3e. В продаже он появится во втором квартале 2024 года.
Источник
«Мы много думали не только о том, как добиться высокой производительности, но и об управлении энергопотреблением, — объясняет Боркар. — Мы приняли несколько тщательно продуманных решений в дизайне, которые добавили возможность контролировать производительность и энергопотребление на ядро на каждой отдельной виртуальной машине».
Cobalt сейчас тестируется в Microsoft Teams и Microsoft SQL Server, и уже в следующем году компания планирует предоставить клиентам первые виртуальные машины на Cobalt для различных рабочих нагрузок. Как заявляет Боркар, они покажут заметный прирост производительности по сравнению с серверами на базе Arm, которые Microsoft в настоящее время использует для Azure.
«Наши первые тесты показывают рост производительности на 40% по сравнению с Arm-решениями, которые используются в наших ЦОД сейчас», — указывает Боркар. Microsoft пока не раскрывает ни полных характеристик чипов и систем, ни подробных результатов тестов.
Как напомнила Боркар, у Microsoft «долгая история в разработке микросхем». Компания участвовала в разработке чипов для Xbox и для своих устройств Surface. В апреле ресурс The Information сообщал, что Microsoft занимается разработкой чипов для задач искусственного интеллекта с 2019 года.
В настоящее время роль ведущего поставщика ускорителей вычислений для ИИ занимает Nvidia. Её графические процессоры Nvidia H100 продаются на eBay по цене выше $40 000. На неделе компания анонсировала новый ускоритель H200 на архитектуре Hopper с 141 Гбайт памяти HBM3e. В продаже он появится во втором квартале 2024 года.
Источник
Следующая публикация
Нет комментариев