Графические процессоры AMD Instinct MI300X теперь доступны на OCI
Oracle Cloud Infrastructure (OCI) теперь предлагает графические процессоры AMD Instinct MI300X с программным обеспечением ROCm.
Ускорители будут использоваться в новейшем вычислительном суперкластере OCI от Oracle под названием BM.GPU.MI300X.8, который сможет поддерживать до 16384 графических процессоров в одном кластере.
Графические процессоры AMD MI300X смогут использовать ту же сверхбыструю сетевую технологию, которая используется другими ускорителями на OCI, и предназначены для рабочих нагрузок искусственного интеллекта (ИИ), включая вывод и обучение больших языковых моделей (LLM).
Графические процессоры AMD Instinct MI300X построены на архитектуре AMD CDNA 3 и предназначены для задач искусственного интеллекта (включая генеративный искусственный интеллект) и высокопроизводительных вычислений.
«AMD Instinct MI300X и открытое программное обеспечение ROCm продолжают набирать обороты как надежные решения для поддержки наиболее важных рабочих нагрузок OCI AI», — сказал Эндрю Дикманн, старший вице-президент и генеральный менеджер подразделения Data Center GPU Business компании AMD.
«По мере того, как эти решения будут распространяться на растущие рынки с интенсивным использованием ИИ, такое сочетание принесет пользу клиентам OCI за счет высокой производительности, эффективности и большей гибкости проектирования систем».
«Возможности вывода ускорителей AMD Instinct MI300X дополняют обширный выбор высокопроизводительных экземпляров bare metal от OCI, чтобы устранить накладные расходы виртуализированных вычислений, обычно используемых для инфраструктуры ИИ», — добавил Дональд Лу, старший вице-президент по разработке программного обеспечения OCI. «Мы рады предложить больше выбора клиентам, стремящимся ускорить рабочие нагрузки ИИ по конкурентоспособной цене».
На этой неделе Vultr также добавил графические процессоры AMD Instinct MI300X в свое облако искусственного интеллекта (ИИ).
Nscale также предлагает ускорители через свое облако GPU на базе ускорителей MI00X, а также графических процессоров AMD MI250 и графических процессоров Nvidia A100, H100 и V100.
В августе 2024 года AMD выпустила ROCm 6.2, последнюю версию своего программного стека с открытым исходным кодом. Впервые выпущенный в 2016 году, ROCm состоит из драйверов, инструментов разработки, компиляторов, библиотек и API для поддержки программирования для генеративных приложений ИИ и HPC на графических процессорах AMD. Последняя версия предлагает расширенную поддержку виртуальной большой языковой модели (vLLM), улучшенное обучение ИИ и вывод на ускорителях AMD Instinct, а также более широкую поддержку FP8.
Ранее в этом месяце Oracle сообщила, что ее инвестиции в производителя микросхем Ampere Computing могут дать ей возможность будущего владения. В настоящее время Ampere оценивает, что 95 процентов услуг Oracle используют микросхемы Ampere.
