Supermicro и NVIDIA сотрудничают в области искусственного интеллекта на периферии
Благодаря системам на базе искусственного интеллекта NVIDIA и Supermicro запускают новые системы искусственного интеллекта для периферийных вычислений, чтобы обеспечить более быстрое питание центров обработки данных в более удаленных местах.
NVIDIA в настоящее время является одним из ведущих мировых производителей чипов и стремится стать одной из крупнейших компаний в мире
NVIDIA играет решающую роль в расширении портфеля решений ИИ для Supermicro, позволяя клиентам использовать расширенные возможности ИИ в периферийных вычислительных средах.
Компания использует графические процессоры NVIDIA для обеспечения большей вычислительной мощности для рабочих нагрузок ИИ на периферии, в дополнение к платформе NVIDIA AI, предлагающей программные инструменты и библиотеки, оптимизированные для выполнения рабочих нагрузок ИИ.
Использование серверов Supermicro, оптимизированных для приложений, с графическими процессорами NVIDIA облегчит точную настройку предварительно обученных моделей и развертывание решений искусственного интеллекта на периферии, где генерируются данные, что улучшит время отклика и принятия решений.
Использование искусственного интеллекта для повышения реальной ценности бизнеса центров обработки данных
В прошлом году (2023) был отмечен огромный прогресс в инновациях, связанных с искусственным интеллектом, Интернетом вещей (IoT) и другими новыми технологиями , которые предприятия внедрили в свои цифровые стратегии. В результате уже в этом (2024) году предприятия начнут реализовывать эти идеи и думать о том, как в дальнейшем оптимизировать свою деятельность.
В результате такие компании, как Supermicro, стремятся расширить свои услуги удаленных периферийных вычислений, поскольку им требуются высокопроизводительные решения для искусственного интеллекта и обучения для оптимизации рабочих нагрузок и повышения производительности. Компания расширяет свой портфель ИИ, позволяя клиентам использовать мощь и возможности ИИ в периферийных местах, таких как общественные места, розничные магазины или промышленная инфраструктура.
Периферийные решения компании в области искусственного интеллекта способны поддерживать предварительно обученные модели для периферийной среды своих клиентов.
«Сервер Supermicro Hyper-E, основанный на двух процессорах Intel Xeon 5-го поколения, может поддерживать до трех графических процессоров NVIDIA H100 Tensor Core, обеспечивая непревзойденную производительность для Edge AI», — говорит Чарльз Лян, президент и генеральный директор Supermicro. «Имея до 8 ТБ памяти на этих серверах, мы передаем вычислительную мощность искусственного интеллекта в центрах обработки данных в периферийные местоположения. Supermicro продолжает предоставлять отрасли оптимизированные решения, поскольку предприятия создают конкурентные преимущества за счет обработки данных искусственного интеллекта в своих периферийных точках».
Улучшение качества обслуживания клиентов
В периферийных центрах обработки данных данные можно обрабатывать и анализировать быстрее и эффективнее. Это может иметь решающее значение для приложений, которым требуется низкая задержка или высокая пропускная способность.
Обрабатывая данные ближе к пользователю, периферийные центры обработки данных могут сократить время, необходимое для передачи данных в центральный центр обработки данных и обратно, что значительно повышает скорость реагирования приложения.
Благодаря подобным усовершенствованиям серверов пользователям больше не нужно отправлять данные обратно в облако для обработки, а только для того, чтобы получить информацию обратно на периферию. Теперь клиенты могут использовать предварительно обученные модели большого языка (LLM), оптимизированные по производительности и доступные с помощью NVIDIA AI Enterprise в своих периферийных местоположениях, где данные необходимы для принятия решений в реальном времени вблизи источника данных.
Supermicro стремится продвигать свои решения в области искусственного интеллекта, недавно запустив полнофункциональное решение для хранения данных для конвейеров данных искусственного интеллекта и машинного обучения. Конечная цель — дать возможность предприятиям из самых разных отраслей быстрее обучать модели ИИ.
«Компании во всех отраслях, включая здравоохранение, розничную торговлю, производство и автомобилестроение, все чаще стремятся использовать ИИ на периферии», — говорит Кевин Коннорс , вице-президент по партнерским альянсам NVIDIA. «Новые системы Supermicro, сертифицированные NVIDIA, на базе платформы NVIDIA AI созданы для обеспечения высокопроизводительной ускоренной вычислительной инфраструктуры, а также программного обеспечения NVIDIA AI Enterprise, помогающего выполнять передовые рабочие нагрузки искусственного интеллекта».
Помимо аппаратного и программного обеспечения NVIDIA, Supermicro также владеет обширным портфолио серверов хранения данных на базе процессоров Intel и AMD для развития искусственного интеллекта у клиентов.
