Решение проблем роста ИИ на периферии с помощью модульных центров обработки данных

Послушать статью
Этот аудиоматериал был создан с помощью Microsoft Azure Speech Services
Компании в различных отраслях все чаще используют искусственный интеллект (ИИ) для

решения задач

интенсивным использованием данных, которые выходят за рамки человеческих возможностей — как с точки зрения скорости, так и осуществимости. Эта революция ИИ создает беспрецедентный спрос на вычислительную мощность на периферии, как и всплеск сбора и анализа данных всего несколько лет назад.

Однако масштабы

теперь намного больше, и ИИ требует значительно более высокой плотности стоек на периферийных вычислительных площадках. Именно здесь могут использоваться модульные центры обработки данных, обеспечивая гибкость и масштабируемость, необходимые организациям для того, чтобы идти в ногу с быстрым ростом ИИ.

роль модульных

Вариант использования: Лучше всего подходит для  База данных ставок случаев, требующих прозрачного, неизменяемого реестра транзакций, например, криптовалюты или управления цепочками поставок.
Если вы имеете в виду определенный тип «специальной базы данных», дайте мне знать, какая именно вас интересует, и я смогу глубже изучить ее структуру и варианты использования.

Специальная база данных

Такие инструменты

как ChatGPT и Microsoft Copilot, демократизируют специальный список использование ИИ, позволяя практически любому в организации использовать эту технологию.

Возможности использования

ИИ практически безграничны: от здравоохранения до hklists финансов, производства, транспорта и развлечений. Такие задачи, как создание презентаций или составление отчетов о продажах, теперь можно быстро выполнить, передав соответствующие данные в механизм ИИ и попросив его организовать данные определенным образом.

Организации также

внедряют технологию ИИ для предиктивной аналитики, интеллектуального управления цепочками поставок и дальнейшей персонализации обслуживания клиентов. Требования к данным, связанные с ИИ, стимулируют новые технологии микросхем и серверов, что приводит к значительно более высокой плотности мощности стоек. В то же время растет спрос на вычислительную мощность высокой плотности.

Спрос на ИИ на периферии

ИИ создает огромные бизнес-возможности для разработки и развертывания новых и захватывающих возможностей. Тем не менее, он также создает значительные проблемы, связанные с развертыванием необходимого оборудования и инфраструктуры центра обработки данных. Он требует новых подходов на периферии, таких как развертывание масштабируемой модульной инфраструктуры центра обработки данных.

Причина размещения

возможностей ИИ на периферии та же, что и та, что изначально подтолкнула компании к периферии:

Более жесткий контроль и безопасность данных компании
Низкая задержка для задач в реальном времени и почти в реальном времени
ИИ очень интенсивно использует данные из-за двух своих основных задач — обучения и вывода. Обучение включает в себя передачу огромных объемов данных в модель для улучшения базы знаний. Чем больше информации получает алгоритм, тем он становится умнее. Затем модель делает выводы на основе данных для решения проблем и выполнения задач.

Проблемы ИТ-инфраструктуры

С точки зрения инфраструктуры необходимый объем вычислительной мощности существенен. Учтите, что традиционно стойка имела бы мощность 10 кВт, но сейчас мы видим запросы на 50–100 кВт. Например, Schneider Electric разрабатывает эталонный проект, использующий стойки мощностью почти 90 кВт. Проект будет доступен в конце 2024 года.

Серверы разработанные

для ИИ, не только оснащены несколькими процессорами, расположенными в непосредственной близости, но и включают в себя передовые чипсеты, которые повышают вычислительную мощность и эффективность. Такая плотность генерирует огромное количество тепла, которое невозможно устранить с помощью традиционного воздушного охлаждения.

Вместо этого для

рассеивания тепла процессора вводится технология жидкостного охлаждения. Вода или другая жидкость направляется к чипам через блок распределения охлаждающей жидкости (CDU) для поглощения тепла. Затем жидкость из вторичного контура подается по трубам в блок охлаждения и обратно в CDU. Это влияет на инфраструктуру, требуя больше труб и коллекторов для перемещения жидкости через стойки и из здания.

Структурная

поддержка, необходимая для отдельного контура охлажденной воды, в дополнение к обычным кабелям для питания и оптоволокна, усугубляет проблему пространства в центре обработки данных, которое всегда в дефиците. Теперь рассмотрим проблемы, которые это создает в компактных периферийных пространствах.

С различными рабочими

нагрузками, мощностями, улучшенными решениями для охлаждения и сложными решениями для стоек ИТ-систем инфраструктура центра обработки данных ИИ следующего поколения будет иметь дизайн, который будет дальновидным и динамически спроектированным.

Модульные центры

обработки данных спешат на помощь
По оценкам, рабочие нагрузки ИИ составят 20% от общего потребления энергии центрами обработки данных к 2028 году. Решения модульных центров обработки данных могут удовлетворить потребности предприятий в ИИ на периферии, предоставляя инфраструктуру, вычислительную и электрическую мощность, а также охлаждение, необходимые для обучения и вывода моделей ИИ.

Каждый блок

предоставляет специально разработанную модульную инфраструктуру, настроенную под конкретные варианты использования. Проекты, которые будут доступны позднее в 2024 году, затем можно масштабировать в повторяемые кластеры для развертывания везде, где организациям нужна быстрая, адаптируемая, масштабируемая инфраструктура для достижения стратегических целей ИИ. Таким образом, Schneider Electric помогает клиентам решать проблемы ИИ, чтобы они могли полностью выровнять

стать более конкуренто

Поскольку приложения и варианты использования ИИ продолжают расширяться, вопрос о том, нужно ли организациям масштабировать свою ИТ-инфраструктуру для удовлетворения потребностей решений ИИ, требующих больших объемов данных/охлаждения/энергии, больше не стоит, а стоит вопрос о том, когда именно им нужно будет масштабировать свою ИТ-инфраструктуру для удовлетворения потребностей решений ИИ, требующих больших объемов данных/охлаждения/энергии. Чтобы помочь своему бизнесу стать готовым к ИИ, изучите наш сайт ресурсов Transitioning to AI-Ready Data Centers, где вы найдете передовой опыт, технические документы, вебинары и многое другое.

Теги: центр обработки данных, готовый к ИИ, искусственный интеллект, периферийные вычисления, модульный центр обработки данных

Leave a comment

Your email address will not be published. Required fields are marked *