«ИИ в коробке»: в Китае набирают популярность системы для локального запуска моделей
Китайские компании, обеспокоенные сохранностью своих данных, отдают предпочтение «ИИ в коробке». Такие системы позволяют запускать генеративные модели в локальном или частном облаке, на которые приходится около половины рынка облачных сервисов в стране.
В этом направлении лидирует Huawei, которая уже поставляет свои процессоры для ИИ более чем 12 стартапам, в том числе Zhipu AI и iFlytek. Тренд представляет угрозу для облачных сервисов таких гигантов, как Alibaba, Baidu и Tencent.
По оценкам Huawei, в этом году китайский рынок «универсальных машин» (так в стране называют ИИ-боксы) достигнет $2,3 млрд. Аналитики Minsheng Securities прогнозируют, что к 2027 году этот рынок составит почти $63 млрд.
В прошлом году на презентации своего ИИ-бокса основатель iFlytek Лю Цинфэн заявил, что «универсальная машина компании обладает первоклассной производительностью, безопасна, управляема и готова к использованию прямо из коробки».
Этот подход отличается от того, как ИИ продвигают на Западе, а также привлекателен для китайских компаний, которые беспокоятся о сохранности своих данных.
Однако тренд может подорвать амбиции технологических гигантов — они вложили много средств в создание инфраструктуры для ИИ и больших языковых моделей, которые можно предлагать как услугу через облако.
Распространение «ИИ в коробке» также может усилить раскол китайского рынка облачных услуг.
Правительства и государственные компании предпочитают частное облако. Инфографика: Financial Times
Когда в Китае начали распространяться облачные вычисления, Huawei закрепила за собой статус ведущего поставщика частных облаков. Ее услугами в основном пользуются правительства и государственные компании.
Alibaba и Tencent пришлось конкурировать за внимание других организаций, связанных с интернетом. Это стало проблемой после того, как в 2021 году правительство ввело жесткие меры в отношении их ключевых клиентов из таких сфер, как онлайн-обучение. С тех пор средний квартальный рост облачного подразделения Alibaba равен однозначным цифрам.
«Baidu и Alibaba сосредоточены на публичном облаке, но экосистемы в Китае и США сильно различаются, — говорит местный инвестор. — Им придется адаптироваться, чтобы выжить».
На прошлой неделе Baidu сообщила, что в первом квартале объем продаж генеративного ИИ и базовых моделей составил примерно $45 млн. Компания также начала продавать «универсальные машины», но по словам аналитиков, у технологических гигантов меньше преимуществ на этом рынке, поскольку там сложнее задействовать их дата-центры с огромными пулами вычислительной мощности.
Дилан Патель, главный аналитик исследовательской группы SemiAnalysis, отмечает: локальный ИИ может быть не так эффективен, чем если подключаться к большим языковым моделям через публичное облако, а оборудование потребует больших затрат.
В своих исследованиях китайские инвестиционные банки подчеркивают пробелы в безопасности среди западных компаний в области ИИ. Например, ChatGPT от OpenAI случайно раскрыл истории поиска пользователей, а сотрудники Samsung якобы передали чат-боту коммерческие тайны.
Как заявил Лю из iFlytek, частное облако поможет предотвратить утечку ценных данных.
По словам Кента Фана, банкира технологической консалтинговой компании China Renaissance, ИИ-боксы помогли обойти нехватку вычислительной мощности в Китае, которая возникла из-за ограничений на экспорт передовых чипов, введенных США.
Как показывают отчеты о закупках, крупные государственные компании Китая предпочитают локальный ИИ.
Недавно поставщик услуг для «умного города» из Чэнду объявил тендер на сумму около $280 тыс. на запуск большой языковой модели China Unicom на оборудовании Huawei.
Китайская национальная ядерная корпорация также хочет создать локальную систему, объединяющую аппаратное обеспечение с моделью с более чем 10 млрд параметров. По словам человека, знакомого с ситуацией, на этот проект претендует стартап Zhipu AI.
По данным Minsheng Securities, модель с 12 млрд параметров от Zhipu AI, оснащенная восемью чипами Huawei Ascend 910, обходится более чем в $250 тыс. в год. Ascend 910 — самый передовой чип для ИИ Huawei с вычислительной мощностью, которая позволяет обучать большие модели и отвечать на запросы пользователей.
Источник: RB.RU
Комментарии