Новый взгляд на энергоэффективность в мире ИИ от создателей Extropic
Инженерный стартап Extropic продемонстрировал первый функциональный образец своей революционной разработки – вычислительного ускорителя, который может кардинально изменить экономику искусственного интеллекта.
В основе технологии лежит нестандартное инженерное решение. Вместо привычной борьбы с электронным шумом разработчики превратили его в источник вычислительной мощности. Представленная плата состоит из двух частей: стандартного программируемого контроллера и набора специализированных чипов, оптимизированных для работы со случайными величинами.
Ключевая инновация особенно актуальна для генеративного ИИ. Когда модель создает изображение или текст, ей приходится миллиарды раз «бросать кости» – генерировать случайные числа с определенным распределением. Именно эта операция потребляет колоссальные ресурсы при работе на стандартных GPU.
Текущий прототип работает только с ограниченным набором тестовых задач. Потребуется значительная программная интеграция, прежде чем технологию можно будет применять в реальных проектах. Однако даже предварительные результаты показывают многократное снижение энергопотребления.
Если заявленные преимущества подтвердятся в коммерческих продуктах, это может привести к демократизации доступа к вычислительным ресурсам для ИИ. Сегодня обучение продвинутых моделей требует десятков миллионов долларов только на электроэнергию. Снижение этих затрат в сотни раз открывает дорогу множеству небольших команд и исследователей.
Экономический эффект может быть колоссальным: снижение стоимости вычислений всегда приводило к появлению принципиально новых классов приложений. Стартап уже привлек внимание венчурных инвесторов и крупных технологических компаний, заинтересованных в снижении операционных расходов своих ИИ-систем.
Источник: MLTimes
Login with Google
Комментарии