Разработаны алгоритмы для увеличения скорости обмена данными между графическими процессорами
Российские ученые разработали специализированную библиотеку алгоритмов, которая позволяет разработчикам систем ИИ вдвое ускорить обмен данными между графическими процессорами (GPU) при обучении нейросетей, а также сократить при этом объем передаваемой информации. Об этом сообщила пресс-служба «Яндекса».
«С помощью новой библиотеки удалось в два раза ускорить обмен данными между графическими процессорами при обучении нейросетей, сократить объем передаваемой при этом информации и перенести управление с графических карт на центральные процессоры. Созданная в России библиотека при этом масштабируется на крупные кластеры, а ее аналоги есть лишь у ведущих мировых компаний — Meta (признана в РФ экстремистской — прим. ТАСС), AMD — и китайских IT гигантов», — говорится в сообщении.
Как отмечается в сообщении, разработка передовых систем искусственного интеллекта, а также их использование на практике требует создания мощных суперкомпьютеров, оснащенных большим числом графических сопроцессоров. Для их эффективной работы необходимо, чтобы эти карты могли максимально эффективным образом обмениваться данными по относительно узким и медленным каналам связи и специализированным шинам данных.
Российские ученые разработали новый подход, который позволяет вдвое ускорить этот обмен по сравнению с уже существующими решениями, а также при этом он дает возможность сократить накладные расходы и более активно задействовать ресурсы центральных процессоров в передаче этих данных. Вкупе с другими инновациями, внедрение этого подхода в инфраструктуру «Яндекса» позволит компании сократить операционные расходы примерно на 4,8 млрд рублей в год и снизить продолжительность простоев в работе графических процессоров.
Источник: ТАСС
Login with Google
Комментарии