В России нашли способ снизить расход ресурсов на работу классических систем ИИ
Исследователи из России теоретически обосновали простой и вычислительно легкий метод оценки неопределенности для стохастического градиентного спуска, одной из популярных форм классического машинного обучения. Это открытие позволит уменьшить количество ресурсов, затрачиваемых на работу данных форм ИИ, сообщила пресс-служба НИУ ВШЭ.
«Математическое доказательство позволяет пересмотреть отношение к простым эмпирическим методам оценки точности в машинном обучении: разработчики смогут получать надежные оценки неопределенности быстрее и с меньшими вычислительными затратами. Это особенно важно в областях, где критично знать не только предсказание, но и степень уверенности в нем, — например, в медицине, финансах и автономных системах», — говорится в сообщении.
Как отмечают ученые, различные формы алгоритмов градиентного спуска широко применяются при решении задач оптимизации и для создания классических систем машинного обучения, не использующих нейросети в своей работе. Поскольку эти алгоритмы используют элементы случайности, важной характеристикой их решений является доверительный интервал — диапазон, в котором с высокой вероятностью находится истинное решение.
Традиционные способы построения таких интервалов требуют сложных статистических оценок, в частности явной оценки предельной ковариационной матрицы решения, что может быть дорого с точки зрения затрат времени и ресурсов или давать неточные оценки. Российские и зарубежные ученые заинтересовались тем, можно ли решить эту задачу при помощи простых математических подходов, которые не требует повторного обучения модели и сложных вычислений.
Получение доказательства применимости этого подхода, а также выявленные учеными рамки его применимости помогут улучшить работу большого числа систем машинного обучения, которые используют алгоритмы стохастического градиентного спуска. Это упростит и удешевит решение многих оптимизационных задач, подытожили исследователи.
Источник: ТАСС
Login with Google
Комментарии