В НИТУ МИСИС разработали математический метод проверки надежности искусственного интеллекта
В Университете МИСИС представили математический метод, который позволяет заранее оценить, насколько корректно искусственный интеллект сможет использовать знания, полученные при решении одной задачи, для выполнения другой. В основе разработки — новая теорема, позволяющая формально доказать, в каких случаях перенос знаний между моделями машинного обучения будет надежным.
Современные системы искусственного интеллекта редко обучают «с нуля». Гораздо чаще используют подход, при котором модель сначала обучается на одной задаче, а затем накопленные знания применяются для решения другой. Такой перенос позволяет существенно сократить время обучения и уменьшить объем необходимых данных. Однако заранее определить, сохранит ли модель точность после такого перехода, зачастую невозможно.
Исследователь НИТУ МИСИС предложил математическое решение этой проблемы. Он разработал теорему, которая описывает условия, при которых знания можно корректно переносить между моделями машинного обучения. В отличие от традиционных методов, основанных преимущественно на экспериментальной проверке, новый подход позволяет получить формальное математическое доказательство того, что перенос будет корректным.
В основе работы лежит аппарат математической логики, который широко применяется для проверки правильности сложных компьютерных систем. Учёный адаптировал его для задач искусственного интеллекта, связав процесс переноса знаний с логикой Хоара — одним из наиболее известных методов формальной верификации программ. Благодаря этому стало возможным не только экспериментально оценивать работу модели, но и доказывать, при каких условиях она сохранит свои свойства после обучения на новых данных.
Источник: НИТУ «МИСиС»
Login with Google
Комментарии