Как ИИ учат забывать и избегать ошибок
Новые подходы в машинном обучении позволяют моделям забывать ненужные данные и избегать галлюцинаций. Эти технологии призваны улучшить точность ИИ и его применение в критически важных отраслях, таких как строительство и архитектура
Мир машинного обучения продолжает развиваться, и на передний план выходят новые технологии, позволяющие искусственному интеллекту (ИИ) стать еще более надежным инструментом. Теперь разработчики обучают ИИ забывать ненужные данные и избегать так называемых «галлюцинаций» — создания ложных или неточных фактов.
Недавно на рынке появился первый маркетплейс датасетов для обучения ИИ — David AI. На этой платформе собраны высококачественные наборы данных, которые можно приобрести целиком или выбрать только нужные элементы. Для заказчиков также доступна возможность создания уникальных датасетов на основе запросов.
Одной из ключевых задач современного машинного обучения стало обучение моделей забывать. Этот метод позволяет ИИ удалять из своей памяти определенные данные, что делает процесс работы более быстрым и дешевым по сравнению с полным переобучением. Такие технологии особенно важны в строительной отрасли, где точность данных имеет решающее значение. Забывание помогает ИИ работать с более актуальной информацией, снижая риск ошибок при проектировании или управлении строительными проектами.
Кроме того, ученые из Cornell выяснили, что даже самые передовые языковые модели, такие как GPT-4, могут создавать ложные или неточные факты. В 1 из 5 случаев модели ошибаются, что ограничивает их применение в критически важных отраслях, включая строительство, где ошибка может стоить слишком дорого. Чтобы решить эту проблему, ведущие компании, такие как Microsoft и Nvidia, разрабатывают методы, помогающие моделям избегать таких ошибок.
Эти нововведения направлены на повышение доверия к ИИ и его интеграцию в важнейшие сферы, такие как архитектура и строительство, где точность и надежность играют ключевую роль.
Источник: ЦифраСтрой
Login with Google
Комментарии