Правительство США ужесточает контроль над развитием передовых систем искусственного интеллекта на этапе их разработки
Правительство США усиливает контроль над развитием передовых систем искусственного интеллекта, смещая акцент на более ранние стадии их создания, чтобы выявлять потенциальные риски еще до публичного запуска. В рамках новых соглашений такие компании, как Microsoft, Google и xAI, предоставят федеральным ведомствам доступ к своим новейшим моделям ИИ на этапе разработки. Этот шаг отражает растущую обеспокоенность в Вашингтоне тем, что современные системы могут быть использованы для кибератак или в военных целях, если их развитие останется без должного контроля.
Ключевую роль в новой инициативе играет Центр стандартов и инноваций в области ИИ при Министерстве торговли США, который будет проводить оценку моделей до их внедрения. Основная задача специалистов — изучить возможности систем и выявить уязвимости на ранней стадии. Эта политика продолжает курс, обозначенный в 2025 году администрацией Дональда Трампа, направленный на сотрудничество государства и технологических компаний в вопросах национальной безопасности.
Соглашения предусматривают предоставление государственным исследователям специальных версий моделей с ослабленными защитными механизмами. Это позволит более глубоко анализировать сценарии потенциального злоупотребления. В Microsoft отметили, что будут работать совместно с федеральными учеными для тестирования систем на предмет неожиданных форм поведения, а также участвовать в разработке общих наборов данных и методик тестирования. Ранее компания уже заключала аналогичное соглашение с британским Институтом безопасности ИИ.
Белый дом рассматривает дополнительные меры регулирования. По имеющимся данным, обсуждается создание специальной группы для проверки ИИ-систем до их публичного релиза. Такой подход может означать отход от прежней политики минимального вмешательства в развитие технологий.
На текущем этапе крупнейшие технологические компании демонстрируют готовность к сотрудничеству, предоставляя ранний доступ к своим разработкам и тем самым снижая риск введения более жесткого регулирования. В свою очередь, правительство получает возможность глубже изучить технологии, которые в ближайшие годы могут существенно повлиять как на сферу безопасности, так и на характер ведения войн.
Новые соглашения ясно демонстрируют изменение стратегии: Вашингтон больше не намерен реагировать на угрозы, связанные с искусственным интеллектом, постфактум, а стремится выявлять их еще до того, как они проявятся.
Источник: Новая Наука
Login with Google
Комментарии