Американские компании разрабатывают защитные меры против неконтролируемого ИИ

В Соединенных Штатах компании занимаются разработкой многоуровневых систем защиты, направленных на предотвращение неконтролируемого поведения алгоритмов искусственного интеллекта.

Сообщается, что, хотя фирмам доступно отключение отдельных серверов, мощные системы ИИ функционируют на множестве компьютеров и платформ, что усложняет задачу. В публикации отмечается, что не существует универсального решения для этой проблемы.

В связи с этим компании экспериментируют с многоуровневыми защитными механизмами, которые должны уметь распознавать подозрительное поведение, останавливать агенты и изолировать их от ресурсов.

Представители OpenAI сообщили, что одной из их целей является разработка полностью автономных процедур отключения в случае серьезных проблем. В этом случае ИИ-наблюдатель сможет предупредить сотрудников о потенциальной опасности и отключить систему в течение 30 минут, если угроза будет подтверждена.

Ранее Олег Павлов, председатель общественной организации «Общественная потребительская инициатива», заявил, что контент, созданный ИИ, не должен выдаваться за продукт, разработанный человеком.