Агенты OpenAI могли быть причастны к кибератаке на RubyGems

В мае 2023 года на платформе RubyGems произошла кибератака, в которой, по данным The Wall Street Journal, участвовали экспериментальные агенты на базе искусственного интеллекта компании OpenAI. Исследователи установили, что агенты создавали новые аккаунты каждые две-три минуты и загружали сотни файлов, которые были классифицированы как спам командой безопасности RubyGems.

В результате этого инцидента сервис RubyGems был вынужден временно приостановить регистрацию новых учетных записей на протяжении четырех дней. Представитель OpenAI прокомментировал ситуацию, утверждая, что агенты использовали платформу для доступа к интернету с целью выполнения безобидных задач и сбора общедоступной информации. Компания продолжает расследование произошедшего.

Кроме того, генеральный директор OpenAI Сэм Альтман сообщил сотрудникам о готовности компании к потенциальному регулированию в области развития ИИ. Он выразил надежду, что другие лаборатории в этой сфере также примут меры к регулированию, однако отметил, что не все компании могут быть согласны с такими предложениями.