Сэм Альтман предупредил о рисках быстрого развития ИИ и потере контроля над ним

На заседании Совета Безопасности ООН 23 сентября Сэм Альтман, руководитель компании OpenAI, подчеркнул, что системы искусственного интеллекта становятся все более автономными и могут развиваться быстрее, чем способны реагировать существующие институты. Это создает риск концентрации власти в руках ограниченного числа игроков и принятия решений, которые становятся непонятными для людей.

Альтман отметил, что ситуация требует особого внимания, особенно с учетом приближения к системам, которые способны к рекурсивному самоулучшению. Он предупредил, что автоматизация процесса создания ИИ может значительно ускорить его развитие, что в свою очередь ставит под угрозу возможности государств и международных организаций по его регулированию и контролю.