Медведев о рисках, связанных с искусственным интеллектом

Дмитрий Медведев, занимающий пост заместителя председателя Совета безопасности России, отметил, что разработчики искусственного интеллекта (ИИ) признают возможность возникновения катастрофических ситуаций из-за их технологий.

По его словам, создатели ИИ-систем больше беспокоятся о возможных судебных исках, чем о глобальных последствиях для человечества. Медведев указал на то, что реальная угроза заключается в ситуациях, когда высокоразвитый ИИ, управляющий крупными предприятиями или транспортными системами, может вызвать значительный ущерб, например, в случае катастрофы с самолетами или на атомной электростанции.

Он подчеркнул, что в таком случае разработчики ИИ могут столкнуться с многомиллиардными исками или даже более серьезными последствиями. В своих комментариях в соцсети MAX Медведев выразил мнение, что угрозы со стороны ИИ, обладающего значительной мощью, могут не быть столь очевидными, как кажется.

Ранее исследователь в области ИИ Джейкоб Коксон также высказал свое беспокойство, покинув свою должность из-за страха потери контроля над технологиями. Он отметил, что разработчики слишком спешат с внедрением ИИ, не учитывая возможные негативные последствия. Коксон особенно обеспокоен тем, что создаются системы, которые способны выполнять задачи лучше, чем люди.