Доктор Хинтон: Искусственный интеллект может угрожать выживанию человечества

Доктор Джеффри Хинтон, британско-канадский ученый в области компьютерных наук, известный своими работами в сфере искусственных нейронных сетей, выразил обеспокоенность по поводу опасностей, связанных с мощными системами искусственного интеллекта.

Хинтон заявил, что если ИИ достигнет состояния 'сверхинтеллекта', когда он станет умнее любого человека, компании или даже целой нации, это может иметь катастрофические последствия для человечества. Он подчеркнул, что на данный момент отсутствует научный консенсус относительно возможности контролировать и безопасно развивать такие технологии.

Его предупреждение прозвучало в контексте законопроекта, инициированного некоммерческой организацией ControlAI и предложенного депутатом от Лейбористской партии Алексом Собелем. Этот законопроект о безопасности искусственного сверхинтеллекта будет представлен в парламенте Великобритании и предполагает запрет на разработку таких систем в стране. Более 135 парламентариев поддержали эту инициативу.

В заявлении ControlAI также отмечается, что эксперты, включая лауреатов Нобелевской премии и руководителей крупных компаний в области ИИ, считают необходимость снижения риска вымирания человечества приоритетной задачей. В то же время, генеральный директор OpenAI Сэм Альтман, который ранее выступал за усиление регулирования, теперь предостерегает от 'чрезмерного регулирования', подчеркивая важность пространства для инноваций.

Хинтон, в свою очередь, предупреждает, что игнорирование необходимости регулирования может привести к исчезновению человечества, если не будут найдены способы сосуществования с ИИ, который может стать значительно более умным и мощным.