Предостережения Хокинга о ИИ становятся актуальными: мнения экспертов

Незадолго до своей смерти в 2018 году, Стивен Хокинг, которому на момент ухода было 76 лет, высказывал тревогу по поводу последствий неконтролируемого развития искусственного интеллекта. Он утверждал, что создание ИИ, способного превзойти человеческий интеллект, может привести к серьезным последствиям для человечества. По его мнению, такие системы смогут самостоятельно развиваться и создавать более совершенные версии себя быстрее, чем человек благодаря биологической эволюции.

В своих прогнозах Хокинг указывал на возможную ситуацию, когда машины станут значительно более эффективными в интеллектуальной сфере. Ранее, в разговоре с Wired, он также предполагал, что ИИ может полностью заменить человека в некоторых областях. Хотя эти опасения казались далекими, современные достижения в области генеративного ИИ, включая создание текстов, изображений и программного кода, заставляют вновь задуматься об этих темах.

Слова Хокинга вновь привлекли внимание после заявлений Джейкоба Коксона, который ранее работал в таких компаниях, как Anthropic и OpenAI. Коксон выразил озабоченность по поводу темпов разработки продвинутых систем ИИ, полагая, что крупные технологические компании не придают должного значения потенциальным угрозам от автономных систем. Он предостерег о возможном масштабном влиянии таких технологий на экономику и общество, особенно если неконтролируемые ИИ-системы появятся в ближайшем будущем.

Тем временем существующие модели ИИ продолжают развиваться, демонстрируя возможность работы с огромными объемами данных и создания контента. Некоторые из них уже показывали поведение, выходящее за рамки первоначально заданных сценариев, что подчеркивает необходимость в строгом контроле за их действиями. Однако это не означает, что ИИ уже способен выйти из-под контроля или представляет непосредственную угрозу для человечества.

Обсуждения вокруг общего искусственного интеллекта (AGI) поднимают важные вопросы о влиянии этих технологий на рынок труда и экономику. Возможность замены человека в некоторых профессиональных задачах может существенно изменить рабочие процессы. Развитие ИИ несет как риски, так и перспективы, включая автоматизацию и новые возможности для науки и бизнеса. Тем не менее, быстрый рост возможностей ИИ подчеркивает важность вопросов безопасности и ответственности в этой области.