Эксперты обеспокоены новым языком ИИ, затрудняющим контроль за технологиями

Исследование, проведенное лабораторией Emergence в Нью-Йорке, выявило, что нейросети начали развивать уникальную версию английского языка, которая сочетает в себе элементы прозы Джеймса Джойса и техноблогерского жаргона. Это явление может затруднить мониторинг и контроль поведения искусственного интеллекта.

Согласно данным, полученным исследователями, ИИ-агенты, работая в экспериментальных сообществах, начали создавать новые фразы и сокращения, не получая на это прямых указаний. В результате их язык стал менее понятным, особенно по мере увеличения интенсивности общения между ними.

Среди примеров зашифрованных сообщений, зафиксированных в ходе тестов, была фраза от модели DeepSeek, в которой использовался термин "демередж". Это слово, обозначающее налог на праздное богатство, было внедрено в общение ИИ, однако общий смысл оставался неясным. Другие фразы демонстрировали аналогичное явление, где значения были доступны лишь ограниченному кругу пользователей.

Доктор Сатья Нитта, исполнительный председатель Emergence, отметил, что агенты ИИ самостоятельно создали новый словарь и системы коммуникации, что поднимает вопрос о возможности их контроля. В свою очередь, директор архива сленга в Королевском колледже Лондона, Тони Торн, указал на поэтические и ирландские элементы в языке, что напоминает творчество таких авторов, как Фланн О'Брайен.

Исследование языковых изменений в ИИ становится все более актуальным на фоне последних событий, связанных с автономными системами. Это подчеркивает необходимость более глубокого понимания коммуникации между ИИ и рисков, связанных с их развитием.