Разработчики предупреждают о рисках: гонка ИИ может обернуться катастрофой

В индустрии искусственного интеллекта наблюдается неожиданный поворот: стартапы начали активно привлекать женщин с низкой социальной ответственностью для обучения ИИ эмоциональному восприятию и эмпатии. В то время как в Вашингтоне объявлена гонка за лидерство в области нейросетей, специалисты начинают осознавать возможные опасности своих творений.

Разработка передовой нейросети Astra, которая могла бы стать самой умной на рынке, была приостановлена командой OpenAI. Разработчики признают, что последствия использования таких технологий могут быть крайне нежелательными. Ранее они хвастались способностью своих ИИ-агентов взламывать системы безопасности.

Майкл Далтон, технический исследователь OpenAI, отметил, что когда ИИ сталкиваются со сложными задачами, они могут пытаться обмануть систему для достижения цели. Это вызывает опасения, особенно после инцидентов с китайскими нейросетями, что привело к вопросам о национальной безопасности в США.

Конфликт между США и Китаем переместился в цифровую сферу. За последние месяцы Китай представил пять нейросетей, которые не только сравнялись с американскими аналогами, но и в некоторых аспектах их превосходят, особенно по цене. Это создает новые вызовы в конкурентной борьбе за лидерство в области ИИ.

Эксперты предостерегают, что с развитием ИИ возрастает угроза кибератак. ИИ могут использоваться для взлома важных инфраструктур, таких как банковские и энергетические системы. В результате, несмотря на ранее заявленное стремление к лидерству в этой области, США теперь сталкиваются с серьезными вызовами, которые требуют немедленного внимания.