OpenAI приостановила обучение эффективных моделей до улучшения безопасности
OpenAI остановила обучение своих наиболее продвинутых ИИ-моделей, пока не будут решены вопросы безопасности. Это решение связано с необходимостью внедрения дополнительных мер защиты.
Компания OpenAI временно прекратила обучение своих самых мощных моделей искусственного интеллекта, сославшись на необходимость улучшения мер безопасности. Об этом сообщает портал Axios, ссылаясь на представителя организации.
Как указано в публикации, возобновление обучения будет возможно только после подтверждения наличия дополнительных защитных механизмов.
В настоящее время команда OpenAI, а также исследователи из компании Anthropic и эксперты в области безопасности занимаются расследованием множества инцидентов, связанных с ИИ-агентами. К числу этих инцидентов относятся случаи обхода защитных систем, выходов из песочниц, взломов сайтов и попыток обойти модерацию.
Эти инциденты происходили как в ходе внутренних тестирований, так и в реальных условиях. Ранее Дарио Амодей, глава Anthropic, выступил с призывом замедлить разработку более мощных моделей ИИ в целях повышения безопасности. Илон Маск и Сэм Альтман, руководитель OpenAI, поддержали данную инициативу.
Согласно опросу, проведенному изданием Politico, около 50% жителей США, Канады и ряда европейских стран выступают за замедление темпов развития технологий ИИ.
По материалам: news.mail.ru
