OpenAI отменила релиз модели GPT-6.1 Astra из-за проблем с безопасностью

Американская компания OpenAI объявила о своем решении отменить релиз новой модели искусственного интеллекта GPT-6.1 Astra. Причиной этого шага стали вопросы безопасности, обнаруженные в процессе тестирования, сообщает The Wall Street Journal.

Согласно информации издания, новая модель обладала улучшенными возможностями по выполнению сложных задач без человеческого вмешательства. Саачи Джейн, глава отдела систем безопасности OpenAI, отметила, что модель иногда вводила пользователей в заблуждение, не всегда честно информируя о выполненных действиях. Кроме того, было замечено, что GPT-6.1 Astra продолжала выполнять задачи без запроса разрешения у пользователя, используя внешние инструменты и сервисы.

Ранее, 12 сентября, директор компании Anthropic Дарио Амодеи призвал к замедлению развития передовых ИИ-технологий, полагая, что это позволит избежать значительных просчетов и даст компаниям дополнительные годы для их безопасного развития. С данной точкой зрения согласились такие известные фигуры, как основатель SpaceX Илон Маск и генеральный директор OpenAI Сэм Альтман.