Apple ограничила приём сообщений о багах из-за проблем с ИИ-отчётами

Apple приняла решение о введении ограничений на количество сообщений об ошибках, которые исследователи могут отправлять в службу безопасности. Это стало результатом перегрузки системы проверки, вызванной ростом 'некачественных' отчётов, создаваемых ИИ, которые могут содержать ложные данные о безопасности программного обеспечения.

По информации компании, использование искусственного интеллекта помогло в обнаружении реальных уязвимостей, однако оно также привело к увеличению числа сообщений от пользователей, использующих ИИ для поиска багов. Apple отметила, что в связи с высоким объёмом таких сообщений было принято решение ограничить количество новых отчётов, которые исследователь может открыть одновременно. Исследователи могут запросить увеличение этого лимита, чтобы критически важные отчёты могли быть рассмотрены специалистами по безопасности.

Кроме того, был установлен 30-дневный период ожидания для отправки сообщений через внутренний портал безопасности. Как указала компания, все поступающие сообщения требуют проверки человеком, хотя для их предварительной сортировки применяется ИИ.

Итальянский стартап в области кибербезопасности Bynario сообщил, что из-за этих ограничений он не смог своевременно передать Apple отчёт о выявленных уязвимостях, включая серьёзные проблемы с повышением привилегий в macOS. Bynario утверждает, что за три недели с помощью OpenAI ChatGPT было обнаружено более 50 ошибок в последней версии операционной системы.

Apple подтвердила, что рассматривает отчёты Bynario. Компания также использует ИИ для оптимизации своего программного обеспечения. По её словам, инструменты от Anthropic и OpenAI помогли выявить множество уязвимостей, и последние обновления ПО содержат в пять раз больше исправлений безопасности по сравнению с предыдущими версиями.