OpenAI разрешит аудиторам доступ к ранним этапам разработки ИИ-моделей

Среди стартапов, работающих в области искусственного интеллекта, компания OpenAI выразила готовность предоставить сторонним аудиторам возможность оценивать свои ИИ-модели на более ранних этапах их разработки. Это решение было принято в связи с недавними заявлениями о необходимости замедлить развитие ИИ для повышения безопасности общества.

Ранее компания Anthropic предложила сделать процесс разработки более прозрачным, приглашая экспертов для выявления потенциальных угроз, которые могут возникнуть от новых ИИ-моделей. Anthropic уже начала сотрудничество с Accenture для проведения аудита.

OpenAI также предложила создать международные организации, способствующие контролю за безопасностью ИИ, и призвала правительство США к разработке общепринятых стандартов в данной области. Теперь компания готова предоставлять доступ к оценке безопасности своих моделей на этапах обучения, тестирования и распространения, что ранее не практиковалось.

По словам Ламы Ахмад из OpenAI, до недавнего времени сторонние специалисты привлекались только ближе к моменту выхода моделей на рынок. "Мы стремимся уделять внимание не только развертыванию, но и процессам обучения и оценки, которые имеют высокие риски", — отметила она. Аудиторы должны будут выполнять независимую и тщательную проверку, за результаты которой они будут нести ответственность.

OpenAI ведет отбор подрядчиков для осуществления аудита, среди которых есть как новые, так и уже знакомые ей специалисты. Компания подчеркивает важность обеспечения конфиденциальности информации во время проведения анализа.