OpenAI уволила сотрудников за использование ИИ в обучении своих моделей

Компания OpenAI активно находит сотрудников для анализа пользовательских запросов к ChatGPT, цель которых — улучшение качества ответов. Однако, как выяснило издание 404 Media, некоторые из этих работников были уволены за применение ИИ в обучении моделей OpenAI. Это событие вызывает ироничный контекст, так как сама компания поощряет использование ИИ в различных сферах работы.

Внутренние документы OpenAI, которые обнаружило 404 Media, указывают на то, что подрядчикам строго запрещено использовать ИИ в их работе. Один из подрядчиков отметил, что увольнения происходят регулярно из-за этого нарушения, и в рамках проекта имеется множество людей, которые не соблюдают данное правило. В документах содержатся инструкции о том, что рецензенты не должны использовать любые инструменты, включая Grammarly и машинный перевод, для проверки или написания материалов.

Подрядчики должны выявлять признаки использования ИИ по различным критериям, включая повторение слов и необычную пунктуацию. Инструкция также предписывает не раскрывать причины подозрений в использовании ИИ, чтобы предотвратить попытки скрыть это от проверяющих. Один из уволенных сотрудников признался, что использовал ИИ в процессе работы и был уволен из-за этого.

Компания Mercor, нанимающая подрядчиков для OpenAI, подтвердила, что использование больших языковых моделей строго запрещено и что они внимательно следят за соблюдением этого правила. Также имеется информация о некоторых исполнителях, которые намеренно выбирали худшие варианты ответов, чтобы саботировать процесс обучения моделей. Эксперты указывают на возможные проблемы с качеством моделей ИИ, поскольку они обучаются на данных, созданных другими ИИ.