Substack внедрил маркировку публикаций, созданных ИИ, для повышения доверия пользователей

Платформа Substack представила новый инструмент, разработанный на основе технологии Pangram, который позволяет оценивать вероятность использования искусственного интеллекта при написании публикаций. Эта функция помогает пользователям понять, какой процент текста мог быть сгенерирован нейросетью, что может повлиять на решение о целесообразности его чтения.

Функция, доступная через опцию Scan for AI text, анализирует тексты длиной более 100 слов, включая основные статьи, заметки, ответы и комментарии. Разработчики Pangram описывают свой инструмент как вспомогательный для читателей, стремящихся разобраться в источниках информации. Однако стоит отметить, что система предоставляет только вероятностную оценку, не классифицируя тексты как «качественные» или «некачественные».

Кроме того, Substack представил функцию How I make this, которая позволяет авторам делиться с читателями информацией о процессе создания своих материалов. Авторы также смогут проверять свои черновики и сообщать о возможных ошибках в работе детектора.

Крис Бест, сооснователь и генеральный директор Substack, отметил, что Pangram лишь оценивает вероятность применения ИИ в тексте, но не может определить уровень человеческого участия или уточнить, использовался ли ИИ как вспомогательный инструмент.

В компании уверены, что такие проверки помогут укрепить доверие между авторами и читателями, поскольку распространение недостоверного контента может негативно сказаться на репутации писателей. Бест подчеркивает, что «платформы, поддерживающие фальшивую информацию, приведут к гонке на выживание». Новый инструмент уже доступен в веб-версии Substack и в приложении для iOS, а поддержка Android будет добавлена позже.