Вандализм на фоне фейка о золотых дорожных камерах: ИИ Google подогревает слухи

Алгоритм AI Overview от Google стал источником недостоверной информации о дорожных камерах Flock Safety, утверждая, что в каждой из них содержится от 1 до 5 граммов золота и от 0,9 до 10,4 килограммов меди. Это привело к оценке стоимости золота в одной камере примерно в 650 долларов США. Однако алгоритм не учел, что масса самой камеры составляет всего 1,36 килограмма, продолжая распространять искаженные данные, что вызвало случаи вандализма.

Ситуация усугубилась на фоне ранее возникших скандалов, связанных с системой наблюдения Flock Safety, когда полицейские использовали ее в личных целях. Утверждения о высоком содержании драгоценных металлов в камерах, а также общественное недовольство постоянным контролем способствовали распространению фейка. В данном случае искусственный интеллект сам подхватил и начал транслировать недостоверную информацию.

На самом деле золото и медь действительно присутствуют в таких устройствах, но в крайне незначительных количествах, в основном в покрытиях контактов и отдельных компонентах. После выявления проблемы Google внес изменения в AI Overview, добавив предупреждение о том, что информация о значительных количествах металлов является шуткой и результатом ошибок ИИ. Реальное содержание драгоценных металлов в таких устройствах соотносится с обычной электроникой и составляет микрограммы.

Случай с «золотыми камерами» ярко иллюстрирует, как генеративный ИИ может повторять и распространять ложные факты. Поражает, что платформа не провела элементарную проверку данных, так как масса меди предполагалась значительно больше массы всего устройства. Точное количество пострадавших камер неизвестно, но и без участия ИИ в прошлом уже были случаи вандализма, например, с сотовыми вышками.