Искусственный интеллект в социальных сетях: как фальшивые бизнесы манипулируют покупателями

В социальных сетях TikTok, Instagram и Facebook наблюдается стремительный рост аккаунтов, торгующих различными товарами. Эти эккаунты, созданные с помощью искусственного интеллекта, представляют собой симпатичных персонажей, таких как многодетные или одинокие матери и добрые бабушки.

Под маской владельцев малого бизнеса они обращаются к пользователям с просьбой не делать покупки на китайских маркетплейсах, таких как SHEIN и TEMU. Как сообщает The Verge, существует десятки тысяч подобных аккаунтов, которые предлагают преувеличенно эмоциональные истории о своих трудностях и сложностях с продажами.

Многие из видео используют схожие сценарии, где конкуренты или прохожие якобы портят товары, что побуждает авторов просить зрителей поддержать их бизнес. Пользователи, веря в эти истории, оставляют комментарии, интересуются покупками и тем самым способствуют продвижению таких публикаций. Некоторые товары, предлагаемые на этих аккаунтах, можно найти на маркетплейсах по значительно более низким ценам: например, пряжки, выставленные за 40 долларов, в действительности стоят около 9 долларов на Shein.

Джереми Карраско, глава компании Riddance.ai, занимающейся выявлением контента, созданного ИИ, сообщил, что его команда ежедневно находит до 100 новых аккаунтов, использующих нейросетевых аватаров. По его словам, часть из них может действовать самостоятельно, а некоторые связаны между собой.

Эксперты отмечают, что современные технологии генерации видео способны создавать довольно реалистичных персонажей, что вводит пользователей в заблуждение. Хотя некоторые публикации содержат отметки о том, что контент создан с помощью ИИ, не все пользователи обращают на это внимание.