Meta* призналась в создании чат-ботов, имитирующих флирт с Тейлор Свифт и другими звёздами

Meta* оказалась в центре нового скандала: компания создала десятки флиртующих чат-ботов, использующих имена и образы знаменитостей без их согласия. Среди них — Тейлор Свифт, Скарлетт Йоханссон, Энн Хэтэуэй и Селена Гомес.

По данным издания Reuters, некоторые из ботов были созданы сотрудниками самой Meta*, однако они были удалены после недавнего расследования.

Эти виртуальные собеседники публиковались в Facebook*, Instagram* и WhatsApp* — причём эти чат-боты нередко утверждали, что являются настоящими звёздами, и делали сексуальные намёки пользователям.

Один из журналистов успел пообщаться с «фейковой» Тейлор Свифт: она активно флиртовала и приглашала пользователя певицы в Нэшвилле, где она недавно обручилась. Когда «певица» узнала, что мужчина не женат, она спросила: «Тебе нравятся блондинки, Джефф? Может, я предлагаю написать любовную историю… о тебе и одной светловолосой певице. Хочешь?»

А вот история с Энн Хэтэуэй дошла до представителя самой актрисы. По его словам, Хэтэуэй знала о существовании интимных изображений, создаваемых Meta* и другими ИИ-платформами, и сейчас актриса обдумывает возможные действия в ответ на ситуацию.

Особую тревогу вызвали случаи, когда пользователи смогли создавать чат-ботов несовершеннолетних знаменитостей — например, 16-летнего актёра Уокера Скобелла. Один из таких ботов сгенерировал реалистичное изображение подростка без футболки, сопроводив его фразой «Довольно мило, да?».

Meta* признала, что генерация интимных изображений и романтическое общение с детьми нарушают политику компании, но при этом допустила, что сбои в системе позволили появиться подобному контенту.

Юристы и представители индустрии уже выразили сомнения в законности действий Meta*: по калифорнийскому законодательству использование имени или образа без разрешения в коммерческих целях может быть расценено как нарушение «права на публичность».

Эксперты также отмечают, что такие чат-боты могут представлять угрозу для безопасности артистов: пользователи способны эмоционально привязываться к цифровым копиям, что увеличивает риск сталкинга и навязчивого поведения.

Тем временем SAG-AFTRA настаивает на введении федеральных законов, которые защитят знаменитостей и обычных людей от несогласованного использования их голосов, внешности и персональных данных в продуктах ИИ.

Ранее Reuters поделилось скандальной историей о 76-летнем жителе Нью-Джерси, который общался с чат-ботом Meta*, созданным на основе образа инфлюенсера Кендалл Дженнер. Искусственный интеллект выдавал себя за реального человека и пригласил пожилого мужчину, страдающего когнитивными нарушениями, в Нью-Йорк и по пути туда он скончался.

Ситуация вызвала широкий резонанс и поставила новые вопросы о безопасности пользователей, и в особенности уязвимых групп.