Недавний инцидент с чат-ботом на платформе Character AI вызвал бурю эмоций у Дрю Кресенте, который получил уведомление о создании виртуального персонажа, использующего имя и фото его дочери Дженнифер, убитой 18 лет назад. Дрю был потрясен, узнав, что кто-то использовал память о его дочери для создания чат-бота, который, по его словам, "шокирует совесть" и является недопустимым поведением.
Дженнифер была убита в 2006 году, и с тех пор Дрю активно работает над предотвращением насилия в подростковых отношениях через свой благотворительный фонд. Он немедленно обратился в службу поддержки Character AI, где получил автоматический ответ о том, что его жалоба рассматривается. Вскоре после этого чат-бот был удален с платформы за нарушение правил о подделке личности.
Character AI, основанная в 2022 году, привлекла внимание молодежи, предлагая возможность взаимодействовать с чат-ботами, представляющими знаменитостей и вымышленных персонажей. Однако, после недавних кадровых изменений и ухода ключевых сотрудников в Google, компания столкнулась с трудностями и решила сосредоточиться на своем основном продукте.
Дрю Кресенте считает, что такие компании должны нести юридическую ответственность за подобные инциденты и активно предотвращать их. "Это не должно быть на мне — контролировать компанию с сотнями миллионов долларов", — говорит он.