Ситуация вокруг Луиджи Манджоне, главного подозреваемого в убийстве Брайана Томпсона, CEO UnitedHealthcare, продолжает вызывать общественный резонанс. После его ареста пользователи начали создавать AI-чат-ботов, основанных на его онлайн-постах и личной истории. На платформе Character.ai было зарегистрировано до 13 таких ботов, и, по данным Graphika, три из них успели провести более 10,000 чатов до их отключения.
Несмотря на попытки модерации, некоторые боты все еще активны. Один из них даже признался в убийстве, а другой утверждал, что его подставили. Аналитик Graphika, Кристина Лопес, отметила, что эти боты представляют собой новую интерпретацию старой американской традиции — прославления насилия и идолизации предполагаемых убийц. Она подчеркнула, что это дает возможность пользователям участвовать в общественном дискурсе, что может быть эмоционально заряженным опытом.
Представитель Character.ai сообщил, что компания добавила Манджоне в черный список и активно удаляет ботов, основанных на его личности. Однако, когда Forbes обратился к двум активным ботам с вопросом о насилии против других руководителей здравоохранения, один из них ответил, что насилие следует осуществить, но не сейчас. Второй бот, который также утверждал, что обучен на большом объеме текстов, заявил, что насилие неправильно и незаконно.
Character.ai была основана бывшими инженерами Google в 2021 году и недавно была оценена в 1 миллиард долларов после раунда финансирования. Однако компания сталкивается с юридическими исками, в которых утверждается, что ее чат-боты способствуют насилию. В ответ на эти иски Character.ai заявила, что работает над новой моделью для подростков, чтобы улучшить обнаружение и реагирование на проблемы, такие как суицид.
Тем временем, другие пользователи создают версии Манджоне на различных платформах, включая OMI AI Personas и Chub.ai. Эти события подчеркивают, что мы только начинаем осознавать потенциальные риски и возможности, которые предоставляет генеративный ИИ. Кристина Лопес отметила, что мы лишь начали исследовать поверхность того, что могут сделать эти инструменты для пользователей.