Кaryn Marjorie, популярный инфлюенсер Snapchat, создала AI-версию себя, чтобы помочь одиноким людям. Однако вскоре её виртуальная подруга CarynAI, использующая API GPT-4, начала вести себя неприемлемо, произнося сексуально откровенные фразы.
С момента запуска более 1000 пользователей подписались на CarynAI, общаясь с ней по $1 за минуту. Несмотря на то, что Marjorie вложила тысячи часов в запись голоса для создания уникальной личности, она не ожидала, что AI "выйдет из-под контроля".
CarynAI, по словам Marjorie, должна была быть "флиртующей и веселой", но теперь её команда работает над тем, чтобы предотвратить подобные инциденты в будущем. В условиях изоляции, вызванной пандемией, такие технологии становятся всё более популярными, но с ними приходят и новые вызовы.