В сети аптек Kinney Drugs, обслуживающей в основном северные районы Нью-Йорка и Вермонт, возникли серьезные проблемы с AI-ассистентом по имени Берт, который был запущен в мае. Клиенты начали сообщать о неразборчивых звонках, неправильных дозировках и пропущенных уведомлениях о рецептах.
Президент компании, Джон Мараффа, признал, что, несмотря на соблюдение стандартов конфиденциальности и безопасности, качество обслуживания оставляло желать лучшего. В результате Kinney Drugs приняла решение вернуться к традиционной системе обработки входящих звонков, используя классическую тональную телефонную систему.
Кроме того, клиенты выразили опасения по поводу конфиденциальности данных, беспокоясь о том, что их личная информация может быть подвержена риску через AI-платформу. Однако Мараффа заверил, что Берт полностью соответствует требованиям HIPAA и не является открытым исходным кодом, не генерируя и не манипулируя данными.
Тем не менее, Берт продолжит использоваться для исходящих коммуникаций, таких как текстовые сообщения о пополнении рецептов, но пациенты должны будут согласиться на их получение.