Китайская стартап-компания DeepSeek, известная своими достижениями в области искусственного интеллекта, объявила о запуске первой страновой версии своего чат-бота для Италии. Это решение стало результатом длительных переговоров с итальянским антимонопольным органом AGCM, который ранее наложил запрет на использование данных пользователей из-за опасений по поводу конфиденциальности.
AGCM обвинил DeepSeek в недостаточном информировании пользователей о возможных "галлюцинациях" — ошибочных выводах, которые могут возникать в процессе работы чат-бота. В результате расследования, завершившегося на прошлой неделе, компания согласилась сделать свои предупреждения о рисках более прозрачными и доступными для пользователей.
В рамках соглашения DeepSeek обязалась снизить уровень галлюцинаций в своих моделях с помощью технических улучшений. Однако AGCM отметил, что полностью устранить этот феномен невозможно, так как он является глобальной проблемой для всех моделей ИИ.
Согласно информации регулятора, DeepSeek представила свои предложения по улучшению 15, 22 сентября и 21 ноября, включая предупреждения о галлюцинациях и информацию о правилах использования на итальянском языке, которые ранее были доступны только на китайском и английском. Теперь, если система обнаруживает итальянский IP-адрес или запрос на итальянском языке, пользователи будут получать предупреждения на своем языке.
Кроме того, DeepSeek уже внедрила более подробное предупреждение о галлюцинациях на итальянской версии своего чат-бота. Компания также планирует провести семинары для сотрудников, чтобы обеспечить полное понимание итальянского законодательства о защите прав потребителей.
DeepSeek должна предоставить отчет о выполнении обязательств AGCM в течение 120 дней. В противном случае расследование может быть возобновлено, и компании грозит штраф до 10 миллионов евро.