Китайская администрация киберпространства (CAC) совместно с несколькими государственными министерствами анонсировала новые правила, согласно которым весь контент, созданный с помощью ИИ, должен быть четко обозначен. Это может быть сделано как в описании, так и через метаданные. Данная инициатива стала важным шагом в условиях, когда интернет заполняется низкокачественным контентом, созданным искусственным интеллектом.
Регуляторы давно бьют тревогу по поводу использования технологий для распространения дезинформации и материалов, которые могут причинить вред. В отличие от Китая и Европейского Союза, которые усиливают контроль над ИИ-контентом, в США ситуация обстоит иначе. Бывший президент Джо Байден пытался решить эту проблему через указ в 2023 году, но его преемник Дональд Трамп отменил эти меры, открыв двери для более свободного использования генеративного ИИ.
Теперь Китай вводит новые правила, требующие от интернет-провайдеров маркировать ИИ-контент. CAC заявила, что «Закон о маркировке поможет пользователям выявлять дезинформацию и привлечь поставщиков услуг к ответственности за маркировку их контента». В рамках новых правил операторы магазинов приложений должны будут пересмотреть механизмы маркировки, чтобы соответствовать новым требованиям.
Пользователи также обязаны будут указывать, когда они публикуют контент, созданный ИИ. За изменение меток ИИ-контента после публикации могут быть предусмотрены штрафы. Однако с учетом того, что различить ИИ-контент от настоящего становится все сложнее, остаются вопросы о том, насколько эффективны и исполнимы эти правила.
Ранее попытки маркировки ИИ-контента уже сталкивались с трудностями. Например, Meta пыталась внедрить метку «Создано с помощью ИИ» на своих платформах, но пользователи быстро заметили, что настоящие фотографии ошибочно помечались как ИИ-контент. В то же время поток низкокачественного ИИ-контента на интернет-платформах продолжает расти, вызывая недовольство пользователей.
Таким образом, новые правила Китая могут стать важным шагом в борьбе с дезинформацией и защитой пользователей, но их реальная эффективность и возможность исполнения остаются под вопросом.