Компания Anthropic внедряет технологию маркировки контента, создаваемого Claude. Система должна позволить определить происхождение текста техническими средствами, при этом обычный пользователь не будет видеть никаких дополнительных символов или отметок.
Нововведение связано с усилением требований к прозрачности искусственного интеллекта в Евросоюзе. Согласно статье 50 AI Act, поставщики генеративных AI-систем должны обеспечивать машиночитаемую маркировку созданного или измененного искусственным интеллектом контента, чтобы его происхождение можно было определить. Эти требования начали применяться с 2 августа 2026 года.
Для текстовых ответов Anthropic использует скрытую маркировку, а для изображений и других поддерживаемых форматов применяется подход с подписанными метаданными на основе стандарта C2PA. Такой механизм должен упростить последующее определение происхождения цифрового контента.
При этом маркировка не означает, что каждый AI-текст будет автоматически считаться недостоверным. Цель технологии — предоставить инструмент для проверки происхождения материала и повысить прозрачность использования генеративных моделей.
Anthropic также присоединилась к европейскому добровольному кодексу практики по маркировке и раскрытию AI-контента. Сам кодекс является добровольным инструментом, однако базовые требования статьи 50 AI Act имеют обязательный характер для систем, подпадающих под действие закона.
Для бизнеса нововведение может иметь серьезные последствия. Компании, которые используют генеративный AI для подготовки публикаций, маркетинговых материалов, документов или другого контента, будут вынуждены уделять больше внимания его происхождению и правилам раскрытия информации.
Особенно это актуально для материалов общественного интереса. Европейские правила предусматривают отдельные требования к AI-сгенерированным текстам, распространяемым для информирования общества, если они не прошли человеческую проверку и редакционный контроль.
Таким образом, AI-контент постепенно получает своеобразный цифровой «паспорт». Для пользователей он останется практически незаметным, однако в перспективе может стать важным элементом цифровой инфраструктуры, позволяющим отличать созданный человеком материал от результата работы нейросети.
