قابلیت شناسایی محتوای تولید شده توسط هوش مصنوعی حیاتی است، زیرا افراد بیشتری از متن و تصاویر این سرویس‌ها استفاده می‌کنند و قانون هوش مصنوعی (AIA) اتحادیه اروپا مهلت ۲ اوت ۲۰۲۶ را برای ارائه‌دهندگان خدمات هوش مصنوعی تعیین کرده تا اقدامات شناسایی را آغاز کنند. به همین منظور، Anthropic مقاله‌ای راهنما منتشر کرده که جزئیات چگونگی انطباق نسخه‌های جدید Claude با ماده ۵۰ این قانون را به طور خاص شرح می‌دهد.

این قانون با آیین‌نامه اجرایی همراه است که پیشنهاداتی برای پیاده‌سازی ارائه می‌دهد، و مطابق با این آیین‌نامه، تمام مدل‌های جدید Claude متن را واترمارک کرده و داده‌های منشأ را به فایل‌های تولید شده، یعنی تصاویر (با فرمت‌های SVG، PNG و JPG) اضافه خواهند کرد. راهنمایی Anthropic کمی دیر به میدان آمده است، زیرا OpenAI و Google قبلاً نسخه‌های خود را مدتی پیش منتشر کرده بودند.

در مورد متن، برخلاف استگانوگرافی در تصاویر که داده‌ها را در محتوای تصویر پنهان می‌کند، آزمایشگاه می‌گوید که واترمارکینگ با سوگیری در انتخاب توکن‌ها (بخش‌هایی از کلمات) در طول تولید انجام می‌شود. هنگامی که متن تولید شده تحلیل شود، با یک الگوی آماری مشخص مطابقت خواهد داشت که واترمارک را آشکار می‌کند. Anthropic می‌گوید ابزارهای تشخیص را که به دنبال این الگوها هستند، در “مستندات فنی آتی” ارائه خواهد داد.

متنی که کپی و پیست شده و فقط کمی ویرایش شده باشد، باید الگوی قابل شناسایی را حفظ کند. Anthropic می‌گوید که کیفیت و معنای متن تولید شده در نتیجه فرآیند علامت‌گذاری آسیب نخواهد دید. بخش‌هایی از متن کمتر از ۲۰۰ توکن تحت آیین‌نامه اجرایی معاف هستند، زیرا داده‌های کافی برای واترمارک قابل اعتماد را ندارند.

در مورد تصاویر، فرمت‌های فایل ذکر شده از فراداده‌های اضافی متصل به خود تصویر پشتیبانی می‌کنند و Claude شروع به افزودن گواهی منشأ با استفاده از استاندارد C2PA خواهد کرد. به زبان ساده، فایل‌ها یک گواهی دیجیتال مرتبط خواهند داشت که در صورت تغییر فایل به هر شکلی، باطل خواهد شد.

خوانندگان دقیق ممکن است توجه داشته باشند که هیچ اشاره‌ای به واترمارکینگ واقعی تصویر نشده است، و در واقع Anthropic هیچ اشاره‌ای به این ویژگی نکرده است، اگرچه این یک الزام آیین‌نامه اجرایی برای تصاویر، در کنار اطلاعات منشأ است. انتظار می‌رود که این شرکت در مقطعی واترمارک‌های تصویر را پیاده‌سازی کند، در غیر این صورت، صرفاً کپی و پیست کردن محتوای تصویر آن را غیرقابل ردیابی می‌کند.

Anthropic همچنین می‌گوید که در حال کار برای افزودن این قابلیت‌ها به مدل‌های موجود Claude است – همانطور که توسط AIA الزامی شده، با مهلت ۲ دسامبر ۲۰۲۶. راهنمای شرکت با توصیف “مدل‌های راه‌اندازی شده در اتحادیه اروپا” آغاز می‌شود، اما پاراگراف‌های بعدی روشن می‌کنند که “علامت‌گذاری برای خروجی مدل‌های پشتیبانی شده در هر کجا که Claude ارائه می‌شود، در سراسر جهان اعمال خواهد شد.”

متن همچنین اشاره می‌کند که محتوای نقل قول مستقیم ممکن است به اشتباه به عنوان بخشی از پاسخ واترمارک شود، و عدم وجود واترمارک متنی نشانه‌ای نیست که محتوا توسط هوش مصنوعی تولید یا پردازش نشده است. AIA همچنین ارائه‌دهندگان خدمات را ملزم می‌کند تا ابزارهایی برای تشخیص واترمارک‌ها ارائه دهند، و Anthropic می‌گوید که “جزئیات را در مستندات آتی به اشتراک خواهد گذاشت.”