آنتروپیک اعلام کرده است که برای تطبیق با مقررات اتحادیه اروپا، نحوه انجام انتخابهای کوچک و تصادفی در چتبات کلود را تغییر میدهد تا متنهای تولیدشده توسط هوش مصنوعی قابل شناسایی باشند. این شرکت قصد دارد نوعی واترمارک دیجیتال به خروجی مدل اضافه کند؛ مکانیزمی که معمولاً با دستکاری ظریف در انتخاب واژهها و ساختار جملات، اثری نامحسوس اما قابل تشخیص بر متن میگذارد.
ناظران میگویند این تصمیم پاسخی به مصوبات تازهای است که از غولهای هوش مصنوعی میخواهند محتوای ماشینی را برای کاربران و نهادهای ناظر شفاف کنند. اما پرسشی که ذهن بسیاری را درگیر کرده این است که آیا این اقدام به افت کیفیت خروجی منجر خواهد شد یا نه. سالهاست متنهای ماشینی با کلیشههای شناختهشدهای همراهاند: استفاده بیرویه از واژههایی مانند «delve»، زیادهروی در خط تیرهها و ساختارهای تکراری از نوع «نه X بلکه Y». تغییر در فرایند انتخابهای تصادفی مدل میتواند این نشانهها را پررنگتر یا گاه متفاوت کند.
آنتروپیک تأکید کرده است که تلاش میکند تأثیر واترمارک بر کیفیت پاسخها را به حداقل برساند، اما جزئیات فنی و زمان اجرای این تغییر هنوز بهطور کامل اعلام نشده است. به نظر میرسد این نخستین گام از موجی گستردهتر باشد که در آن شرکتهای بزرگ هوش مصنوعی ناگزیرند شفافیت را با کیفیت محصول خود آشتی دهند؛ معادلهای که نتیجه آن در ماههای آینده برای میلیونها کاربر کلود قابل مشاهده خواهد بود.