एंथ्रोपिक अपने क्लॉड AI मॉडल के लिए एक नई वॉटरमार्किंग प्रणाली विकसित कर रहा है, जिसका उद्देश्य यूरोपीय संघ के उन नियमों का पालन करना है जो AI द्वारा तैयार की गई सामग्री की पहचान को अनिवार्य बनाते हैं। यह प्रणाली क्लॉड के टेक्स्ट जनरेशन प्रक्रिया में सांख्यिकीय बदलाव करेगी, जो पाठकों के लिए अदृश्य रहेंगे लेकिन तकनीकी उपकरणों से पहचान योग्य होंगे।
वॉटरमार्किंग के इस कदम ने बहस छेड़ दी है कि इससे AI-जनरेटेड टेक्स्ट की गुणवत्ता प्रभावित हो सकती है या नहीं। आलोचकों का मानना है कि शब्द चयन की प्रक्रिया में बदलाव से मॉडल की स्वाभाविक और सटीक शब्दों को चुनने की क्षमता में कमी आ सकती है। हालांकि, कंप्यूटर विज्ञान के विशेषज्ञों का तर्क है कि प्रभाव मामूली होगा, क्योंकि AI मॉडल पहले से ही शब्द चयन में यादृच्छिकता का उपयोग करते हैं।
विशेषज्ञों के अनुसार, वॉटरमार्किंग प्रणाली मॉडल की रैंडमनेस को समाप्त नहीं करेगी। इसके विपरीत, यह सांख्यिकीय रूप से पूर्वानुमानित विकल्पों का निर्माण करेगी जिससे AI-जनरेटेड टेक्स्ट की पहचान की जा सके।
इस नई प्रणाली का एक और लाभ यह हो सकता है कि वह इंटरनेट पर बढ़ती AI-जनरेटेड सामग्री से संबंधित चिंताओं को कम करे। विशेषज्ञों ने आगाह किया है कि यदि भविष्य के AI मॉडल बड़े पैमाने पर AI-जनरेटेड कंटेंट पर ही आधारित होते रहे, तो “मॉडल कोलैप्स” की संभावना बढ़ सकती है, जिससे भविष्य के सिस्टम की गुणवत्ता और विश्वसनीयता को खतरा हो सकता है।
AI-जनरेटेड सामग्री के तेजी से सामान्य होने के कारण, वॉटरमार्किंग मशीन द्वारा तैयार किए गए टेक्स्ट की पहचान करने के लिए एक महत्वपूर्ण उपकरण बन सकती है। इसके अलावा, यह भविष्य के AI प्रशिक्षण डेटा की गुणवत्ता बनाए रखने में भी सहायक होगी।