नई दिल्ली. कई एआई शोधकर्ता इस बात से चिंतित हैं कि एआई से बनाई गई फर्जी सामग्री का पता लगाना मुश्किल होगा. हाल ही ब्रिटेन के प्रधानमंत्री ऋषि सुनक का डीपफेक वीडियो फेसबुक विज्ञापन में दिखाया गया, जिसमें वे जल्द अमीर बनने की योजनाओं के बारे में बता रहे होते हैं.
ऐसे ही एक अन्य विज्ञापन में एलन मस्क द्वारा विकसित एक ऐप का समर्थन करते हुए ऋषि सुनक को दिखाया गया है, जिसमें लोग नियमित रूप से बचत कर सकते हैं. ये वीडियो फर्जी हैं, एआई की मदद से तैयार किए गए हैं.
ये विज्ञापन ब्रिटिश फर्म फेनिमोर हार्पर कम्युनिकेशंस द्वारा लिस्ट किए गए 143 विज्ञापनों का हिस्सा हैं, जो दिसंबर और जनवरी में चलाए गए थे.
- एआई स्म्मेलनों में शोधकर्ताओं के बीच लगातार उठता रहा है मुद्दा
- किसी भी डिटेक्शन सॉफ्टवेयर की सटीकता अब तक 80 फीसदी से ज्यादा नहीं पाई गई
सबसे अच्छा प्रोग्राम भी सभी तस्वीरों को पहचानने में विफल
डिटेक्शन सॉफ्टवेयर इस पर निर्भर करता है कि एआई मॉडल निशान छोड़ देगा. या तो वे वास्तविक छवियों और वीडियो, या मानव-जनित पाठ के कुछ पहलुओं को पुन पेश करने में विफल रहेंगे, या वे कुछ अनावश्यक जोड़ देंगे. शंघाई जिओ टोंग विश्वविद्यालय के कंप्यूटर वैज्ञानिक जेयू लू के रिसर्च में पाया गया कि सबसे अच्छा प्रदर्शन करने वाला प्रोग्राम 13 कंप्यूटर-जनित छवियों को सही ढंग से पहचानने में विफल रहा. हालांकि जब बात टेक्स्ट की आती है तो चीजें थोड़ी बेहतर हैं. इंटरनेशनल जर्नल ऑफ एजुकेशनल इंटीग्रिटी में दिसंबर में प्रकाशित एक विश्लेषण में 14 उपकरणों की तुलना की गई और पाया गया कि किसी ने भी 80 से अधिक की सटीकता हासिल नहीं की.
अब तक कोई भी तकनीक नहीं साबित हुई विश्वसनीय
स्टार्टअप्स से लेकर इंटेल और माइक्रोसॉफ्ट जैसे तकनीकी कंपनियां कई सॉफ्टवेयर पेश करती हैं, जिसका उद्देश्य मशीन से बनाए गए वीडियो या तस्वीरों का पता लगाना है. बड़े एआई मॉडल के निर्माता अपने आउटपुट को वॉटरमार्किंग करने के तरीकों की खोज कर रहे हैं ताकि वास्तविक चित्रों, वीडियो या टेक्स्ट को मशीन-जेनरेटेड से आसानी से अलग किया जा सके. लेकिन ऐसी प्रौद्योगिकियां विश्वसनीय साबित नहीं हुई हैं. एआई कॉग्नोसेंटी अपनी संभावनाओं को लेकर निराश नजर आ रहे हैं. द इकोनॉमिस्ट ने एआई शोधकर्ताओं का स्ट्रॉ पोल आयोजित किया. 23 लोगों में से 17 का मानना था कि एआई-जनित मीडिया का पता लगाना मुश्किल होगा. केवल एक ने कहा कि इसका पता लगाया जा सकता है.
जून 2023 में अमेरिका में संघीय जांच ब्यूरो(एफबीआई) ने जनता को आगाह किया कि लोग पैसे ऐंठने के लिए आम लोगों के नकली यौन थीम वाले वीडियो और चित्र बनाने के लिए एआई का उपयोग कर रहे हैं, इससे बचकर रहें. एआई शोधकर्ता इसका पता लगाने के लिए खोजबीन कर रहे हैं. दिसंबर में न्यू ऑरलियन्स में हुए एआई सम्मेलनों में शोधकर्ताओं के बीच यह प्रश्न उठा था.
