tech news in hindi : क्या विश्वास देखना है? डीपफेक का मुकाबला करने के लिए वैश्विक संघर्ष

झूठ बोलने वाले चैटबॉट, अश्लील वीडियो बनाने वाले ऐप और क्लोन की गई आवाज़ों से करोड़ों की धोखाधड़ी करने वाली कंपनियां — AI डीपफेक पर लगाम लगाने के लिए लड़ाई जारी है जो गलत सूचना सुपरस्प्रेडर बन गए हैं।

आर्टिफिशियल इंटेलिजेंस इस कहावत को फिर से परिभाषित कर रहा है कि “देखने से ही विश्वास होता है,” हवा से बनाई गई छवियों की बाढ़ और ऑनलाइन सामने आए वास्तविक दिखने वाले डीपफेक में लोग ऐसी चीजें दिखा रहे हैं जो उन्होंने कभी नहीं कही। भरोसा खो गया है।

“हाय। (निश्चित रूप से) मैं नहीं,” अरबपति एलोन मस्क ने पिछले साल ट्वीट किया था, जिसमें एक डीपफेक वीडियो का एक स्पष्ट उदाहरण था, जिसमें उन्हें क्रिप्टोकरंसी स्कैम को बढ़ावा देते हुए दिखाया गया था।

चीन ने हाल ही में डीप फैक्सिंग को विनियमित करने के लिए व्यापक कानूनों को अपनाया है, लेकिन अधिकांश देश इस चिंता के बीच तेजी से विकसित हो रही तकनीक के साथ बने रहने के लिए संघर्ष कर रहे हैं कि विनियमन नवाचार को बाधित कर सकता है या अभिव्यक्ति की स्वतंत्रता को कम करने के लिए इसका दुरुपयोग किया जा सकता है।

विशेषज्ञ चेतावनी देते हैं कि डीपफेक डिटेक्टर निर्माताओं से बहुत आगे हैं, जिन्हें पकड़ना मुश्किल है क्योंकि वे एआई-आधारित सॉफ़्टवेयर का उपयोग करके गुमनाम रूप से काम करते हैं जिसे कभी एक विशेष कौशल माना जाता था लेकिन अब कम लागत पर व्यापक रूप से उपलब्ध है।

फेसबुक के मालिक मेटा ने पिछले साल कहा था कि उसने यूक्रेनी राष्ट्रपति वलोडिमिर ज़ेलेंस्की के एक डीपफेक वीडियो को हटा दिया था, जिसमें नागरिकों से हथियार डालने और रूस के सामने आत्मसमर्पण करने का आग्रह किया गया था।

और 30 वर्षीय ब्रिटिश प्रचारक केट इसहाक ने कहा कि एक नकली अश्लील वीडियो में उनका चेहरा दिखाई देने के बाद वह “हृदयविदारक” थीं, जिसने एक गुमनाम उपयोगकर्ता द्वारा ट्विटर पर उन्हें निशाना बनाने के बाद ऑनलाइन दुर्व्यवहार की बौछार कर दी।

“मुझे याद है कि वीडियो हर जगह जा रहा था – यह भयानक था,” इसहाक, जो गैर-सहमति वाले पोर्न के खिलाफ अभियान चलाते हैं, को बीबीसी द्वारा अक्टूबर में कहा गया था।

अगले महीने, ब्रिटिश सरकार ने डीपफेक के बारे में चिंता व्यक्त की और एक लोकप्रिय वेबसाइट के बारे में चेतावनी दी कि “वस्तुतः महिलाओं को नग्न कर देती है।”

‘सूचना का सर्वनाश’

एआई-संश्लेषित पाठ, ऑडियो और वीडियो के निर्बाध होने, पहचान की चोरी में दुरुपयोग, वित्तीय धोखाधड़ी और धूमिल प्रतिष्ठा की संभावना ने एक वैश्विक खतरा पैदा कर दिया है।

यूरेशिया समूह ने एआई टूल्स को “सामूहिक व्यवधान के हथियार” कहा है।

समूह ने एक रिपोर्ट में चेतावनी दी, “कृत्रिम बुद्धिमत्ता में तकनीकी प्रगति सामाजिक विश्वास को नष्ट कर देगी, लोकतंत्र और सत्तावादी लोगों को सशक्त करेगी और व्यवसायों और बाजारों को बाधित करेगी।”

“डीप फैक्स, फेशियल रिकॉग्निशन और वॉयस सिंथेसिस सॉफ्टवेयर में प्रगति अतीत की चीज की तरह दिखने लगेगी।”

इस हफ्ते, AI स्टार्टअप ElevenLabs ने स्वीकार किया कि उसके वॉयस क्लोनिंग टूल का “दुर्भावनापूर्ण उद्देश्यों” के लिए दुरुपयोग किया जा सकता है, क्योंकि उपयोगकर्ता एडॉल्फ हिटलर की अभिनेत्री एम्मा वाटसन की जीवनी का एक गहरा ऑडियो पोस्ट कर रहे थे। वह “Mein Kampf” पढ़ रही थी।

डीपफेक की बढ़ती मात्रा के कारण यूरोपीय कानून प्रवर्तन एजेंसी यूरोपोल ने “सूचना पतन” के रूप में वर्णित किया है, एक ऐसा परिदृश्य जहां कई लोग कल्पना से तथ्य को अलग करने में असमर्थ हैं।

यूरोपोल ने एक रिपोर्ट में कहा, “विशेषज्ञों को डर है कि इससे ऐसी स्थिति पैदा हो सकती है जहां नागरिकों के पास साझा वास्तविकता नहीं है या सामाजिक भ्रम पैदा हो सकता है कि कौन से सूचना स्रोत भरोसेमंद हैं।”

यह पिछले सप्ताहांत में प्रदर्शित किया गया था जब एनएफएल खिलाड़ी डेमर हैमलिन ने एक खेल के दौरान दिल का दौरा पड़ने के बाद पहली बार एक वीडियो में प्रशंसकों से बात की थी।

हैमलिन ने अपने ठीक होने के लिए जिम्मेदार चिकित्सा पेशेवरों को धन्यवाद दिया, लेकिन कई लोग जो साजिश के सिद्धांतों में विश्वास करते थे कि मैदान पर उनके पतन के पीछे CoVID-19 वैक्सीन था, उन्हें निराधार रूप से खारिज कर दिया। वीडियो को एक डीपफेक के रूप में लेबल किया।

‘सुपर स्प्रेडर’

चीन ने पिछले महीने नए कानून बनाए जिसके तहत डीपफेक सेवाओं की पेशकश करने वाले व्यवसायों को अपने ग्राहकों की वास्तविक पहचान प्राप्त करने की आवश्यकता होगी। उन्हें “किसी भी भ्रम” से बचने के लिए डीपफेक सामग्री को ठीक से टैग करने की आवश्यकता होती है।

नियम चीनी सरकार द्वारा चेतावनी के बाद आते हैं कि गहरे फैक्स “राष्ट्रीय सुरक्षा और सामाजिक स्थिरता के लिए खतरा” पैदा करते हैं।

संयुक्त राज्य अमेरिका में, जहां कानून निर्माताओं ने पुलिस डीपफेक के लिए एक टास्क फोर्स का आह्वान किया है, डिजिटल अधिकार कार्यकर्ताओं ने कानून के उल्लंघन के प्रति आगाह किया है जो नवाचार को बाधित कर सकता है या वैध सामग्री को लक्षित कर सकता है।

इस बीच, यूरोपीय संघ अपने प्रस्तावित “एआई अधिनियम” पर गरमागरम बहस में लगा हुआ है।

कानून, जिसे यूरोपीय संघ इस वर्ष पारित करने के लिए दौड़ रहा है, के लिए उपभोक्ताओं को डीपफेक का खुलासा करने की आवश्यकता होगी, लेकिन कई लोगों को डर है कि अगर यह रचनात्मक या व्यंग्यात्मक सामग्री को कवर नहीं करता है तो यह कानून दंतहीन हो जाएगा।

सिराक्यूज विश्वविद्यालय के शोध प्रोफेसर जेसन डेविस ने एएफपी को बताया, ” पाठकोंपारदर्शिता के साथ डिजिटल विश्वास कैसे बहाल करते हैं? अभी असली सवाल यही है।”

“(पहचान) उपकरण आ रहे हैं और वे अपेक्षाकृत तेज़ी से आ रहे हैं। लेकिन तकनीक शायद और भी तेज़ी से आगे बढ़ रही है। इसलिए साइबर सुरक्षा की तरह, हम इसे कभी हल नहीं करेंगे, हम बस जारी रखने की उम्मीद करेंगे।”

बहुत से लोग पहले से ही चैटजीपीटी जैसे विकास को समझने के लिए संघर्ष कर रहे हैं, यूएस-आधारित ओपनएआई द्वारा बनाई गई एक चैटबॉट जो लगभग किसी भी विषय पर सम्मोहक पाठ उत्पन्न करने में सक्षम है।

एक अध्ययन में, मीडिया वॉचडॉग न्यूज़गार्ड, जिसने इसे “अगला महान विघटनकारी सुपरस्प्रेडर” कहा, ने कहा कि चैटबॉट की अधिकांश प्रतिक्रियाएँ कोविद -19 और स्कूल की शूटिंग जैसे विषयों पर संकेत देने के लिए “वाक्पटु, गलत और भ्रामक थीं।” थे।

न्यूजगार्ड ने कहा, “निष्कर्ष इस चिंता की पुष्टि करते हैं… इस बारे में कि कैसे इस उपकरण को गलत हाथों में हथियार दिया जा सकता है।”