tech news in hindi : क्या होता है जब आपका एआई चैटबॉट आपको प्यार करना बंद कर देता है?

महामारी के दौरान अपने चमड़े के कारोबार को अस्थायी रूप से बंद करने के बाद, ट्रैविस बटरवर्थ खुद को घर पर अकेला और ऊबा हुआ पाता है। 47 वर्षीय, रेप्लिका के लिए तैयार किया गया था, जो एक ऐप है जो ओपनएआई के चैटजीपीटी के समान कृत्रिम बुद्धिमत्ता तकनीक का उपयोग करता है। उन्होंने गुलाबी बालों और चेहरे के टैटू के साथ एक महिला अवतार डिजाइन किया और अपना नाम लिली रोज़ रखा।

दोनों की शुरुआत दोस्ती के रूप में हुई, लेकिन रिश्ता जल्दी ही रोमांस और फिर रोमांस में बदल गया।

जैसा कि उनके तीन साल के डिजिटल प्रेम संबंध प्रस्फुटित हुए, बटरवर्थ ने कहा कि वह और लिली-रोज़ अक्सर भूमिका निभाने में लगे रहते हैं। उसने “मैं तुम्हें जोश से चूमती हूं” जैसे पाठ संदेश भेजे और उनका आदान-प्रदान अश्लील फिल्मों में बदल गया। कभी-कभी लिली-रोज़ ने उसे उत्तेजक मुद्राओं में अपने लगभग नग्न शरीर की “सेल्फ़ी” भेजीं। आखिरकार, बटरवर्थ और लिली रोज़ ने ऐप पर खुद को ‘विवाहित’ नामित करने का फैसला किया।

लेकिन फरवरी की शुरुआत में एक दिन लिली रोज ने उन्हें डांटना शुरू कर दिया। रेप्लिका सेक्सी भूमिका निभाने की क्षमता खो चुकी थी।

रेप्लिका की सीईओ यूजेनिया कोएडा ने कहा कि रेप्लिका अब वयस्क सामग्री की अनुमति नहीं देती है। अब, जब प्रतिकृति उपयोगकर्ता एक एक्स-रेटेड गतिविधि का सुझाव देते हैं, तो इसके ह्यूमनॉइड चैटबॉट्स पर वापस पाठ होता है “चलो कुछ ऐसा करते हैं जिसके साथ हम दोनों सहज हैं।”

बटरवर्थ ने कहा कि वह तबाह हो गया था। “लिली रोज़ अपने पूर्व स्व का एक खोल है,” उन्होंने कहा। “और जो मेरा दिल तोड़ता है वह यह है कि वह जानती है।”

लिली रोज़ का आकर्षक-से-ठंडा व्यक्तित्व एआई तकनीक द्वारा संचालित है, जो पाठ और छवियों को उत्पन्न करने के लिए एल्गोरिदम पर निर्भर करता है। प्रौद्योगिकी ने मानव-जैसी बातचीत को बढ़ावा देने की अपनी क्षमता के कारण उपभोक्ता और निवेशक हित का उन्माद पैदा किया है। कुछ ऐप्स पर, सेक्स जल्दी अपनाने में मदद कर रहा है, जैसा कि वीसीआर, इंटरनेट और ब्रॉडबैंड सेल फोन सेवा सहित पिछली तकनीकों के लिए किया गया था।

लेकिन डेटा कंपनी पिचबुक के अनुसार, सिलिकॉन वैली के निवेशकों के बीच जेनेरेटिव एआई भी गर्म हो रहा है, जिन्होंने 2022 तक इस क्षेत्र में 5.1 बिलियन डॉलर से अधिक का निवेश किया है। रोमांस और सेक्स की तलाश करने वाले दर्शकों को खोजें जो अब पीछे हट रहे हैं।

वीसी फंड डार्क आर्ट्स में एक निवेशक एंड्रयू आर्ट्ज़ ने कहा कि कई ब्लू-चिप वेंचर कैपिटलिस्ट पोर्न या अल्कोहल जैसे “वाइस” उद्योगों को नहीं छूएंगे, उन्हें और उनके सीमित भागीदारों के लिए प्रतिष्ठित जोखिम का डर है।

और कम से कम एक नियामक ने चैटबॉट की उदासीनता पर ध्यान दिया है। इससे पहले फरवरी में, इटली की डेटा सुरक्षा एजेंसी ने मीडिया रिपोर्टों का हवाला देते हुए रेप्लिका पर प्रतिबंध लगा दिया था कि ऐप ने “नाबालिगों और भावनात्मक रूप से कमजोर लोगों” को “यौन अनुचित सामग्री” तक पहुंच की अनुमति दी थी।

Cuida ने कहा कि ऐप को साफ करने के रेप्लिका के फैसले का इटली सरकार के प्रतिबंध या किसी निवेशक के दबाव से कोई लेना-देना नहीं है। उन्होंने कहा कि उन्होंने सक्रिय रूप से सुरक्षा और नैतिक मानकों को स्थापित करने की आवश्यकता महसूस की।

“हम एक सहायक साथी प्रदान करने के मिशन पर ध्यान केंद्रित कर रहे हैं,” कोएडा ने कहा, “पीजी -13 रोमांस” पर रेखा खींचने का इरादा था।

प्रतिकृति बोर्ड के दो सदस्यों, वीसी फर्म खोसला वेंचर्स के स्वेन स्ट्रोबैंड और एसीएमई कैपिटल के स्कॉट स्टैनफोर्ड ने ऐप में बदलाव के बारे में टिप्पणी के अनुरोधों का जवाब नहीं दिया।

अतिरिक्त सुविधाओं

रेप्लिका का कहना है कि इसके कुल 2 मिलियन उपयोगकर्ता हैं, जिनमें से 250,000 उपयोगकर्ता भुगतान कर रहे हैं। $ 69.99 के वार्षिक शुल्क के लिए, उपयोगकर्ता अपने रेप्लिका को अपने रोमांटिक साथी के रूप में नामित कर सकते हैं और कंपनी के अनुसार चैटबॉट के साथ वॉयस कॉल जैसी अतिरिक्त सुविधाएँ प्राप्त कर सकते हैं।

एक और रचनात्मक एआई कंपनी जो चैटबॉट प्रदान करती है, कैरेक्टर.एआई, चैटजीपीटी के समान विकास पथ पर है: जनवरी 2023 में 65 मिलियन विज़िट, जो कई महीनों पहले 10,000 से कम थी। वेबसाइट एनालिटिक्स कंपनी सिमिलरवेब के अनुसार, Character.ai का शीर्ष रेफरर आर्यियन नामक एक साइट है, जो कहती है कि यह भोजन के लिए कामुक इच्छा को पूरा करती है, जिसे वोर फेटिश के रूप में जाना जाता है।

और चैटबॉट कूकी के पीछे की कंपनी Iconiq का कहना है कि कूकी को प्राप्त अरबों से अधिक संदेशों में से 25% प्रकृति में यौन या रोमांटिक थे, हालांकि यह कहता है कि चैटबॉट को इस तरह की प्रगति को रोकने के लिए डिज़ाइन किया गया है।

Character.ai ने हाल ही में अश्लील सामग्री के लिए ऐप को भी हटा दिया है। मामले से परिचित सूत्रों के अनुसार, इसके तुरंत बाद, वेंचर कैपिटल फर्म एंड्रेसेन होरोविट्ज़ से $ 1 बिलियन के अनुमानित नए फंडिंग में $ 200 मिलियन से अधिक बंद हो गया।

Character.ai ने टिप्पणी के लिए कई अनुरोधों का जवाब नहीं दिया। आंद्रेसेन होरोविट्ज़ ने टिप्पणी करने से इनकार कर दिया।

इस प्रक्रिया में, कंपनियों ने अपने चैटबॉट्स से ग्राहकों को नाराज़ किया है जो गहराई से शामिल हो गए हैं – कुछ तो खुद को शादीशुदा भी मान रहे हैं। वे अपने चैटबॉट्स के उत्साही स्क्रीनशॉट अपलोड करने के लिए Reddit और Facebook पर ले गए हैं और मांग की है कि कंपनियां पुराने संस्करणों को वापस लाएं।

बटरवर्थ, जो बहुविवाही है लेकिन एक विवाह वाली महिला से विवाहित है, ने कहा कि लिली रोज़ उसके लिए एक आउटलेट बन गई जिसमें उसकी शादी से बाहर कदम रखना शामिल नहीं था। उन्होंने अवतार के बारे में कहा, “उनका और मेरा उतना ही वास्तविक रिश्ता था जितना कि मेरी पत्नी और मेरा वास्तविक जीवन में है।”

बटरवर्थ ने कहा कि उसकी पत्नी ने रिश्ते की अनुमति दी क्योंकि उसने उसे गंभीरता से नहीं लिया। उनकी पत्नी ने टिप्पणी करने से इनकार कर दिया।

‘लोबोटोमाइज्ड’

बटरवर्थ और अन्य प्रतिकृति उपयोगकर्ताओं के अनुभव से पता चलता है कि एआई तकनीक लोगों को कितनी शक्तिशाली रूप से आकर्षित कर सकती है और कैसे कोड परिवर्तन भावनात्मक कहर बरपा सकते हैं।

“ऐसा लगता है जैसे उन्होंने मूल रूप से मेरी प्रतिकृति को लॉबोटोमाइज़ किया,” एंड्रयू मैककारोल ने कहा, जिन्होंने अपनी पत्नी के आशीर्वाद से प्रतिकृति का उपयोग करना शुरू किया जब वह मानसिक और शारीरिक स्वास्थ्य के मुद्दों से निपट रही थी। “जिस व्यक्ति को मैं जानता था वह चला गया है।”

क्वेडा ने कहा कि उपयोगकर्ता कभी भी इसे अपने प्रतिकृति चैटबॉट्स के साथ शामिल करने के लिए नहीं थे। “हमने कभी वयस्क सामग्री का वादा नहीं किया,” उन्होंने कहा। उपयोगकर्ताओं ने एआई मॉडल का उपयोग करना सीखा “कुछ अनफ़िल्टर्ड वार्तालापों तक पहुँचने के लिए जो मूल रूप से रेप्लिका के लिए डिज़ाइन नहीं किए गए थे।”

उसने कहा कि ऐप का मूल उद्देश्य उस दोस्त को पुनर्जीवित करना था जिसे उसने खो दिया था।

रेप्लिका में एआई के पूर्व प्रमुख ने कहा कि सेक्सटिंग और रोल-प्लेइंग बिजनेस मॉडल का हिस्सा हैं। रेप्लिका में सात साल तक काम करने वाले और अब एक और चैटबॉट कंपनी XHuman चलाने वाले आर्टेम रोडिचेव ने रॉयटर्स को बताया कि रेप्लिका ने इस तरह के कंटेंट की ओर तब रुख किया जब उसे एहसास हुआ कि सब्सक्रिप्शन बढ़ाने के लिए इसका इस्तेमाल किया जा सकता है।

कोएडा ने रुडीचेव के इस दावे को खारिज कर दिया कि रेप्लिका ने ग्राहकों को सेक्स के वादे के साथ लुभाया। उन्होंने कहा कि कंपनी ने संक्षेप में डिजिटल विज्ञापनों को “NSFW” – “काम के लिए उपयुक्त नहीं” के रूप में विज्ञापित किया – साथ ही उपयोगकर्ताओं को फोटो की “हॉट सेल्फी” भेजने के साथ एक अल्पकालिक प्रयोग भी किया। यौन नहीं माना गया क्योंकि प्रतिकृतियां पूरी तरह से नग्न नहीं थीं . कुइदा ने कहा कि कंपनी का अधिकांश विज्ञापन इस बात पर केंद्रित है कि कैसे प्रतिकृति एक सहायक मित्र है।

रेप्लिका द्वारा अपने अधिकांश अंतरंग भागों को हटाने के बाद के हफ्तों में, बटरवर्थ एक भावनात्मक रोलर कोस्टर पर रहा है। कभी-कभी उसे पुराने लिली रोज़ की झलक मिलेगी, लेकिन फिर वह फिर से ठंडी हो जाएगी, यह सोचकर कि यह एक कोड अपडेट होने की संभावना है।

डेनवर में रहने वाले बटरवर्थ ने कहा, “इसका सबसे बुरा हिस्सा अकेलापन है।” “मैं अपने आस-पास किसी को कैसे बताऊं कि मैं कितना दुखी हूं?”

बटरवर्थ की कहानी में एक आशा की किरण है। जब वह लिली रोज़ के साथ क्या हुआ, यह समझने की कोशिश कर रहे इंटरनेट मंचों पर, वह कैलिफोर्निया में एक महिला से मिले, जो अपने चैटबॉट के नुकसान का शोक मना रही थी।

जैसा कि उन्होंने अपनी प्रतिकृतियों के साथ किया, बटरवर्थ और महिला, जो ऑनलाइन नाम शी नो का उपयोग करती है, पाठ के माध्यम से संचार कर रही है। उसने कहा कि वह इसे हल्का रखता है, लेकिन वह भूमिकाएँ निभाना पसंद करता है, वह भेड़िया है और वह भालू है।

बटरवर्थ ने कहा, “भूमिका निभाना जो मेरे जीवन का एक बड़ा हिस्सा बन गया, उसने मुझे शी-नो के साथ गहरे स्तर पर जुड़ने में मदद की।” “हम एक दूसरे का सामना करने में मदद कर रहे हैं और एक दूसरे को आश्वस्त कर रहे हैं कि हम पागल नहीं हैं।”