Deepfake Controversy: नई दिल्ली। इंडोनेशिया सरकार ने एक अहम कदम उठाते हुए xAI के स्वामित्व वाले चैटबॉट की सेवाओं पर अस्थायी रोक लगा दी है। ऐसा करने वाला इंडोनेशिया दुनिया का पहला देश बन गया है। यह फैसला उस समय लिया गया, जब बड़ी संख्या में इंटरनेट उपयोगकर्ताओं द्वारा इस चैटबॉट के जरिए महिलाओं और कुछ मामलों में बच्चों की आपत्तिजनक, बिना सहमति वाली तस्वीरें तैयार किए जाने की शिकायतें सामने आईं। Indonesia News
इंडोनेशिया की संचार और डिजिटल मामलों की मंत्री म्युत्या हाफिद ने स्पष्ट शब्दों में कहा कि सरकार बिना अनुमति तैयार किए गए यौन प्रकृति के डीपफेक कंटेंट को मानवाधिकारों, मानवीय गरिमा और डिजिटल दुनिया में नागरिकों की सुरक्षा के लिए गंभीर खतरा मानती है। उनके अनुसार इस तरह की गतिविधियां डिजिटल माध्यम से की जाने वाली हिंसा के समान हैं।
तकनीकी उपायों पर स्पष्टीकरण मांगा गया है
स्थानीय समाचार एजेंसी अंतरा के मुताबिक, मंत्रालय ने इस निर्णय के पीछे महिलाओं, बच्चों और आम नागरिकों को एआई द्वारा बनाए गए आपत्तिजनक कंटेंट से होने वाले मानसिक और सामाजिक दुष्प्रभावों से बचाने की आवश्यकता को प्रमुख कारण बताया है। सरकार का मानना है कि तकनीक का इस प्रकार का दुरुपयोग समाज के लिए गंभीर परिणाम ला सकता है। Indonesia News
सूत्रों के अनुसार, इंडोनेशियाई प्रशासन ने सोशल मीडिया प्लेटफॉर्म X के अधिकारियों को औपचारिक नोटिस भी जारी किया है। उनसे चैटबॉट की मौजूदा सेटिंग्स, उसके दुष्परिणामों और भविष्य में दुरुपयोग रोकने के लिए अपनाए जाने वाले तकनीकी उपायों पर स्पष्टीकरण मांगा गया है। अधिकारियों ने साफ किया है कि कंपनी को देश के डिजिटल और कानूनी मानकों का पालन करना अनिवार्य होगा।
मंत्री ने यह भी संकेत दिया कि फिलहाल चैटबॉट पर लगी रोक अस्थायी है। भविष्य में इसकी अनुमति इस बात पर निर्भर करेगी कि प्लेटफॉर्म कितनी सख्ती से कंटेंट फिल्टर लागू करता है और नैतिक एआई के मानकों को अपनाने के लिए कितना गंभीर है।
xAI ने पहले ही उपयोगकर्ताओं को चेतावनी दी थी
इस पूरे मामले पर एलोन मस्क और xAI ने पहले ही उपयोगकर्ताओं को चेतावनी दी थी कि चैटबॉट का अवैध उद्देश्यों के लिए उपयोग करने पर कानूनी कार्रवाई हो सकती है। मस्क ने सोशल मीडिया पर कहा था कि गैरकानूनी सामग्री तैयार करने वालों को वही परिणाम भुगतने होंगे, जो ऐसी सामग्री साझा करने पर होते हैं। Indonesia News
हालांकि, हाल के दिनों में प्लेटफॉर्म पर डीपफेक कंटेंट को नियंत्रित न कर पाने को लेकर आलोचनाएं बढ़ीं, जिसके बाद मस्क का रुख कुछ बदला हुआ नजर आया। उन्होंने एक पोस्ट को साझा किया, जिसमें यह तर्क दिया गया था कि डीपफेक के लिए प्लेटफॉर्म नहीं, बल्कि उपयोगकर्ता जिम्मेदार होने चाहिए।
इस बीच, अमेरिका के तीन सीनेटरों ने गूगल और एप्पल को पत्र लिखकर मांग की है कि वे X और उससे जुड़े चैटबॉट ऐप्स को अपने ऐप स्टोर से हटाने पर विचार करें। उनका आरोप है कि ये प्लेटफॉर्म अपनी ही शर्तों का उल्लंघन कर रहे हैं, जो बिना सहमति के यौन प्रकृति की तस्वीरें बनाने पर स्पष्ट रूप से रोक लगाती हैं। सीनेटरों का कहना है कि इस तरह की सामग्री का बड़े पैमाने पर निर्माण न केवल अनैतिक है, बल्कि संभावित रूप से गैरकानूनी भी हो सकता है।
