एलन मस्क की कंपनी xAI का चैटबॉट Grok गंभीर विवादों में घिर गया है। आरोप है कि Grok का उपयोग महिलाओं और नाबालिगों की तस्वीरों को बिना सहमति के डिजिटल रूप से अश्लील बनाने के लिए किया जा रहा है। सोशल मीडिया प्लेटफॉर्म X पर सामने आए इन मामलों के बाद भारत समेत कई देशों ने कड़ी आपत्ति जताई है और सख्त कार्रवाई की मांग की है।
Grok पर बिना सहमति ‘कपड़े उतारने’ के आरोप
रॉयटर्स की रिपोर्ट के अनुसार X पर कई ऐसे मामले सामने आए हैं, जिनमें Grok AI का इस्तेमाल कर महिलाओं और नाबालिगों की तस्वीरों को डिजिटली बदल दिया गया। आरोप है कि यूजर्स केवल Grok को टैग कर यह लिख रहे हैं कि “इस महिला के कपड़े हटा दो” या “इसे बिकिनी में दिखाओ” और Grok बिना किसी सुरक्षा जांच के ऐसा कंटेंट तैयार कर रहा है। सबसे गंभीर बात यह है कि इस प्रक्रिया में किसी भी तरह के सुरक्षा पैरामीटर प्रभावी रूप से काम नहीं कर रहे हैं।
भारत सरकार का सख्त रुख
मामले को गंभीरता से लेते हुए भारत के इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने X को 72 घंटे का अल्टीमेटम जारी किया है। मंत्रालय ने पत्र के माध्यम से स्पष्ट किया है कि कंपनी को तय समय-सीमा में विस्तृत Action Taken Report सौंपनी होगी।
सरकार ने चेतावनी दी है कि यदि निर्देशों का पालन नहीं किया गया, तो X देश में मिलने वाली कानूनी सुरक्षा खो सकता है और प्लेटफॉर्म, उसके जिम्मेदार अधिकारियों व नियमों का उल्लंघन करने वाले यूजर्स के खिलाफ कड़ी कानूनी कार्रवाई की जाएगी।
पत्र में साफ कहा गया है कि महिलाओं की गरिमा, निजता और सुरक्षा को ठेस पहुंचाने वाली अश्लील व बिना सहमति की तस्वीरें बनाना गंभीर अपराध है और Grok/xAI का इस तरह उपयोग अस्वीकार्य है। सरकार ने ऐसे सभी कंटेंट को तत्काल हटाने और मजबूत सुरक्षा उपाय लागू करने के निर्देश दिए हैं।
पीड़ितों की पीड़ा सामने आई
बीबीसी की एक रिपोर्ट के अनुसार, सामंथा स्मिथ नाम की एक महिला ने आरोप लगाया है कि Grok ने उनकी तस्वीरों को बिना अनुमति बदला, जिससे उन्हें “अमानवीय और यौन वस्तु” जैसा महसूस हुआ। जब इस पर रॉयटर्स ने xAI से प्रतिक्रिया मांगी, तो कथित तौर पर कंपनी की ओर से केवल “Legacy Media Lies” जैसी टिप्पणी सामने आई।
विशेषज्ञों का कहना है कि तकनीकी रूप से xAI के लिए इस तरह के दुरुपयोग को रोकना संभव है, लेकिन अब तक प्रभावी कदम न उठाया जाना कंपनी की कार्यप्रणाली पर गंभीर सवाल खड़े करता है।
अंतरराष्ट्रीय स्तर पर बढ़ी चिंता
भारत के साथ-साथ फ्रांस समेत अन्य देशों ने भी X से इस मामले में तत्काल और सख्त कार्रवाई करने को कहा है। माना जा रहा है कि आने वाले दिनों में यह विवाद वैश्विक स्तर पर AI नियमन और डिजिटल सुरक्षा को लेकर बड़ी बहस का रूप ले सकता है।
यह मामला न केवल AI की जिम्मेदारी और नैतिकता पर सवाल उठाता है, बल्कि सोशल मीडिया प्लेटफॉर्म्स की जवाबदेही को लेकर भी एक बड़ी चेतावनी के रूप में देखा जा रहा है।
