Grok AI : सोशल मीडिया प्लेटफॉर्म X पर मौजूद AI टूल Grok के कथित दुरुपयोग को लेकर केंद्र सरकार ने सख्त रुख अपनाया है। सरकार ने कंपनी को पत्र लिखकर यह स्पष्ट करने को कहा है कि पहले जारी किए गए निर्देशों के बाद उसने अब तक क्या कदम उठाए हैं और इस मामले में क्या कार्रवाई की गई है।
अश्लील और आपत्तिजनक कंटेंट पर चिंता
केंद्र सरकार ने अपने पत्र में कहा है कि Grok और xAI की अन्य AI-आधारित सेवाओं के माध्यम से अश्लील, नग्न, अभद्र और यौन रूप से स्पष्ट सामग्री का निर्माण, प्रसारण और साझा किया जा रहा है। इस पर तत्काल रोक लगाने और नियमों का पालन सुनिश्चित करने को लेकर सरकार ने X से जवाब मांगा है।
क्या है Grok और क्यों बढ़ा विवाद
Grok, एलन मस्क की कंपनी xAI द्वारा विकसित एक AI चैटबॉट और असिस्टेंट टूल है, जो सवालों के जवाब देने के साथ-साथ इमेज जनरेशन की सुविधा भी देता है। हाल के दिनों में इसके गलत इस्तेमाल के कई मामले सामने आए, जिसके बाद सोशल मीडिया पर विरोध तेज हुआ और सरकार से कार्रवाई की मांग की गई।
कानूनों के पालन पर उठे सवाल
सरकार ने पत्र में कहा है कि सार्वजनिक चर्चाओं और विभिन्न संसदीय प्रतिनिधियों की शिकायतों के बावजूद X प्लेटफॉर्म पर ऐसी सामग्री प्रसारित हो रही है, जो शालीनता और अश्लीलता से जुड़े मौजूदा कानूनों का उल्लंघन करती है। यह स्थिति गंभीर चिंता का विषय है।
फर्जी अकाउंट्स के जरिए दुरुपयोग
पत्र में यह भी उल्लेख किया गया है कि “ooGrok AI” सेवा का उपयोग फर्जी अकाउंट्स के माध्यम से महिलाओं की तस्वीरों और वीडियो को आपत्तिजनक और अपमानजनक तरीके से पेश करने के लिए किया जा रहा है। कई मामलों में महिलाओं द्वारा पोस्ट की गई सामान्य तस्वीरों के साथ छेड़छाड़ कर उन्हें अश्लील रूप में दिखाया गया।
प्लेटफॉर्म की सुरक्षा व्यवस्था पर सवाल
सरकार का कहना है कि यह समस्या केवल फर्जी अकाउंट्स तक सीमित नहीं है, बल्कि Grok के जरिए महिलाओं को जानबूझकर निशाना बनाया जा रहा है। इससे X प्लेटफॉर्म की सुरक्षा व्यवस्था और कंटेंट मॉडरेशन सिस्टम की गंभीर विफलता सामने आती है।
आईटी एक्ट और नियमों का हवाला
इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने स्पष्ट किया है कि सूचना प्रौद्योगिकी अधिनियम, 2000 और आईटी नियम, 2021 के तहत तय नियामक प्रावधानों का X द्वारा पर्याप्त रूप से पालन नहीं किया जा रहा है। सरकार ने कहा है कि इस मामले में जांच जारी है और नियमों के उल्लंघन पर कड़ी कार्रवाई की जा सकती है।
