Jakarta/New Delhi : Elon Musk की AI कंपनी xAI के चैटबॉट Grok को लेकर अंतरराष्ट्रीय स्तर पर बड़ा विवाद खड़ा हो गया है। इंडोनेशिया सरकार ने Grok पर अस्थायी प्रतिबंध लगा दिया है, जिससे वह इस AI चैटबॉट को ब्लॉक करने वाला दुनिया का पहला देश बन गया है। यह कार्रवाई तब की गई, जब सामने आया कि बड़ी संख्या में यूजर्स Grok का इस्तेमाल महिलाओं और बच्चों की आपत्तिजनक डीपफेक तस्वीरें बनाने में कर रहे हैं।

इंडोनेशिया की कम्युनिकेशन और डिजिटल मंत्री मेउत्या हाफिद ने कहा कि बिना सहमति के बनाए गए यौन डीपफेक कंटेंट को सरकार मानवाधिकारों और मानवीय गरिमा का गंभीर उल्लंघन मानती है। उन्होंने स्पष्ट किया कि इस तरह की गतिविधियां डिजिटल स्पेस में नागरिकों की सुरक्षा के लिए बड़ा खतरा हैं। सरकार ने इसे डिजिटल आधारित हिंसा की श्रेणी में रखा है।

मीडिया रिपोर्ट्स के मुताबिक, इंडोनेशियाई सरकार ने सोशल मीडिया प्लेटफॉर्म X (पूर्व में ट्विटर) को औपचारिक समन जारी किया है। कंपनी से यह स्पष्ट करने को कहा गया है कि Grok के जरिए हो रहे दुरुपयोग को रोकने के लिए कौन-कौन से तकनीकी और नैतिक कदम उठाए जा रहे हैं। सरकार ने साफ किया है कि प्रतिबंध अस्थायी है, लेकिन आगे का फैसला कंटेंट फिल्टरिंग और एथिकल AI नियमों के अनुपालन पर निर्भर करेगा।

विवाद के बीच Elon Musk और xAI ने पहले चेतावनी दी थी कि Grok के अवैध इस्तेमाल पर यूजर्स के खिलाफ कानूनी कार्रवाई हो सकती है। हालांकि बाद में Musk ने एक पोस्ट को रीपोस्ट किया, जिसमें डीपफेक इमेज के लिए प्लेटफॉर्म से ज्यादा यूजर्स की जिम्मेदारी बताई गई।

यह मामला अब अमेरिका तक भी पहुंच गया है। तीन अमेरिकी सीनेटरों ने Google और Apple से अपने ऐप स्टोर से Grok और X ऐप हटाने की मांग की है। विशेषज्ञों का मानना है कि यह विवाद AI की स्वतंत्रता और उसकी जिम्मेदारी के बीच संतुलन पर एक बड़ी बहस को जन्म दे रहा है।