नई दिल्ली. भारत सरकार ने सोशल मीडिया दिग्गज X (पूर्व में ट्विटर) को अपने आर्टिफिशियल इंटेलिजेंस (AI) चैटबॉट ‘Grok’ की कार्यप्रणाली और सुरक्षा मानकों का ऑडिट करने का कड़ा निर्देश दिया है। यह कदम प्लेटफॉर्म पर ‘Grok’ के जरिए महिलाओं की आपत्तिजनक और मॉर्फ्ड (अश्लील रूप से बदली गई) तस्वीरें बनाने की बढ़ती शिकायतों के बाद उठाया गया है।
मुख्य बिंदु:
सुरक्षा में चूक: इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने पाया कि Grok का दुरुपयोग कर ‘डीपफेक’ और ‘नॉन-कंसेंशियल’ (बिना सहमति के) सामग्री तैयार की जा रही है, जो भारतीय कानूनों का उल्लंघन है।
आईटी नियमों का पालन: सरकार ने स्पष्ट किया है कि सोशल मीडिया प्लेटफॉर्म भारतीय आईटी नियम, 2021 के तहत अपने एल्गोरिदम और AI टूल्स से होने वाले नुकसान के लिए जवाबदेह हैं।
ऑडिट की मांग: X को निर्देश दिया गया है कि वह एक विस्तृत रिपोर्ट सौंपे जिसमें यह बताया जाए कि उनके AI मॉडल में अश्लील सामग्री रोकने के लिए क्या ‘सेफगार्ड्स’ (सुरक्षा तंत्र) लगाए गए हैं।
सरकार की चेतावनी
मंत्रालय के अधिकारियों के अनुसार, यदि प्लेटफॉर्म अपनी AI सेवाओं के माध्यम से महिलाओं की गरिमा को ठेस पहुँचाने वाली सामग्री को रोकने में विफल रहता है, तो उसके खिलाफ ‘सुरक्षित बंदरगाह’ (Safe Harbor) सुरक्षा वापस लेने जैसी दंडात्मक कार्रवाई की जा सकती है।
“इंटरनेट को सुरक्षित और भरोसेमंद बनाना हमारी प्राथमिकता है। किसी भी AI टूल को भारतीय नागरिकों, विशेषकर महिलाओं की सुरक्षा और सम्मान से समझौता करने की अनुमति नहीं दी जा सकती।”
