केंद्र का X Grok AI को नोटिस: अश्लील, यौन स्पष्ट कंटेंट तुरंत हटाने का आदेश

केंद्र का X Grok AI को नोटिस फिलहाल देश में सोशल मीडिया प्लेटफॉर्म की जिम्मेदारियों को लेकर बड़ी बहस का विषय बन गया है। केंद्र सरकार ने X को निर्देश दिया है कि वह अपने प्लेटफॉर्म पर Grok AI के माध्यम से बन रहे अश्लील, नग्न, अभद्र और यौन स्पष्ट कंटेंट को तुरंत हटाए और ऐसे सभी कंटेंट की होस्टिंग या शेयरिंग को रोकने के लिए ठोस कदम उठाए।

सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने X के मुख्य कंप्लायंस अधिकारी को भेजे पत्र में कहा है कि Grok AI सेवा का गलत इस्तेमाल कर उपयोगकर्ता फर्जी अकाउंट बनाकर महिलाओं की अश्लील और आपत्तिजनक तस्वीरें एवं वीडियो तैयार कर रहे हैं, जिन्हें प्लेटफॉर्म पर प्रकाशित और साझा किया जा रहा है। मंत्रालय ने इसे महिलाओं की गरिमा, निजता और डिजिटल सुरक्षा का गंभीर उल्लंघन बताते हुए तत्काल कार्रवाई पर जोर दिया है।

लेटेस्ट ऑनलाइन ऑफ़र और रिवार्ड्स देखने के लिए यहाँ टैप करें

मोबाइल से तुरंत एक्स्ट्रा कमाई के आसान तरीक़े जानें

केंद्र का X Grok AI को नोटिस और Grok सेवा की व्यापक समीक्षा

केंद्र का X Grok AI को नोटिस यह स्पष्ट करता है कि सरकार AI आधारित सेवाओं के दुरुपयोग को लेकर बेहद सख्त रुख अपना रही है। मंत्रालय ने X से कहा है कि वह Grok और प्लेटफॉर्म पर उपलब्ध अन्य AI सेवाओं की तकनीकी और नीतिगत व्यवस्था की व्यापक समीक्षा करे, ताकि अश्लील, नग्न और यौन स्पष्ट सामग्री की जेनरेशन, अपलोडिंग और शेयरिंग को रोका जा सके।

पत्र में यह भी उल्लेख किया गया है कि Grok AI के माध्यम से बनने वाली अश्लील सामग्री न केवल इंटरमीडियरी की कानूनी जिम्मेदारियों का उल्लंघन करती है, बल्कि इससे ऑनलाइन यौन उत्पीड़न और टेक-आधारित शोषण को बढ़ावा मिलता है। सरकार ने चेतावनी दी है कि यदि प्लेटफॉर्म आवश्यक सावधानियां और फिल्टर लागू करने में असफल रहता है, तो यह सूचना प्रौद्योगिकी अधिनियम, 2000 और आईटी नियम, 2021 के तहत वैधानिक ‘ड्यू डिलिजेंस’ मानकों की गंभीर अनदेखी मानी जाएगी।

फ्री में नए ऑफ़र, ऐप्स और बोनस चेक करने के लिए क्लिक करें

सिर्फ एक टैप में अपने लिए बेस्ट ऑनलाइन डील्स खोजें

AI के दुरुपयोग और कानूनी प्रावधान

मंत्रालय ने अपने नोटिस में साफ कहा है कि Grok AI जैसे टूल्स का प्रयोग कर महिलाओं की अश्लील या अपमानजनक छवियां और वीडियो तैयार करना, उन्हें सोशल मीडिया पर प्रसारित करना, समाज में यौन हिंसा और उत्पीड़न को सामान्य बनाने जैसा है। ऐसे व्यवहार से न केवल पीड़ित की गरिमा को ठेस पहुंचती है, बल्कि यह विभिन्न भारतीय कानूनों के उल्लंघन की श्रेणी में भी आता है।केंद्र का X Grok AI नोटिस यह संकेत देता है कि यदि प्लेटफॉर्म समयबद्ध तरीके से अश्लील कंटेंट हटाने और रोकथाम के उपायों को लागू नहीं करता, तो उसके खिलाफ आईटी अधिनियम के साथ-साथ अन्य प्रासंगिक कानूनों के तहत कड़ी कार्रवाई की जा सकती है। मंत्रालय ने X को आगाह किया है कि ऐसी स्थिति में प्लेटफॉर्म अपने ‘सेफ हार्बर’ सुरक्षा का लाभ खो सकता है, जिसका मतलब है कि उसे उपयोगकर्ता द्वारा डाली गई सामग्री के लिए भी सीधे जिम्मेदार ठहराया जा सकता है।

तत्काल कार्रवाई, रिपोर्ट और प्लेटफ़ॉर्म की जिम्मेदारी

सरकार ने X से कहा है कि वह Grok AI और अन्य संबंधित सेवाओं के जरिए बने सभी अश्लील, नग्न और यौन स्पष्ट कंटेंट को तुरंत हटाए या डिसेबल करे और यह सुनिश्चित करे कि भविष्य में ऐसी सामग्री दोबारा जेनरेट या अपलोड न हो सके। इसके लिए X को अपने प्लेटफॉर्म स्तर पर मजबूत सेफगार्ड, मॉडरेशन टूल्स और प्रवर्तन तंत्र लागू करने होंगे, ताकि किसी भी शिकायत या रिपोर्ट पर तुरंत कार्रवाई संभव हो सके।

केंद्र का X Grok AI नोटिस यह भी अनिवार्य करता है कि प्लेटफॉर्म निर्धारित समय सीमा के भीतर विस्तृत एक्शन टेकन रिपोर्ट प्रस्तुत करे, जिसमें बताए कि कितनी पोस्ट हटाई गईं, किन अकाउंट्स पर कार्रवाई की गई और भविष्य में रोकथाम के लिए कौन-कौन से तकनीकी और नीतिगत कदम उठाए गए। सरकार का मानना है कि जिम्मेदार AI उपयोग, सख्त प्लेटफॉर्म नीतियां और प्रभावी मॉडरेशन ही ऑनलाइन सुरक्षा, खासकर महिलाओं और बच्चों की सुरक्षा, को मजबूत बना सकते हैं।

अभी देखें कौन‑कौन से ऑफ़र आपके लिए एक्टिव हैं