Grok AI : X ने मानी कंटेंट मॉडरेशन में चूक, Grok पर AI से अश्लील तस्वीरें बनाने पर लगी रोक

Grok AI : सोशल मीडिया प्लेटफॉर्म X (पूर्व में ट्विटर) ने कंटेंट मॉडरेशन को लेकर अपनी बड़ी चूक स्वीकार करते हुए दावा किया है कि अब उसके AI टूल Grok के जरिए अश्लील तस्वीरें जनरेट नहीं की जा सकेंगी। कंपनी ने कहा है कि उसने अश्लील इमेज जनरेशन पर पूरी तरह रोक लगाने का फैसला किया है और भारत के कानूनों एवं दिशानिर्देशों का सख्ती से पालन किया जाएगा।

CG Copying Case : जैमर के बीच ब्लूटूथ से नकल, दिल्ली पुलिस हेड कांस्टेबल परीक्षा में अभ्यर्थी गिरफ्तार

अश्लील कंटेंट वायरल होने के बाद एक्शन

सरकारी सूत्रों के मुताबिक, X पर AI के जरिए बनाए गए अश्लील कंटेंट के बड़े पैमाने पर वायरल होने के बाद सरकार ने इस मामले को गंभीरता से लिया। इसके बाद X ने आंतरिक समीक्षा की और माना कि कंटेंट मॉडरेशन सिस्टम में खामियां थीं, जिनका गलत फायदा उठाया जा रहा था। इसी के चलते कंपनी ने सख्त कार्रवाई करने का निर्णय लिया।

3,500 से ज्यादा पोस्ट ब्लॉक, 600+ अकाउंट हटाए

X की ओर से जारी जानकारी में बताया गया कि प्लेटफॉर्म ने अब तक 3,500 से अधिक आपत्तिजनक कंटेंट को ब्लॉक किया है। इसके साथ ही 600 से ज्यादा अकाउंट्स को स्थायी रूप से डिलीट कर दिया गया है, जो बार-बार नियमों का उल्लंघन कर रहे थे या अश्लील सामग्री के प्रसार में शामिल पाए गए।

Grok AI पर नई पाबंदियां

कंपनी ने स्पष्ट किया है कि Grok AI के इस्तेमाल को लेकर अब अतिरिक्त सुरक्षा और फिल्टर लागू किए गए हैं। इन बदलावों का मकसद यह सुनिश्चित करना है कि AI का उपयोग किसी भी तरह की अश्लील, आपत्तिजनक या गैरकानूनी इमेज और कंटेंट बनाने में न हो सके।

भारत के कानूनों का पालन करने का भरोसा

X ने अपने बयान में कहा कि वह भारत के आईटी कानूनों और डिजिटल कंटेंट से जुड़े नियमों का पूरी तरह पालन करेगा। कंपनी ने यह भी माना कि पहले की गई चूक से उसने सबक लिया है और आगे ऐसी गलती दोहराई नहीं जाएगी। प्लेटफॉर्म ने सरकार और यूजर्स दोनों को भरोसा दिलाया है कि कंटेंट मॉडरेशन को और मजबूत किया जाएगा।