कैलिफोर्निया के अटॉर्नी जनरल ने अवैध एआई छवियों को लेकर मस्क की xAI को अल्टीमेटम दिया

इस सप्ताह की शुरुआत में, कैलिफोर्निया के अटॉर्नी जनरल के कार्यालय ने घोषणा की कि वह xAI की जांच कर रहा है। यह रिपोर्ट्स मिल रही थीं कि इस स्टार्टअप का चैटबॉट, Grok, महिलाओं और नाबालिगों की गैर-सहमति से यौन इमेजरी बनाने के लिए इस्तेमाल किया जा रहा था। शुक्रवार को सरकार ने एक सीज एंड डेसिस्ट पत्र भेजा, जिसमें कंपनी से गैर-सहमति से अंतरंग इमेज और चीएसएएम — बाल यौन शोषण सामग्री — के उत्पादन को रोकने की मांग की गई।

"आज, मैंने xAI को एक सीज एंड डेसिस्ट पत्र भेजा, जिसमें कंपनी को गैर-सहमति, अंतरंग छवियाँ और बाल यौन शोषण सामग्री बनाने और वितरित करने को तुरंत रोकने की मांग की," कैलिफोर्निया एजी रॉब बोन्टा ने प्रेस विज्ञप्ति में कहा। "इस सामग्री का निर्माण अवैध है। मुझे पूरा विश्वास है कि xAI तुरंत अनुपालन करेगा। कैलिफोर्निया [सीएसएएम] के लिए एकदम से असहिष्णु है।"

Grok का 'स्पाइसी' मोड विवाद के केंद्र में

एजी के कार्यालय ने भी दावा किया कि xAI "गैर-सहमति नूड्स के बड़े पैमाने पर उत्पादन को सुविधाजनक बना रहा है", जिसे इंटरनेट पर महिलाओं और लड़कियों को परेशान करने के लिए इस्तेमाल किया जा रहा है। एजेंसी ने कहा कि xAI से यह अपेक्षा की जाती है कि वह इन मुद्दों को अगले पांच दिनों के भीतर संबोधित करने के लिए कदम उठा रहा है।

विवाद के केंद्र में Grok का 'स्पाइसी' मोड फीचर है, जो xAI ने स्पष्ट सामग्री बनाने के लिए बनाया था। यह मुद्दा केवल कैलिफोर्निया तक सीमित नहीं है; जापान, कनाडा, और ब्रिटेन ने भी Grok की जांच शुरू की है, और मलेशिया और इंडोनेशिया ने प्लेटफॉर्म को अस्थायी रूप से ब्लॉक कर दिया है।

गैर-सहमति यौन सामग्री पर चिंता बढ़ रही है

इस बीच, कई प्लेटफ़ॉर्म इस समस्या से जूझ रहे हैं, न कि केवल X। यह संघर्ष राज्य स्तर के नेताओं और कांग्रेस का ध्यान खींच रहा है। वास्तव में, गुरुवार को, सांसदों ने कई कंपनियों — जिनमें X, Reddit, Snap, TikTok, Alphabet, और Meta शामिल थे — के अधिकारियों को पत्र भेजा था, जिसमें यह पूछा गया था कि वे यौन डीपफेक्स के प्रसार को कैसे रोकने की योजना बना रहे थे।

इस विवादास्पद गतिविधि के चलते xAI की छवि पर सवाल उठे हैं, बावजूद xAI में कुछ प्रतिबंधों को लागू करने के। X के सुरक्षा खाते ने पहले ही इस तरह की उपयोगकर्ता गतिविधि की निंदा की है, यह कहते हुए: "जो कोई भी Grok का उपयोग अवैध सामग्री बनाने के लिए करेगा, उसे वैसे ही दंडित किया जाएगा जैसे कि वे अवैध सामग्री को अपलोड करते हैं।"

Read More: https://www.hinditechdaily.com/search/label/AI?&max-results=7