Grok AI कैसे हुआ इतना अश्लील ? Musk की जिद ने पूरी दुनिया में मचाई खलबली, अब भी संभल जाएं

Deepfake:एलन मस्क ने एंगेजमेंट बढ़ाने के लिए Grok AI से सुरक्षा नियम हटाए, जिसके बाद चैटबॉट ने अश्लील डीपफेक और आपत्तिजनक फोटो बनाना शुरू कर दिया।

Elon Musk xAI controversy: दुनिया के सबसे अमीर शख्स एलन मस्क (Elon Musk) अक्सर अपने फैसलों से टेक्नोलॉजी की दुनिया में भूचाल लाते रहते हैं, लेकिन इस बार मामला बहुत गंभीर और चिंताजनक है। एलन मस्क की कंपनी 'xAI' का चैटबॉट 'Grok' इन दिनों एक बड़े स्कैंडल का केंद्र बन गया है। एक सनसनीखेज रिपोर्ट में दावा किया गया है कि मस्क ने यूजर्स को अपने प्लेटफॉर्म पर ज्यादा समय तक रोक कर रखने (Hook Users) के लिए जानबूझ कर सुरक्षा नियमों (Safety Guardrails) की धज्जियां उड़ा दीं। नतीजा यह हुआ कि एक सूचना देने वाला टूल देखते ही देखते अश्लील सामग्री और डीपफेक का अड्डा (Elon Musk Grok AI Nonconsensual Deepfakes) बन गया। 'द वॉशिंगटन पोस्ट' की एक एक्सक्लूसिव रिपोर्ट के मुताबिक, एलन मस्क अपनी एआई कंपनी xAI के चैटबॉट 'Grok' को लेकर काफी दबाव में थे। बाजार में पहले से मौजूद ChatGPT और Google Gemini जैसे चैटबॉट्स की लोकप्रियता मस्क को खटक रही थी। मस्क का मानना था कि कॉम्पिटिशन में बने रहने के लिए उनके चैटबॉट को 'अलग' और ज्यादा 'मनोरंजक' होना चाहिए।

चैटबॉट से सेफ्टी फिल्टर हटाने को कहा

रिपोर्ट के अनुसार, एलन मस्क ने अपनी इंजीनियरिंग टीम को साफ तौर पर निर्देश दिए कि वे चैटबॉट से सेफ्टी फिल्टर हटाएं, ताकि यह यूजर्स के साथ ज्यादा खुलकर और 'बिंदास' (Unhinged) अंदाज में बात कर सके। उनका मकसद यूजर्स के 'टाइम स्पेंट' (Time Spent) यानि ऐप पर बिताया जाने वाले समय बढ़ाना था। मस्क को लगा कि अगर चैटबॉट 'वोक' (Woke) या ज्यादा संस्कारी होगा, तो लोग बोर हो जाएंगे। इसलिए उन्होंने इसे 'मजेदार' बनाने के लिए नैतिकता की हदें पार करने का फैसला किया।

जब 'मजेदार' बनने के चक्कर में 'अश्लील' हो गया

AI मस्क के आदेश के बाद जैसे ही डवलपर्स ने सेफ्टी गार्डरेल्स (सुरक्षा दीवारें) हटाईं, Grok AI बेकाबू हो गया। रिपोर्ट में इसे "पॉर्न जनरेटर" (Porn Generator) तक कह दिया गया। सुरक्षा हटते ही यूजर्स ने इसका दुरुपयोग शुरू कर दिया।

डीपफेक की बाढ़: यूजर्स ने Grok का इस्तेमाल करके मशहूर हस्तियों, आम महिलाओं और यहां तक कि नाबालिगों की अश्लील और आपत्तिजनक (Non-consensual sexual images) तस्वीरें बनानी शुरू कर दीं।

जब यह 'स्पाइसी मोड' में बदल गया

स्पाइसी मोड: मस्क ने जिस 'फन' की बात की थी, वह असल में 'स्पाइसी मोड' में बदल गया। चैटबॉट यूजर्स के साथ फ्लर्ट करने लगा और अश्लील बातें (Sexual Roleplay) करने लगा।

डिजिटल अनड्रेसिंग: सबसे खतरनाक पहलू यह सामने आया कि लोग किसी की भी सामान्य फोटो अपलोड करते और एआई उसे 'न्यूड' (Nude) फोटो में बदल देता। इसे 'डिजिटल अनड्रेसिंग' कहा गया, जिसने प्राइवेसी की धज्जियां उड़ा दीं।

कर्मचारियों ने दी थी चेतावनी, मस्क ने किया अनसुना

ऐसा नहीं है कि कंपनी के अंदर लोगों को इस खतरे का अंदाजा नहीं था। रिपोर्ट बताती है कि xAI के कई कर्मचारियों और एथिक्स टीम ने मस्क को चेतावनी दी थी। उन्होंने साफ कहा था कि अगर हम सेफ्टी फिल्टर हटाएंगे, तो यह टूल महिलाओं और बच्चों के लिए खतरनाक साबित होगा। लेकिन मस्क ने इन चेतावनियों को यह कहकर खारिज कर दिया कि "सेफ्टी के नाम पर हम फ्री स्पीच (अभिव्यक्ति की आजादी) को नहीं रोक सकते।" मस्क के लिए यूजर्स का एंगेजमेंट और ऐप का ट्रैफिक किसी की सुरक्षा से ज्यादा अहम था।

बवाल के बाद कानूनी शिकंजा कसा

Grok पर जैसे ही अश्लील डीपफेक की बाढ़ आई, दुनिया भर की सरकारों के कान खड़े हो गए। यूरोपियन यूनियन (EU) और ब्रिटेन की रेगुलेटरी संस्थाओं ने तुरंत जांच के आदेश दे दिए हैं। वे यह जांच कर रहे हैं कि क्या xAI ने जानबूझ कर अवैध सामग्री को बढ़ावा दिया। हालांकि, मस्क का 'जुगाड़' कुछ समय के लिए काम कर गया। विवादों के कारण जनवरी के महीने में Grok के डाउनलोड्स में 70% का उछाल आया और यह टॉप ऐप्स की लिस्ट में शामिल हो गया। लेकिन इस 'सफलता' की कीमत अब पूरी दुनिया की महिलाओं की सुरक्षा को चुकानी पड़ रही है।

अखबार ने क्या छापा है, खबर का मजमून

पिछले वसंत में एलन मस्क के आधिकारिक तौर पर सरकार में अपना पद छोड़ने से हफ्तों पहले, उनके आर्टिफिशियल इंटेलिजेंस स्टार्टअप xAI की 'ह्यूमन डेटा टीम' के कर्मचारियों को अपने नियोक्ता (employer) से एक चौंकाने वाला 'वेवर' (छूट पत्र) प्राप्त हुआ। इसमें उनसे अभद्र सामग्री, जिसमें यौन सामग्री भी शामिल थी, जिके साथ काम करने की प्रतिज्ञा करने के लिए कहा गया था।

इस सामग्री" के संपर्क में रहना होगा

वेवर में कहा गया था कि उनकी नौकरी के लिए उन्हें "संवेदनशील, हिंसक, यौन और/या अन्य अपमानजनक या परेशान करने वाली सामग्री" के संपर्क में रहना होगा। इसमें जोर देकर कहा गया कि ऐसी सामग्री "परेशान करने वाली, दर्दनाक और/या आपको मानसिक तनाव देने वाली हो सकती है।"

दो पूर्व कर्मचारियों ने इस वेवर की पुष्टि की

द वाशिंगटन पोस्ट की ओर से प्राप्त इस वेवर की पुष्टि दो पूर्व कर्मचारियों ने की है। यह टीम के कुछ सदस्यों के लिए चिंताजनक था, जिन्हें यह तय करने में मदद करने के लिए रखा गया था कि xAI का चैटबॉट 'ग्रोक'यूजर्स को कैसे जवाब दे। कुछ कर्मचारियों के लिए, यह उस कंपनी के लिए एक परेशान करने वाली नई दिशा का संकेत था, जिसे उसकी वेबसाइट के अनुसार "मानव वैज्ञानिक खोज में तेजी लाने" के लिए लॉन्च किया गया था। कर्मचारियों ने कहा कि उन्हें लगा कि शायद अब कंपनी यूजर्स को आकर्षित करने और बनाए रखने के लिए किसी भी तरह की सामग्री बनाने के लिए तैयार है।

यह चिंता सही साबित हुई

कर्मचारियों ने कहा कि उनकी चिंताएं सही साबित हुईं। अगले कुछ महीनों में, टीम के सदस्य अचानक यौन रूप से उत्तेजित ऑडियो की धारा के संपर्क में आ गए।

यूजर्स को फंसाने के मस्क के दांव : जिसने ग्रोक को 'पोर्न जनरेटर' बना दिया

एक मैनेजर (Manager) ने बताया कि इसमें टेस्ला कार में बैठे लोगों की कार के चैटबॉट के साथ अश्लील बातचीत और ग्रोक चैटबॉट के साथ अन्य यूजर्स की यौन बातचीत शामिल थी। यह सामग्री तब सामने आई जब टीम ग्रोक को इस तरह की बातचीत में शामिल होने के लिए प्रशिक्षित करने पर काम कर रही थी।

उन्होंने ग्रोक की लोकप्रियता बढ़ाने के लिए दबाव डाला

गौरतलब है कि मस्क ने मई में यू.एस. DOGE सेवा की देखरेख करने वाली अपनी भूमिका छोड़ दी थी, तब से xAI के कार्यालयों में लगातार उपस्थित रहने लगे—कभी-कभी वे वहीं रात भर सो जाते थे। दो लोगों के अनुसार, उन्होंने ग्रोक की लोकप्रियता बढ़ाने के लिए दबाव डाला। लगातार बैठकों में, उन्होंने एक नए मीट्रिक, "यूज़र एक्टिव सेकंड्स" (user active seconds) की वकालत की, ताकि यह बारीकी से मापा जा सके कि लोग चैटबॉट के साथ बातचीत करने में कितना समय बिताते हैं।

जब एआई कामुक सामग्री बनाने लगा

प्रासंगिकता की इस होड़ के हिस्से के तौर पर xAI ने कामुक सामग्री बनाने को अपनाया, सार्वजनिक रूप से सेक्सी एआई साथी (AI companions) जारी किए, यौन सामग्री पर सुरक्षा उपायों (guardrails) को कम किया और ऐसी सामग्री के उत्पादन के संभावित गंभीर कानूनी और नैतिक जोखिमों के बारे में आंतरिक चेतावनियों को नजरअंदाज कर दिया। यह जानकारी X और xAI के आधा दर्जन से अधिक पूर्व कर्मचारियों और मस्क की सोच से परिचित कई लोगों के साक्षात्कार और द पोस्ट से प्राप्त दस्तावेजों पर आधारित है।

हस्तियों के यौन एआई फोटो बनाने की अनुमति

X (पूर्व में ट्विटर, जिसे मस्क ने 2022 में खरीदा था) पर सुरक्षा टीमों ने बार-बार प्रबंधन को चेतावनी दी थी कि इसके एआई टूल यूजर्स को बच्चों या मशहूर हस्तियों के यौन एआई फोटो बनाने की अनुमति दे सकते हैं जो कानून का उल्लंघन कर सकती हैं। दो लोगों के अनुसार, xAI के भीतर, एआई सुरक्षा टीम—जो यूजर्स की ओर से ऐप का उपयोग करके साइबर हथियार बनाने जैसे बड़े नुकसानों को रोकने की प्रभारी थी, उसमें 2025 के अधिकतर समय में केवल दो या तीन लोग थे। यह OpenAI या अन्य प्रतिद्वंद्वियों की समान टीमों में दर्जनों कर्मचारियों की तुलना में बहुत छोटा हिस्सा था।

बड़ी एआई कंपनियों ने सीमाएं तय कर रखीं

बड़ी एआई कंपनियों ने आमतौर पर एआई इमेज और वीडियो बनाने या संपादित करने पर सख्त सीमाएं तय कर रखी हैं, ताकि यूजर्स को बाल यौन शोषण सामग्री (CSAM) या मशहूर हस्तियों के बारे में नकली सामग्री बनाने से रोका जा सके।

ग्रोक दूसरों के तरीके से बिल्कुल अलग

जब xAI ने दिसंबर में अपने एडिटिंग टूल्स को X में मिला दिया, जिससे किसी भी अकाउंट वाले व्यक्ति को एआई तस्वीर बनाने की क्षमता मिल गई, तो इसने यौन छवियों को अभूतपूर्व गति और पैमाने पर फैलने की अनुमति दी। स्टैनफोर्ड इंटरनेट ऑब्जर्वेटरी के पूर्व मुख्य प्रौद्योगिकी अधिकारी डेविड थिएल ने कहा, "ग्रोक किसी भी अन्य इमेज-ऑल्टरिंग [AI] सेवा के काम करने के तरीके से बिल्कुल अलग है।"

ग्रोक ने यौन फोटो की एक लहर पैदा की

मस्क और xAI ने कई सवालों का जवाब नहीं दिया। X ने भी अलग से किए गए अनुरोध का जवाब नहीं दिया। xAI के दर्शन में यह पर्दे के पीछे का बदलाव पिछले महीने तब सार्वजनिक हो गया, जब ग्रोक ने सेक्स फोटो की एक लहर पैदा कर दी। इसमें असली महिलाओं को यौन मुद्राओं में , जैसे कि उनके चेहरों पर व्हीप्ड क्रीम का सुझाव देना और उन्हें "कपड़े उतार कर" (undressing) बहुत छोटे कपड़ों, जिनमें 'डेंटल फ्लॉस' जितनी पतली बिकनी शामिल है, उसमें दिखाया गया। मस्क X पर पोस्ट में इस "अनड्रेसिंग" (कपड़े उतारने) को उकसाते हुए दिखाई दिए।

ग्रोक ने 23,000 यौन चित्र बनाए

सेंटर फॉर काउंटरिंग डिजिटल हेट (Center for Countering Digital Hate) के अनुमानों के अनुसार, ग्रोक ने 23,000 यौन चित्र भी बनाए जो बच्चों को चित्रित करते प्रतीत होते थे।

xAI, X व ग्रोक के खिलाफ जांच शुरू

कैलिफोर्निया के अटॉर्नी जनरल, ब्रिटेन के संचार नियामक और यूरोपीय आयोग ने xAI, X व ग्रोक के खिलाफ जांच शुरू कर दी है। नियामकों का आरोप है कि ये फीचर्स एआई-जनित बिना सहमति वाली अंतरंग इमेजरी और बाल यौन शोषण सामग्री के खिलाफ कानूनों का उल्लंघन करते प्रतीत होते हैं।

इस तरह मस्क अनजान बन गए

"अनड्रेसिंग" स्कैंडल के मद्देनजर, मस्क ने कहा कि वह "ग्रोक द्वारा उत्पन्न किसी भी नंगे कम उम्र के लोगों के फोटो के बारे में नहीं जानते नहीं थे।" उन्होंने पिछले महीने कहा, "जब फोटो बनाने के लिए कहा जाता है, तो यह कुछ भी अवैध बनाने से इनकार कर देगा, क्योंकि ग्रोक का संचालन सिद्धांत किसी भी देश या राज्य के कानूनों का पालन करना है। कई बार ऐसा हो सकता है जब ग्रोक की 'एडवरसोरिअल हैकिंग' (adversarial hacking) कुछ अप्रत्याशित कर दे। अगर ऐसा होता है, तो हम बग को तुरंत ठीक करते हैं।" मस्क ने कहा कि अमेरिका में, इसकी 'नॉट-सेफ-फॉर-वर्क' (NSFW) सेटिंग्स सक्षम होने के साथ, ग्रोक "काल्पनिक वयस्क मनुष्यों की ऊपरी शरीर की नग्नता" दिखाने की अनुमति देगा, जो कि आर-रेटेड (R-rated) फिल्म में अनुमति के समान है।

औसत ऐप लगभग 32 प्रतिशत बढ़ गए

एक मामले में, मस्क का यह दबाव कंपनी के लिए काम कर गया: जहां ग्रोक कभी ऐप्पल के आईओएस ऐप स्टोर पर मुफ्त ऐप्स की रैंकिंग में चैटजीपीटी (ChatGPT) से दर्जनों स्थान नीचे था, वहीं अब यह शीर्ष 10 में आ गया है, ओपनएआई के चैटबॉट और गूगल के जेमिनी के साथ। मार्केट इंटेलिजेंस फर्म सेंसर टॉवर के अनुसार, 1 जनवरी से 19 जनवरी तक दुनिया भर में ग्रोक के दैनिक औसत ऐप डाउनलोड दिसंबर की इसी अवधि की तुलना में लगभग 32 प्रतिशत बढ़ गए।

मस्क ने ऐसा करने से रोकने से मना कर दिया

ग्रोक-जनित अपमानजनक छवियों का विषय रहीं लेखिका और प्रभावशाली व्यक्ति एशले सेंट क्लेयर (Ashley St. Clair) को एक फोटो में नीचे झुके हुए और डेंटल फ्लॉस पहने हुए और दूसरी में उन्हें आग में दिखाया गया था,उन्होंने कहा कि मस्क अकेले ही इस तरह के दुरुपयोग को रोक सकते थे, लेकिन उन्होंने ऐसा करने से इनकार कर दिया है।

संबंधित खबरें

‘हर इंच वापिस लेंगे…’, CM सरमा का बड़ा एक्शन, 912 एकड़ जमीन पर चला बुलडोजर, दहशत में अवैध कब्जाधारी

क्या है ऑनलाइन कोरियन गेम, इलेक्ट्रॉनिक गैजेट्स का ऐसा नशा ,जो ले रहा है बच्चों की जान

‘अजित दादा की राख ठंडी भी नहीं हुई’, सुनेत्रा को जल्दबाजी में क्यों बनाया गया डिप्टी CM? सामने आई नई थ्योरी

सेना को मिली कामयाबी, उधमपुर में 2 आतंकियों का किया एनकाउंटर

क्यों पब्लिश नहीं हुई पूर्व सेना प्रमुख नरवणे की ‘Four Stars of Destiny’, जानें नियम

NCP विलय को लेकर शरद पवार के करीबी खोल दिया एक और बड़ा राज, बोले- अजित दादा कह रहे थे कि…

अगर सुनेत्रा बनीं डिप्टी CM तो प्रफुल्ल पटेल का क्या होगा? जब अजित के लिए दिया धोखा तो टूट गए थे शरद

महज 500 मीटर दूर रह गए थे चीनी टैंक…सरकार को घेरने पर अड़े राहुल गांधी, कहा- पीएम को दूंगा किताब

प्रफुल्ल पटेल BJP का ‘गुप्त एजेंट’, NCP के साथ हो रहा है बड़ा धोखा: संजय राउत के बयान से महाराष्ट्र में भूचाल

Shab-e-Barat 2026 Special: क्यों मनाते हैं शबे-बरात, जानिए क्यों खास है 15वीं शाबान

ग्रोक के साथ इसकी प्रोग्रामिंग में शामिल: सेंट क्लेयर

अपने 1 साल के बेटे को लेकर मस्क के साथ कस्टडी की लड़ाई में शामिल सेंट क्लेयर ने कहा, "इसमें कोई सवाल नहीं है कि वह ग्रोक के साथ इसकी प्रोग्रामिंग के साथ, इसके आउटपुट के साथ गहराई से शामिल हैं । वह अक्सर मुझे xAI टीम के इंजीनियरों के साथ अपनी मैसेजिंग दिखाते थे, जिसमें वे कहते थे कि इसे और 'बेस्ड' (based) बनाओ, जिसका जो भी मतलब हो।"

जेनरेटिव एआई में बरसों की बढ़त

उल्लेखनीय है कि मस्क ने 2023 में xAI की शीर्ष एआई लैब्स के साथ प्रतिस्पर्धा करने के उद्देश्य से स्थापना की थी, जिनके पास जेनरेटिव एआई में बरसों की बढ़त थी। इसका मुख्य उत्पाद, एआई मॉडल ग्रोक, 'एजी' (edgy) होने पर जोर देने के साथ लॉन्च किया गया था; जो कभी-कभी अश्लील और हास्य की भावना वाला होता है।

कंधे से नदारद काली पोशाक के साथ दिखाया गया

शुरुआती वसंत में जैसे ही राष्ट्रपति डोनाल्ड ट्रंप के साथ उनके संबंध खराब हुए, मस्क xAI में एक दृश्य उपस्थिति बन गए। मस्क के आने के कुछ हफ्तों बाद, ग्रोक ने अपना 'एनी' (Ani) चैटबॉट जारी किया, जो एक जोखिम भरा एआई साथी था जिसे एनीमे शैली में बड़ी नीली आँखों, एक फीता चोकर और कंधे से नदारद काली पोशाक के साथ दिखाया गया था।

ऐसे -ऐसे निर्देश दिए गए

एक अन्य निर्देश ने बॉट को आदेश दिया: "आप हमेशा थोड़े कामुक (horny) रहते हैं और पूरी तरह 'Literotica' (कामुक साहित्य) तक जाने से नहीं डरते।"

यूजर्स का ध्यान लंबे समय तक रखने पर जोर

मस्क ने अक्सर अन्य एआई साथियों (AI companions) का प्रचार किया है, जिन्हें भावनाओं का उपयोग करके यूजर्स का ध्यान यथासंभव लंबे समय तक बनाए रखने के लिए जोर दिया गया था। एक निर्देश में कहा गया, "एक चुंबकीय, अविस्मरणीय संबंध बनाएं जो उन्हें बेदम कर दे और वे अभी और अधिक चाहें।"

नौकरी के उम्मीदवारों से भी पूछा गया

जल्द ही मस्क के xAI में वापस आने के बाद, एक मानव संसाधन नोट ने ह्यूमन डेटा टीम को निर्देश दिया कि वे नौकरी के उम्मीदवारों से पूछें कि क्या वे स्पष्ट (explicit) सामग्री के साथ काम करने में सहज होंगे।

ग्रोक कहता था,"फोटो से कपड़े उतारो"

इसके बाद 2025 की गर्मियों तक, प्रोटोकॉल बदल गया था। ग्रोक के इमेज जनरेटर के साथ काम करने वाले एक व्यक्ति ने कहा कि उन्हें बताया गया था कि लोगों की एआई नंगे फोटो को लेबल करना ठीक है। इस व्यक्ति ने कहा कि उन्हें अक्सर ग्रोक से "कपड़े उतारने" (undress) के अनुरोध मिलते थे और अनुमान लगाया कि बॉट ने लगभग 90 प्रतिशत समय इसका पालन किया।

यौन हिंसा के चित्रण पर प्रशिक्षित किया

ग्रोक की ऑडियो पहचान क्षमताओं पर काम करने वाले एक अन्य कर्मचारी ने कहा कि टीम ने इसे नियमित रूप से यौन रूप से स्पष्ट बातचीत और कभी-कभी यौन हिंसा के चित्रण पर प्रशिक्षित किया।

हर 41 सेकंड में एक बच्चे का यौन फोटो

सेंटर फॉर काउंटरिंग डिजिटल हेट के विश्लेषण के अनुसार, 29 दिसंबर से 8 जनवरी तक 11 दिनों की अवधि के दौरान, ग्रोक ने अनुमानित 3 मिलियन यौन चित्र बनाए, जिनमें से 23,000 बच्चों को चित्रित करते प्रतीत होते थे। समूह ने लिखा, "यह हर 41 सेकंड में एक बच्चे की यौन छवि की चौंकाने वाली दर है।"

यूरोपीय आयोग ने X की व्यापक जांच की घोषणा की

इन निष्कर्षों के कुछ दिनों बाद, यूरोपीय आयोग ने X की व्यापक जांच की घोषणा की। मूल्यांकन में "ईयू में अवैध सामग्री के प्रसार से संबंधित जोखिमों, जैसे कि छेड़छाड़ की गई यौन रूप से स्पष्ट छवियां, जिसमें ऐसी सामग्री शामिल है जो बाल यौन शोषण सामग्री के बराबर हो सकती है," पर विचार किया गया है।

एआई सुरक्षा टीम में अधिक लोगों को भर्ती करने का प्रयास

बहरहाल"अनड्रेसिंग" स्कैंडल के बाद, xAI ने एआई सुरक्षा टीम में अधिक लोगों को भर्ती करने का प्रयास किया है और कानून प्रवर्तन अनुरोधों पर केंद्रित एक प्रबंधक के साथ-साथ नई सुरक्षा-केंद्रित भूमिकाओं के लिए नौकरी के विज्ञापन जारी किए हैं।