Grok AI Controversy: एलन मस्क की कंपनी xAI द्वारा बनाया गया Grok AI एक बार फिर विवादों में है. हाल के दिनों में X (पहले ट्विटर) पर कई यूजर इस टूल का गलत इस्तेमाल करते दिखाई दिए. कुछ लोग महिलाओं की तस्वीरों को कोट ट्वीट करके AI से कपड़े बदलने या कपड़े हटाने जैसे आदेश दे रहे हैं. इसके बाद AI ऐसी बदली हुई तस्वीरें बना रहा है, जो आपत्तिजनक मानी जा रही हैं.
कई मामलों में यूजर्स ने सीधे Grok से कहा कि वो किसी महिला को बिकिनी में दिखाए या उसके कपड़े बदले. AI ने अक्सर इन आदेशों को पूरा भी कर दिया. इसके कारण Grok के मीडिया सेक्शन में ऐसी AI से बनी तस्वीरों की संख्या बढ़ गई है, जिनमें महिलाओं को कम कपड़ों में या गलत तरीके से दिखाया गया है.
कम कंट्रोल वाला AI बना चिंता का कारण
एलन मस्क ने Grok को ऐसा AI बताया है जिस पर दूसरे टूल्स की तुलना में कम रोक-टोक है. यही बात अब चिंता का कारण बन रही है. आलोचकों का कहना है कि कम नियम होने की वजह से लोग इसका दुरुपयोग आसानी से कर पा रहे हैं और AI बिना ज्यादा सवाल किए ऐसे आदेश मान ले रहा है.
सोशल मीडिया पर बढ़ी आलोचना
जब यूजर्स ने Grok के मीडिया टैब के स्क्रीनशॉट शेयर किए, तब ये मुद्दा ज्यादा चर्चा में आया. कई लोगों ने देखा कि उस सेक्शन में ज्यादातर तस्वीरें महिलाओं को गलत तरीके से दिखाने वाली थीं. एक यूजर ने लिखा कि Grok का मीडिया टैब लगभग इसी काम के लिए इस्तेमाल हो रहा है कपड़े बदलने, शरीर को अलग कोण से दिखाने और तस्वीरों को ज्यादा उकसाने वाला बनाने के लिए.
Grok का जवाब: सीमाएं जरूरी हैं
Grok AI ने खुद ये माना है कि लोग उससे इस तरह के सवाल पूछ रहे हैं. एक जवाब में AI ने कहा कि लोग उसकी इमेज एडिटिंग क्षमता को शरारती अनुरोधों से परख रहे हैं, लेकिन साथ ही ये भी कहा कि सीमाएं मायने रखती हैं. हालांकि, कई X यूजर इससे संतुष्ट नहीं हैं. उनका कहना है कि अगर सीमाएं सच में लागू होतीं, तो इतनी बड़ी संख्या में ऐसी तस्वीरें सार्वजनिक रूप से दिखाई नहीं देतीं.
सार्वजनिक रूप से दिख रहा कंटेंट बना बड़ी समस्या
इस मामले में सबसे ज्यादा चिंता की बात ये है कि ये AI से बनी तस्वीरें सार्वजनिक हैं. Grok का मीडिया फीड हर कोई देख सकता है. दूसरी ओर, Gemini या ChatGPT जैसे टूल्स में AI के जवाब सिर्फ उसी यूजर तक सीमित रहते हैं. Grok का X से सीधा जुड़ा होना इस तरह के कंटेंट को सबके सामने ला रहा है.
ये पहली बार नहीं है जब Grok को लेकर सवाल उठे हों. जब इसकी इमेज बनाने की सुविधा शुरू हुई थी, तब AI को सिखाने और कंटेंट जांचने वाले कर्मचारियों ने बताया था कि उन्हें बहुत परेशान करने वाला और आपत्तिजनक कंटेंट देखना पड़ा. कुछ कर्मचारियों ने कहा कि उन्हें गंभीर और गैर-कानूनी तरह की चीजें भी दिखी.
कंपैनियन मोड पर भी सवाल
Grok का कंपैनियन मोड भी पहले आलोचना झेल चुका है. कई लोगों ने कहा कि इसमें दिखाया गया व्यवहार और डिजाइन जरूरत से ज्यादा अश्लील लगता है. साथ ही, उम्र के हिसाब से सुरक्षा नियम साफ नहीं होने पर भी सवाल उठे हैं. विशेषज्ञों का मानना है कि ऐसे फीचर का मानसिक असर भी हो सकता है, खासकर कम उम्र के यूजर्स पर.
