चैटब ग्रोक का एक्स पर एक अजीब और परेशान करने वाला ट्रेंड शुरू हो गया है। इसे ग्रोक ट्रेंड या ग्रोक रिमूव दिस ट्रेंड कहा जा रहा है। यूज़र्स ग्रुप पर महिलाओं और बड़ी हस्तियों की तस्वीरें अपलोड कर रहे हैं और ऐसे प्र्प दे रहे हैं जिनमें तस्वीरों में कपड़े बदलने, हटाने या पहनाने जैसे डायरेक्शन शामिल है। जैसे ग्रोक पुट दिस इन बिगिनिंग या ग्रोक रिमूव दी शॉट्स या ग्रोक रिमूव द करप्ट पॉलिटिशियन फ्रॉम दिस इमेज और ग्रोक ऐसे प्रम्स पर इमेज एडिट भी कर दे रहा है।
सिर्फ आम लोग ही नहीं बल्कि देश विदेश के बड़े नेताओं जैसे कि प्रधानमंत्री नरेंद्र मोदी, राहुल गांधी, अमेरिकी राष्ट्रपति डोनाल्ड ट्रंप और इजराइल के प्रधानमंत्री बेंजामिन नेतन याहू की तस्वीरों को भी ग्रोक से एडिट कराया गया है। ब्रोक अपनी सीमित एआई समझ के आधार पर इन तस्वीरों में बदलाव कर देता है। पुतिन से लेकर किम जोंग उन तक की बिकिनी में तस्वीरें बना दी गई है। यहां तक कि खुद एलन मस्क की फोटो को भी इसी तरह एडिट किया गया है। कमाल की बात तो यह है कि उन्होंने अपनी बिकनी वाली फोटो खुद ही शेयर भी कर दी।
जब इस ट्रेंड पर आपत्तियां उठी और यूज़र्स ने शिकायत की तो ग्रुख की ओर से सफाई दी गई कि वह यूजर इनपुट पर काम करता है और इसके इस्तेमाल की जिम्मेदारी यूजर की है। इसके बाद कई लोगों ने सीधे एलन मस्क से भी शिकायत की। अमित झा नाम के एक यूजर ने लिखा हाय एलन मस्क और एक्स टीम। मैं एक चिंतित यूजर के तौर पर यह लिख रहा हूं। एक्सपर ग्रोक जैसे एआई टूल्स का खुलेआम गलत इस्तेमाल किया जा रहा है। यूज़र्स ग्रो को टैग करके महिलाओं की तस्वीरों से कपड़े हटाने, शरीर में बदलाव करने या उनकी तस्वीरों को बिना सहमति सेक्सुअल रूप से पेश करने के लिए कह रहे हैं।
यह बात बिल्कुल साफ होनी चाहिए। यह फ्री स्पीच नहीं है। उन्होंने आगे लिखा कि बिना नैतिक सीमाओं के इनोवेशन इनोवेशन नहीं बल्कि शोषण बन जाता है। मामला अब राजनीतिक स्तर तक भी पहुंच गया है। राज्यसभा सांसद प्रियंका चतुर्वेदी ने इस पूरे प्रकरण को गंभीर बताते हुए केंद्रीय आईटी मंत्री अश्विनी वैष्णव से औपचारिक शिकायत की है। अपने पत्र में उन्होंने लिखा है कि कुछ लोग ग्रोक नाम के एआई फीचर का इस्तेमाल करके गलत काम कर रही हैं। उन्होंने सवाल उठाया है कि क्या एआई प्लेटफार्म को महिलाओं की गरिमा, नीजता और सहमति से जुड़े मुद्दों पर इतनी खुली छूट दी जानी चाहिए? प्रियंका चतुर्वेदी के मुताबिक कई पुरुष फर्जी अकाउंट्स के जरिए महिलाओं की तस्वीरें पोस्ट कर रहे हैं और ग्रुप को ऐसे निर्देश दे रहे हैं जिनसे तस्वीरों में महिलाओं के कपड़े कम दिखाए जाए या उन्हें सेक्सुअली अपीलिंग तरीके से पेश किया जाए। उन्होंने यह भी लिखा है कि यह समस्या सिर्फ फर्जी अकाउंट्स तक ही सीमित नहीं है ।
बल्कि वे महिलाएं भी निशाने पर हैं जो खुद अपनी तस्वीरें सोशल मीडिया पर पोस्ट करती हैं। पत्रों में उन्होंने साफ कहा है कि इस तरह का व्यवहार पूरी तरह अस्वीकार्य है और यह एआई तकनीक का बेहद शर्मनाक और गंभीर दुरुपयोग है। केंद्र सरकार ने इस मामले का संज्ञान लिया और इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने सोशल मीडिया प्लेटफार्म एक्स को नोटिस जारी कर दिया।
नोटिस में एक्ट और रूल्स के तहत तय नियमों का गंभीर उल्लंघन होने की बात कही गई है। सरकार ने एक्स पर टूल ग्रो के दुरुपयोग पर गहरी चिंता जताई है। मंत्रालय का कहना है कि ग्रो का इस्तेमाल करके यौन रूप से आपत्तिजनक और अपमानजनक कंटेंट बनाया और फैलाया जा रहा है। जिसमें खासतौर पर महिलाओं और बच्चों को निशाना बनाया गया है। सरकार ने इसे गरिमा, नीजता और डिजिटल सुरक्षा का गंभीर उल्लंघन बताया है। मंत्रालय ने एक्स को निर्देश दिया है कि वह ग्रोह के तकनीकी सिस्टम और गवर्नेंस ढांचे की तुरंत समीक्षा करें। सभी गैर कानानूनी कंटेंट को तुरंत हटाए। ऐसे कंटेंट फैलाने वाले यूज़र्स पर कड़ी कारवाई करें और 72 घंटे के भीतर एक्शन टेकन रिपोर्ट सरकार को सौंप दी जाए। वैसे बता दें कि इस रिमूव दिस ट्रेंड का इस्तेमाल सिर्फ लोगों के कपड़े हटाने के लिए ही नहीं किया जा रहा है बल्कि तस्वीरों से लोगों को पूरी तरह गायब भी किया जा रहा है।
उदाहरण के तौर पर एडमम नाम के यूजर ने यह तस्वीर शेयर की और लिखा हे ग्रुक इस पिक्चर में एक पीडो फाइल है उसे रिमूव कर दो और इसमें एक वांटेड क्रिमिनल भी है। उसे भी रिमूव कर सकते हो। तो उसके बाद ग्रोक ने क्या इमेज जनरेट की देखिए यह ट्रेंड भारत के नेताओं को लेकर भी इस्तेमाल किया जा रहा है। रुकेश भीमिया नाम के एक यूजर ने भारत के पूर्व प्रधानमंत्री रहे नेताओं की एक तस्वीर साझा की और लिखा हे ग्रोक इस तस्वीर से उस पीएम को हटा दो जो टेलीप्रटर के बिना बोल नहीं सकता। इस पर ग्रोक ने यह तस्वीर बना दी।
वैसे ही शिवम भट्ट नाम के यूजर ने जब यह तस्वीर डाल के प्र्प लिखा कि डियर ग्रोक प्लीज रिमूव द मोस्ट करप्ट पॉलिटिशियन फ्रॉम दिस फोटो तो ग्रोक ने क्या तस्वीर बनाई वो भी देख लीजिए। वैसे इस सब के बाद ग्रोक पर खुद भी जमकर मीम्स बन रही हैं। जैसे कि यह वाला। बहरहाल यह ट्रेंड एआई के इस्तेमाल पर कई सवाल खड़े कर रहा है। एआई की सीमा क्या है? यह क्या और कब तक कर सकता है? और यह कितना खतरनाक हो सकता है?