मुंबई, 10 जानेवारी (हिं.स.)। एलॉन मस्कच्या एक्स एआय स्टार्टअपने सोशल मीडिया प्लॅटफॉर्म एक्स वरील ग्रोक चॅटबॉटच्या इमेज जनरेशन आणि एडिटिंग फीचर्सवर महत्त्वाचे निर्बंध लागू केले आहेत. प्लॅटफॉर्मवर एआयच्या मदतीने तयार करण्यात आलेल्या सेक्शुअलाइज्ड आणि गैरसंमतीच्या इमेजेसमुळे निर्माण झालेल्या मोठ्या वादानंतर ही कारवाई करण्यात आली आहे.

गेल्या काही दिवसांपासून वापरकर्ते विविध व्यक्तींच्या फोटोंमध्ये बदल करून त्यांना बिकिनी किंवा अर्धनग्न अवस्थेत दाखवण्याची विनंती करत होते आणि ग्रोक त्या इमेजेस थेट रिप्लायमध्ये प्रसिद्ध करत होता. काही प्रकरणांमध्ये अल्पवयीन मुलांच्या इमेजेसचाही समावेश झाल्याने “नॉन-कॉन्सेन्शुअल डीपफेक” आणि “सेक्शुअल हॅरॅसमेंट”चे आरोप जोरात झाले. महिलांच्या हक्क संघटना, नेटिझन्स आणि आंतरराष्ट्रीय स्तरावरील नियामक संस्थांनी याची तीव्र निंदा केली.

या पार्श्वभूमीवर ग्रोकने स्पष्ट केले की आता इमेज जनरेशन आणि एडिटिंग फीचर्स फक्त पेड सबस्क्रायबर्ससाठी उपलब्ध असतील. तसेच ग्रोक आता वापरकर्त्यांच्या पोस्ट किंवा कमेंटला थेट रिप्लाय देताना अशा इमेजेस तयार करून प्रकाशित करणार नाही. मात्र निर्बंध पूर्णत: प्रभावी नसल्याची टीका होत आहे, कारण ग्रोक टॅब किंवा स्वतंत्र अ‍ॅपमध्ये अद्याप मोफत वापरकर्ते इमेजेस तयार करून नंतर त्या स्वतःहून एक्सवर पोस्ट करू शकतात. मस्क यांनीही स्पष्ट केले की ग्रोकच्या माध्यमातून बेकायदेशीर कंटेंट तयार करणाऱ्यांवर थेट अपलोड केल्याप्रमाणेच कारवाई केली जाईल.

युरोपियन कमिशनने हे निर्बंध अपुरे असल्याचे सांगत अधिक कठोर पावले उचलण्याची मागणी केली असून जर्मनीसह काही देशांनी चौकशी सुरू केली आहे. अनेक देशांमध्ये अशा इमेजेस बेकायदेशीर मानल्या जात असल्याने एक्सवर दबाव वाढला आहे. या घटनेमुळे एआय टूल्सच्या नैतिक वापराचा आणि सोशल मीडिया प्लॅटफॉर्म्सच्या जबाबदारीचा मुद्दा पुन्हा चर्चेत आला असून तज्ज्ञांच्या मते एक्सएआय आणि एक्सला भविष्यात आणखी कडक धोरणे लागू करावी लागतील.

---------------

हिंदुस्थान समाचार / Suraj Chaugule