सारांश
• यूएन वुमेन ने चेतावनी दी है कि एआई प्रणालियां लैंगिक रूढ़ियों और नस्लीय पूर्वाग्रह को मजबूत कर रही हैं।
• 133 एआई प्रणालियों पर किए गए एक अध्ययन में पाया गया कि 44 प्रतिशत में लैंगिक पूर्वाग्रह था, जबकि 26 प्रतिशत में लैंगिक और नस्लीय दोनों प्रकार के पूर्वाग्रह मौजूद थे।
• एजेंसी का कहना है कि एआई महिलाओं और लड़कियों के खिलाफ ऑनलाइन हिंसा को भी बढ़ा रहा है, जिसमें डीपफेक और छवि-आधारित दुर्व्यवहार शामिल हैं।
• यूएन वुमेन ने एआई के विकास, उपयोग और शासन के हर स्तर पर लैंगिक समानता को शामिल करने की अपील की है।
संयुक्त राष्ट्र (यूएन) वुमेन ने चेताया है कि कृत्रिम बुद्धिमत्ता (एआई) पहले से ही अरबों लोगों के दुनिया को देखने के तरीके को प्रभावित कर रही है, लेकिन यह महिलाओं को सही ढंग से प्रस्तुत नहीं कर रही है। जुलाई में जिनेवा में होने वाली संयुक्त राष्ट्र से जुड़ी दो प्रमुख एआई बैठकों से पहले एजेंसी ने कहा कि एआई प्रणालियों के डिजाइन, तैनाती और गनर्वेंस में लैंगिक समानता को शामिल किया जाना चाहिए।
यूएन वुमेन ने 133 एआई प्रणालियों पर किए गए एक अध्ययन का हवाला दिया, जिसमें पाया गया कि 44 प्रतिशत प्रणालियों में लैंगिक पूर्वाग्रह था, जबकि 26 प्रतिशत में लैंगिक और नस्लीय दोनों प्रकार के पूर्वाग्रह पाए गए। एजेंसी ने कहा कि जोखिम बढ़ते जा रहे हैं क्योंकि जनरेटिव एआई का उपयोग विपणन, संचार और मीडिया उत्पादन में व्यापक रूप से हो रहा है।
एजेंसी के अनुसार, ब्रिटेन में 88 प्रतिशत विज्ञापन और मीडिया एजेंसियां किसी न किसी रूप में पहले से ही जनरेटिव एआई का उपयोग कर रही हैं। लेकिन वर्तमान में केवल 51 प्रतिशत विपणक एआई द्वारा तैयार रचनात्मक सामग्री को जारी करने से पहले उसकी जांच के लिए मानवीय निगरानी का उपयोग करते हैं।
यूएन वुमेन ने कहा कि बड़े भाषा मॉडल (लार्ज लैंग्वेज मॉडल) महिलाओं को “घर”, “परिवार” और “बच्चों” जैसे शब्दों से जोड़ते पाए गए हैं, जबकि पुरुषों को “व्यवसाय”, “कार्यकारी”, “वेतन” और “करियर” जैसे शब्दों से जोड़ा जाता है। कुछ मामलों में, एआई द्वारा उत्पन्न प्रतिक्रियाओं में लैंगिक भेदभावपूर्ण और स्त्री-विरोधी दृष्टिकोण भी दिखाई दिए।
एजेंसी ने यह भी चेतावनी दी कि एआई महिलाओं और लड़कियों के खिलाफ ऑनलाइन हिंसा को और बढ़ा रहा है। इसके अनुसार, सर्वेक्षण में शामिल लगभग हर चार में से एक महिला मानवाधिकार रक्षक, कार्यकर्ता और पत्रकार ने एआई-सहायित ऑनलाइन हिंसा का अनुभव किया। कुछ ने निजी तस्वीरों को बिना सहमति साझा किए जाने, डीपफेक या छेड़छाड़ किए गए वीडियो तथा डिजिटल संदेशों के माध्यम से अवांछित यौन प्रस्तावों की शिकायत की।
यूएन वुमेन के अनुसार, एआई प्रणालियों के विकास में भी महिलाओं का प्रतिनिधित्व कम है और वे वैश्विक एआई कार्यबल का लगभग 30 प्रतिशत हिस्सा हैं। एजेंसी ने चेतावनी दी कि प्रतिनिधित्व की यह कमी दर्शाती है कि इन उपकरणों को बनाने वाले लोग उस व्यापक आबादी का प्रतिबिंब नहीं हैं जिसकी सेवा के लिए इन्हें तैयार किया जाता है।
एजेंसी ने कहा कि एआई क्षेत्र के बाहर की महिलाएं भी पुरुषों की तुलना में लगभग दोगुनी अधिक उन नौकरियों में कार्यरत हैं, जिन पर स्वचालन का उच्च जोखिम है। इसका सबसे अधिक प्रभाव उन समूहों पर पड़ने की संभावना है जो पहले से ही मीडिया और श्रम बाजारों में कम प्रतिनिधित्व रखते हैं।
यूएन वुमेन ने कहा कि समावेशी एआई केवल अधिकारों का मुद्दा नहीं है, बल्कि यह एक व्यावसायिक चिंता का विषय भी है। उसने अनस्टिरियोटाइप एलायंस के शोध का हवाला दिया, जिसके अनुसार लैंगिक रूढ़ियों से मुक्त विज्ञापन बिक्री, ब्रांड मूल्य और ग्राहक निष्ठा को बढ़ा सकते हैं।
एजेंसी ने कहा कि एआई रूढ़ियों की पहचान करने और प्रतिनिधित्व को बेहतर बनाने में मदद कर सकता है, लेकिन केवल तभी जब महिलाओं और लड़कियों को इस बात के निर्णयों में शामिल किया जाए कि इस तकनीक का निर्माण और उपयोग कैसे किया जाता है।
