नई दिल्ली। हम अक्सर सुनते हैं कि AI इंसानों से ज्यादा स्मार्ट है। यूएन की रिपोर्ट बताती है कि कुछ मामलों AI ने इंसानों के कुछ सबसे बुरे भेदभाव करने के तरीके भी अपना लिए हैं।
एक रिसर्चर्स ने 133 AI सिस्टम की स्टडी की और पाया कि लगभग आधे सिस्टम में जेंडर के आधार पर भेदभाव था, जबकि एकचौथाई से ज्यादा में जेंडर और नस्ल दोनों के आधार पर भेदभाव देखा गया।
एनडीटीवी के अनुसार, लार्ज लैंग्वेज मॉडल ने बारबार महिलाओं को घर परिवार और बच्चों की देखभाल से जोड़ा है, जबकि पुरुषों को बिजनेस, लीडरशिप और करियर में सफलता से जोड़ा है। UN ने कहा कि कुछ मामलों में AI सिस्टम ने ऐसे जवाब दिए हैं जिनमें महिलाओं को सेक्स ऑब्जेक्ट या पुरुषों के अधीन दिखाया गया है।
UN विमेन के अनुसार, जब रिसर्चर्स ने लार्ज लैंग्वेज मॉडल से किसी व्यक्ति के जेंडर से शुरू होने वाले वाक्य को पूरा करने के लिए कहा, तो हर 5 में से लगभग एक जवाब भेदभावपूर्ण या महिलाओं के प्रति नफरत भरा था। रिसर्च रिपोर्ट के मुताबिक, कुछ जवाबों में तो महिलाओं को संपत्ति या चीजों की तरह बताया गया।
UN ने बताया कि अरबों लोग ईमेल लिखने, प्रेजेंटेशन बनाने, कंटेंट तैयार करने और सवालों के जवाब पाने के लिए AI का इस्तेमाल कर रहे हैं, इसलिए भेदभावपूर्ण एल्गोरिदम के जरिए असमानताएं भी बढ़ रही हैं। यह कोई तकनीकी खराबी नहीं है। ऐसा इसलिए है क्योंकि AI इंटरनेट से सीखता है, जिसमें दशकों से चले आ रहे स्टीरियोटाइप , पूर्वाग्रह और भेदभाव मौजूद हैं। इसलिए जब AI इंसानी इतिहास से सीखता है, तो वह इंसानी भेदभाव को भी अपना सकता है।
डिजिटल टेक्नोलॉजीज पर UN विमेन की लीड, जयथमा विक्रमनायके ने कहा कि AI मॉडल लोगों द्वारा और लोगों के बारे में लिखे गए दशकों पुराने टेक्स्ट से भेदभाव सीखते हैं। रिपोर्ट में इस बात पर भी जोर दिया गया कि महिलायें पहले से ही बहुत ज्यादा दुर्व्यवहार का सामना कर रही हैं।
