- प्रौद्योगिकी और एआई की नैतिकता पर विचार करें
- सुनिश्चित करें कि आपके ऐप का अपने हितधारकों पर सकारात्मक प्रभाव पड़ेगा
इस पाठ के लिए ये गतिविधियाँ हैं:
नैतिकता और कार्य
नैतिकता क्या है?
- सही और गलत के बारे में नैतिक सिद्धांत
- प्रौद्योगिकी और एआई की दुनिया में महत्वपूर्ण
- आप नुकसान नहीं पहुंचाना चाहते हैं, भले ही दुर्घटना से
- आपकी परियोजना को लोगों और समाज की मदद करनी चाहिए
एल्गोरिथम पूर्वाग्रह क्या है?
- जहां प्रोग्रामर अपने प्रोग्राम को कुछ उपयोगकर्ताओं को दूसरों की तुलना में बेहतर व्यवहार करने का कारण बनता है
- या एआई मॉडल को विविध नमूनों का उपयोग किए बिना प्रशिक्षित किया जाता है
- कुछ उपयोगकर्ताओं के लिए अनुचित परिणाम बनाना
- यह जानबूझकर नहीं हो सकता है लेकिन फिर भी उपयोगकर्ताओं को नकारात्मक रूप से प्रभावित कर सकता है
एल्गोरिथम पूर्वाग्रह के बारे में अधिक जानने के लिए इस वीडियो को देखें।
प्रौद्योगिकी का नकारात्मक प्रभाव
हम सभी हर दिन प्रौद्योगिकी का उपयोग करते हैं और अक्सर इस बात से अनजान होते हैं कि तकनीक वास्तव में क्या कर रही है - हम इस पर कैसे प्रतिक्रिया दे रहे हैं, यह हमारे मानस के लिए क्या कर रहा है।
अक्टूबर, 2021 में, यह पता चला कि फेसबुक (अब मेटा), अपने स्वयं के शोध के माध्यम से, अपने कुछ उपयोगकर्ताओं को होने वाले नुकसान से अवगत था, फिर भी स्थिति को ठीक करने के लिए कुछ नहीं किया।
शोधकर्ताओं ने कथित तौर पर लिखा, "बत्तीस प्रतिशत किशोर लड़कियों ने कहा कि जब उन्हें अपने शरीर के बारे में बुरा लगा, तो इंस्टाग्राम (फेसबुक के स्वामित्व वाले) ने उन्हें और भी बुरा महसूस कराया। Facebook also reportedly found that 14% of boys in the U.S. said Instagram made them feel worse about themselves.
कोई नुकसान न करें
वॉल स्ट्रीट जर्नल लेख के बाद, फेसबुक व्हिसलब्लोअर ने और जानकारी प्रदान की है कि:
- फेसबुक ने दुष्प्रचार को बढ़ावा दिया
- कुछ उपयोगकर्ताओं से अभद्र भाषा और अवैध गतिविधि को नजरअंदाज कर दिया।
फेसबुक जैसी सॉफ्टवेयर कंपनियां दुनिया भर में इतनी प्रभावशाली हैं और यह सुनिश्चित करने की जिम्मेदारी है कि उनके सॉफ़्टवेयर को कोई नुकसान न हो।
जब आप अभी शुरुआत कर रहे हैं और फेसबुक या इंस्टाग्राम की पहुंच नहीं है, तब भी आपको ध्यान से सोचने की जरूरत है कि आपके उत्पाद का उपयोग कौन करेगा और वे इससे कैसे प्रभावित हो सकते हैं।
यह सुनिश्चित करने का संकल्प लें कि आपकी परियोजना का केवल सकारात्मक प्रभाव हो!
हितधारक
जैसे ही आप अपनी परियोजना विकसित करते हैं, आपको अपने हितधारकों पर विचार करने की आवश्यकता होती है।
हितधारक वे लोग या निकाय होते हैं जो आपकी परियोजना द्वारा लिए गए निर्णयों या कार्यों से प्रभावित होते हैं।
प्रत्यक्ष हितधारक
- आपके उपयोगकर्ता
अप्रत्यक्ष हितधारक
- वे लोग या संगठन जो आपकी तकनीक से प्रभावित हो सकते हैं, लेकिन जरूरी नहीं कि सीधे तौर पर प्रभावित हों।
उदाहरण के लिए, टिकटोक के उपयोगकर्ता इसके प्रत्यक्ष हितधारक हैं।
लेकिन इसके कुछ अप्रत्यक्ष हितधारक हैं, जैसे:
- संगीत कलाकार जिनका संगीत टिकटोक पर बजाया जाता है
- प्रभावशाली लोग जो टिकटॉक पर होने से लाभान्वित होते हैं
- स्कूल, क्योंकि छात्र टिकटॉक पर जो देखते हैं उससे प्रभावित होते हैं
यह वीडियो हितधारकों को अधिक विस्तार से बताता है, साथ ही नैतिक प्रौद्योगिकी बनाने के लिए अन्य प्रमुख बिंदु भी बताता है।
अपना ऐप विकसित करते समय सोचने के लिए यहां कुछ चीजें दी गई हैं।
- क्या आपका ऐप उपयोगकर्ता डेटा एकत्र करता है?
- क्या आपके उपयोगकर्ता इसे जानते हैं?
- क्या आपको डेटा एकत्र करने की अनुमति है?
- आप उनके डेटा को निजी रखने के लिए क्या कदम उठा रहे हैं?
- क्या आपके द्वारा अपने ऐप में दी गई सलाह या जानकारी सटीक है?
- आपको कैसे मालूम?
एपीपी उदाहरण
खरपतवार डिटेक्टर नामक एक मोबाइल ऐप की कल्पना करें जो भविष्यवाणी करता है कि कोई पौधा खरपतवार है या नहीं। आइए वीड डिटेक्टर ऐप के साथ नैतिकता के बारे में आप क्या विचार करेंगे, इसके माध्यम से कदम उठाएं।
सुनिश्चित करें कि डेटासेट वर्गीकृत की जा रही वस्तुओं का प्रतिनिधि है।
डेटा को उस जनसंख्या को प्रतिबिंबित करना चाहिए जिस पर ऐप का उपयोग किया जा रहा है। यदि आपके डेटा में पूर्वाग्रह है, तो ऐप में उपयोग किया जाने वाला AI मॉडल गलतियाँ कर सकता है।
क्या होगा यदि डेटासेट में केवल रेगिस्तान में पाए जाने वाले खरपतवारों की छवियां हों?
यदि हम पानी के पास पाए जाने वाले पौधों पर ऐप का उपयोग करते हैं, तो शायद यह काम नहीं करेगा, क्योंकि यह उन प्रकार के पौधों की छवियों का उपयोग करके प्रशिक्षित नहीं था।
ऐप में रेगिस्तानी पौधों के लिए पूर्वाग्रह है!
प्रत्येक निर्णय के बारे में सोचें जिसे आप अपने ऐप को कोड करेंगे।
क्या कोई निर्णय है जो यह कर सकता है कि आप मूल रूप से इरादा नहीं रखते थे?
क्या होगा यदि खरपतवार डिटेक्टर एक टमाटर के पौधे को खरपतवार के रूप में पहचानता है? यह उन लोगों को नकारात्मक रूप से प्रभावित कर सकता है जो इसे खाने की योजना बना रहे थे और बगीचे में कीड़े।
क्या आप बता सकते हैं कि इनमें से कौन-सा पादप खरपतवार है? यदि आप निश्चित नहीं थे तो आप क्या करेंगे?
हो सकता है कि ऐप लोगों के घरों के स्थानों के बारे में डेटा एकत्र करता है जब वे अपने बगीचे में ऐप का उपयोग करते हैं। यह लोगों के घरों के स्थान के बारे में संवेदनशील जानकारी साझा कर सकता है - यह एक समस्या है!
आपके ऐप द्वारा साझा की जाने वाली जानकारी पर सावधानीपूर्वक विचार किया जाना चाहिए। उपयोगकर्ताओं को अपनी जानकारी का सम्मान करने के लिए आपकी परियोजना पर भरोसा करना चाहिए और इसका दुरुपयोग नहीं करना चाहिए। अगर कोई अजनबी किसी तरह आपके रहस्यों को जानता है तो आपको कैसा लगेगा?
डेवलपर्स के रूप में, हम इस बात की ज़िम्मेदारी लेते हैं कि हमारी तकनीक लोगों के साथ कैसे इंटरैक्ट करती है और हमें हमेशा अपने आविष्कारों के संभावित प्रभाव से सावधान रहना चाहिए।
गतिविधि: नैतिक यात्रा
सुनिश्चित करें कि आपके ऐप का केवल सकारात्मक प्रभाव है
- पहचानें कि आपके हितधारक कौन हैं, प्रत्यक्ष और अप्रत्यक्ष दोनों।
- प्रश्नों के फ़्लोचार्ट का पालन करें, और जांचें कि आप अपनी परियोजना को केवल सकारात्मक प्रभाव डालने के लिए वह सब कुछ कर रहे हैं जो आप कर सकते हैं।
परावर्तन
अब जब आपने नैतिकता के बारे में अधिक सीखा है और यह सुनिश्चित करने में आपका हिस्सा है कि आपकी परियोजना का केवल सकारात्मक प्रभाव है, तो इन सवालों पर विचार करें:
प्रमुख शब्दों की समीक्षा
- नैतिकता - नैतिक सिद्धांतों का समूह जो प्रभावित करता है कि लोग कैसे तय करते हैं कि क्या सही है या गलत है
- पूर्वाग्रह - पूर्वकल्पित विचार जो किसी के पास होते हैं जो अक्सर कुछ लोगों या समूहों के लिए अनुचित होते हैं
- हितधारक - लोग या संस्थाएं जो किसी संगठन या व्यवसाय द्वारा लिए गए निर्णय या कार्यों से प्रभावित या प्रभावित होंगी
अतिरिक्त संसाधन
यहां नैतिकता और प्रौद्योगिकी में सकारात्मक प्रभाव पर अधिक वीडियो हैं।
आपके द्वारा बनाई गई तकनीक के प्रभाव पर विचार करना क्यों महत्वपूर्ण है, इस पर अच्छी टिप्पणी।
जेंडर शेड्स प्रोजेक्ट एआई के लिए समावेशी उत्पाद परीक्षण को बढ़ावा देता है।
