- Технология мен ИСК этикасын қарастыру
- Бағдарламаңыздың мүдделі тараптарға оң әсерін тигізетініне көз жеткізіңіз
Бұл сабаққа арналған іс-шаралар:
ЭТИКА ЖӘНЕ ІС-ӘРЕКЕТ
Этика дегеніміз не?
- Ненің дұрыс және дұрыс еместігі туралы моральдық қағидаттар
- Технология және AI әлемінде маңызды
- Тіпті кездейсоқ болса да зиян келтіргіңіз келмейді
- Сіздің жобаңыз адамдарға және қоғамға көмектесуі тиіс
Алгоритмдік биязылық дегеніміз не?
- Бағдарламалаушы өз бағдарламасының кейбір пайдаланушыларға басқаларына қарағанда жақсырақ қарауына себеп болған жерде
- немесе AI моделі әртүрлі үлгілерді пайдаланбай оқытылады
- Кейбір пайдаланушылар үшін жосықсыз нәтижелер жасау
- Ол қасақана болмауы мүмкін, бірақ пайдаланушыларға кері әсерін тигзеді
Алгоритмдік біржақтылық туралы қосымша ақпарат алу үшін осы бейнені тексеріңіз.
ТЕХНОЛОГИЯНЫҢ ТЕРІС ӘСЕРІ
Біз күн сайын технологияны қолданамыз және бұл технологияның іс жүзінде не істеп жатқанын, оған қалай әрекет ететінімізді, психикамызға не істеп жатқанымызды жиі білмейміз.
2021 жылдың қазан айында Facebook (қазір Meta) өзінің жеке зерттеулері арқылы оның кейбір қолданушыларына келтірген зияны туралы білетіні анықталды, дегенмен жағдайды түзету үшін ештеңе істемеді.
«Жасөспірім қыздардың 32 пайызы өз денелері туралы жаман сезінгенде, Instagram (Facebook-қа тиесілі) оларды нашар сезінетінін айтты», - деп жазды зерттеушілер. Facebook сонымен қатар АҚШ-тағы ұлдардың 14% -ын анықтады. Instagram олардың өздері туралы нашар сезінгенін айтты.
ЗИЯН КЕЛТІРМЕУ
Wall Street Journal мақаласынан кейін Facebook ысқырғыштары қосымша ақпарат берді:
- Facebook дезинформацияны насихаттады
- жек көру сөзін және белгілі бір қолданушылар тарапынан заңсыз әрекетті елемеген.
Facebook сияқты бағдарламалық компаниялар бүкіл әлемде соншалықты ықпалды және олардың бағдарламалық жасақтамасына зиян келтірмейтініне көз жеткізу міндеті жүктеледі.
Енді ғана басталып, Facebook немесе Instagram-ға жетпегеніңізбен, өніміңізді кім пайдаланатыны және оған қалай әсер етуі мүмкін екендігі туралы әлі де мұқият ойлану керек.
Жобаңыздың тек оң әсерін тигізетініне көз жеткізуге міндеттеніңіз!
МҮДДЕЛІ ТАРАПТАР
Өзіңіздің жобаңызды әзірлеген сайын мүдделі тараптарды қарастыруыңыз қажет.
Мүдделі тараптар - Сіздің жобаңыз қабылдаған шешімдер немесе әрекеттер әсер ететін адамдар немесе субъектілер.
Тікелей мүдделі тараптар
- пайдаланушыларыңыз
Жанама мүдделі тараптар
- сіздің технологияңыз әсер етуі мүмкін, бірақ міндетті түрде тікелей емес адамдар немесе ұйымдар.
Мысалы, TikTok қолданушылары оның тікелей мүдделі тараптары болып табылады.
Бірақ оның кейбір жанама мүдделі тараптары бар, мысалы:
- музыкасы TikTok телеарнасында ойналатын музыка әртістері
- TikTok-та болудан пайда көретін ықпал етушілер
- Мектептер, өйткені студенттерге ТикТоктағы көзқарастары әсер етеді
Бұл бейне мүдделі тараптарды егжей-тегжейлі түсіндіреді, сондай-ақ этикалық технологияларды жасаудың басқа да негізгі тұстарын түсіндіреді.
Бағдарламаны әзірлеу барысында ойлануға болатын кейбір жайттар бар.
- Бағдарламаңыз пайдаланушы деректерін жинай ма?
- Пайдаланушыларыңыз оны біле ма?
- Деректерді жинауға рұқсатыңыз бар ма?
- Олардың деректерін жеке сақтау үшін қандай қадамдар жасайсыз?
- Бағдарламаңызда берілген кеңестер немесе ақпарат дәл бе?
- Сен қалай білесің?
БАҒДАРЛАМА МЫСАЛЫ
Өсімдік арамшелі болып табылса немесе болмаса, болжайтын Арамшірік детекторы деп аталатын мобильді қосымшаны елестетіңіз. Арамшірік детекторы бағдарламасымен этикаға қатысты қарастыратын нәрсені қадамдайық.
Деректер жиыны жіктелетін объектілердің өкілі екеніне көз жеткізіңіз.
Деректерде қосымша қолданылатын халық саны көрсетiлуге тиiс. Егер деректеріңізде біржақтылық болса, бағдарламада қолданылатын AI үлгісі қате жіберіп алуы мүмкін.
Егер деректер жиынында шөлде кездесетін арамшілдіктердің суреттері ғана болса не болады?
Қолданбаны судың жанында орналасқан өсімдіктерде қолданатын болсақ, ол жұмыс істемеуі мүмкін, себебі ол өсімдіктердің мұндай түрлерінің суреттерін пайдалану арқылы үйретілмеген.
Бағдарламада шөл өсімдіктері үшін біржақтылық бар!
Бағдарламаңызды кодтайтын әрбір шешім туралы ойланыңыз.
Сіз бастапқыда ниеттенбеген қандай да бір шешімдер қабылдай аласыз ба?
Арамшөп детекторы қызанақ өсімдігі арамшөп ретінде анықталса ше? Бұл оны жеуді жоспарлаған адамдарға және бақшадағы жәндіктерге теріс әсер етуі мүмкін.
Бұл өсімдіктердің қайсысы арам шөп екенін айта аласыз ба? Сенімді болмасаңыз не істейсіз?
Қолданба адамдардың бақшасында қолданбаны пайдаланған кезде олардың үйлерінің орналасқан жері туралы деректерді жинайтын шығар. Ол адамдардың үйлерінің орналасқан жері туралы құпия ақпаратты бөлісуі мүмкін - бұл мәселе!
Бағдарламаңыздың акциялары туралы ақпаратты мұқият қарау керек. Пайдаланушылар өз ақпаратын құрметтеу және оны мақсатсыз пайдаланбау үшін жобаңызға сенуі керек. Егер бөгде адам сіздің құпияларыңызды білген болса, өзіңізді қалай сезінетін едіңіз?
Әзірлеушілер ретінде біз өз технологиямыздың адамдармен қалай әрекеттесетіні үшін жауапкершілікті мойнымызға аламыз және өнертабыстарымыздың ықтимал әсерін әрдайым ескеруіміз керек.
БЕЛСЕНДІЛІК: ЭТИКАЛЫҚ САЯХАТ
Бағдарламаға тек оң әсерін тигізетінін қамтамасыз ету
- Тікелей және жанама мүдделі тараптарыңыздың кім екенін анықтаңыз.
- Сұрақтардың ағынын орындап, жобаның тек оң әсерін тигізу үшін қолдан келгеннің бәрін жасап жатқаныңызды тексеріңіз.
РЕФЛЕКСИЯ
Енді сіз өзіңіздің жобаңыздың тек оң әсерін тигізетініне көз жеткізудегі этика және өз үлесіңіз туралы толығырақ білгеннен кейін мына сұрақтарды қарастырайық:
НЕГІЗГІ ТЕРМИНДЕРГЕ ШОЛУ
- Этика – адамдардың дұрыс немесе дұрыс емес нәрсені қалай шешетініне әсер ететін моральдық қағидаттар жиынтығы
- Биязылық – кейбір адамдарға немесе топтарға әділетсіз болып келетін біреулердің ойластырған идеялары
- Мүдделі тараптар - ұйым немесе бизнес қабылдаған шешім немесе әрекет әсер ететін немесе әсер ететін адамдар немесе ұйымдар
ҚОСЫМША РЕСУРСТАР
Мұнда этика және технологияға оң әсер ету туралы бейнероликтер көбірек берілген.
Сіз жасаған технологияның әсерін қарастырудың неліктен маңызды екеніне жақсы түсініктеме.
Gender Shades жобасы AI үшін инклюзивті өнімді тестілеуге ықпал етеді.
