- განიხილავთ ტექნოლოგიებისა და ხელოვნური ინტელექტის ეთიკას
- დარწმუნდებით, რომ თქვენი აპლიკაცია დადებითად იმოქმედებს მის დაინტერესებულ მხარეებზე
აქტივობები ამ გაკვეთილისთვის:
ᲔᲗᲘᲙᲐ ᲓᲐ ᲛᲝᲥᲛᲔᲓᲔᲑᲔᲑᲘ
რა არის ეთიკა?
- მორალური პრინციპები იმის შესახებ, თუ რა არის სწორი და არასწორი
- მნიშვნელოვანია ტექნოლოგიებისა და ხელოვნური ინტელექტის სამყაროში
- არ გსურთ ზიანის მიყენება, თუნდაც შემთხვევით
- თქვენი პროექტი უნდა დაეხმაროს ხალხს და საზოგადოებას
რა არის ალგორითმული მიკერძოება?
- როდესაც პროგრამისტი ისე აპროგრამირებს პროექტს, რომ პროგრამა ზოგიერთ მომხმარებელს სხვებზე უკეთ ეპყრობა
- ან AI მოდელი იქმნება მრავალფეროვანი ნიმუშების გამოყენების გარეშე
- ზოგიერთი მომხმარებლისთვის უსამართლო შედეგების შექმნა
- ეს შეიძლება არ იყოს მიზანმიმართული, მაგრამ მაინც შეიძლება უარყოფითად იმოქმედოს მომხმარებლებზე
უყურეთ ამ ვიდეოს ალგორითმული მიკერძოების შესახებ მეტის გასაგებად.
ᲢᲔᲥᲜᲝᲚᲝᲒᲘᲘᲡ ᲣᲐᲠᲧᲝᲤᲘᲗᲘ ᲒᲐᲕᲚᲔᲜᲐ
ჩვენ ყველანი ვიყენებთ ტექნოლოგიას ყოველდღე და ხშირად არ ვიცით, რას აკეთებს ეს ტექნოლოგია რეალურად - როგორ ვრეაგირებთ მასზე, რას აკეთებს ის ჩვენს ფსიქიკაზე.
2021 წლის ოქტომბერში გაირკვა, რომ Facebook (ახლანდელი Meta), საკუთარი კვლევის შედეგად, საქმის კურსში იდგა მის მიერ მიყენებული ზიანის შესახებ მომხმარებელზე, მაგრამ არაფერი გააკეთა სიტუაციის გამოსასწორებლად.
„თინეიჯერი გოგონების 32 პროცენტმა თქვა, რომ როდესაც ისინი ცუდად გრძნობდნენ თავს სხეულზე, ინსტაგრამი (ფეისბუქის საკუთრება) აუარესებს მათ მდგომარეობას“, - წერენ მკვლევარები. ფეისბუქმა ასევე დაადგინა, რომ აშშ-ში ბიჭების 14%-მა აღნიშნა, რომ ინსტაგრამზე ისინი უარესად გრძნობდნენ თავს.
ᲖᲘᲐᲜᲘ ᲐᲠ ᲛᲘᲐᲧᲔᲜᲝ
Wall Street Journal-ის სტატიის შემდეგ, ფეისბუქის მამხილებლებმა მოგვაწოდეს დამატებითი ინფორმაცია, რომ:
- ფეისბუქი დეზინფორმაციის გავრცელებას უწყობდა ხელს
- ყურადღებას არ აქცევდა სიძულვილის ენასა და გარკვეული მომხმარებლების უკანონო ქმედებებს.
პროგრამული უზრუნველყოფის კომპანიები, როგორიცაა Facebook, ძალიან გავლენიანები არიან მთელ მსოფლიოში და ვალდებულება აქვთ, დარწმუნდნენ, რომ მათი პროგრამული უზრუნველყოფა ზიანს არ არავის აყენებს.
სანამ არ გაქვთ ფეისბუქი ან ინსტაგრამი, მაინც უნდა დაფიქრდეთ იმაზე, თუ ვინ გამოიყენებს თქვენს პროდუქტს და როგორი გავლენა შეიძლება იქონიოს მასზე.
პირობა დადეთ, რომ დარწმუნდებით, რომ თქვენს პროექტს მხოლოდ დადებითი გავლენა ექნება!
ᲓᲐᲘᲜᲢᲔᲠᲔᲡᲔᲑᲣᲚᲘ ᲛᲮᲐᲠᲔᲔᲑᲘ
თქვენი პროექტის შემუშავებისას თქვენ უნდა გაითვალისწინოთ თქვენი დაინტერესებული მხარეები.
დაინტერესებული მხარეები არიან ადამიანები ან სუბიექტები, რომლებზეც გავლენას ახდენს თქვენი პროექტის მიერ მიღებული გადაწყვეტილებები ან ქმედებები.
პირდაპირი დაინტერესებული მხარეები
- თქვენი მომხმარებლები
არაპირდაპირი დაინტერესებული მხარეები
- ადამიანები ან ორგანიზაციები, რომლებზეც შეიძლება გავლენა იქონიოს თქვენმა ტექნოლოგიამ, მაგრამ არა აუცილებლად პირდაპირ.
მაგალითად, TikTok-ის მომხმარებლები არიან მისი უშუალო დაინტერესებული მხარეები.
მაგრამ მას ჰყავს რამდენიმე არაპირდაპირი დაინტერესებული მხარე, როგორიცაა:
- მუსიკოსები, რომელთა მუსიკა უკრავს TikTok-ზე
- ინფლუენსერები, რომლებიც სარგებლობენ TikTok-ით
- სკოლები, რადგან მოსწავლეებზე გავლენას ახდენს TikTok კონტენტი
ეს ვიდეო უფრო დეტალურად განმარტავს დაინტერესებულ მხარეებს, ისევე როგორც სხვა საკვანძო პუნქტებს ეთიკური ტექნოლოგიების შესაქმნელად.
აქ არის რამოდენიმე რამ, რაზეც უნდა იფიქროთ თქვენი აპის შემუშავებისას.
- აგროვებს თუ არა თქვენი აპლიკაცია მომხმარებლის მონაცემებს?
- იციან თქვენმა მომხმარებლებმა ეს?
- გაქვთ მონაცემების შეგროვების ნებართვა?
- რა ნაბიჯებს დგამთ მათი მონაცემების კონფიდენციალურობის შესანარჩუნებლად?
- არის თუ არა თქვენს აპლიკაციაში მოწოდებული რჩევა ან ინფორმაცია ზუსტი?
- საიდან იცით მისი სიზუსტის შესახებ?
ᲐᲞᲘᲡ ᲛᲐᲒᲐᲚᲘᲗᲘ
წარმოიდგინეთ მობილური აპლიკაცია, სახელწოდებით Weed Detector, რომელიც პროგნოზირებს, მცენარე სარეველაა თუ არა. მოდით გადავხედოთ იმას, რასაც განიხილავდით ეთიკის შესახებ Weed Detector აპლიკაციით.
დარწმუნდით, რომ მონაცემთა ბაზა წარმოადგენს კლასიფიცირებულ ობიექტებს.
მონაცემები უნდა ასახავდეს პოპულაციას, რომელზედაც გამოიყენება აპლიკაცია. თუ თქვენს მონაცემები მიკერძოებულია, აპში გამოყენებული AI მოდელმა შესაძლოა შეცდომებს დაუშვას.
რა მოხდება, თუ მონაცემთა ბაზა შეიცავს მხოლოდ უდაბნოში ნაპოვნი სარეველების სურათებს?
თუ აპს გამოვიყენებთ წყალთან ახლოს აღმოჩენილ მცენარეებზე, ის ალბათ არ იმუშავებს, რადგან ის არ იყო გაწვრთნილი ამ ტიპის მცენარეების სურათების გამოყენებით.
აპი მიკერძოებულია უდაბნოს მცენარეებზე!
იფიქრეთ თითოეულ გადაწყვეტილებაზე, რომელსაც დააკოდირებთ თქვენს აპლიკაციაში.
არის თუ არა რაიმე გადაწყვეტილება, რომელიც თავდაპირველად არ გქონდათ განზრახული?
რა მოხდება, თუ სარეველების დეტექტორი პომიდვრის მცენარეს სარეველად ამოიცნობს? ამან შეიძლება უარყოფითად იმოქმედოს ადამიანებზე, რომლებიც აპირებენ მის ჭამას და მწერებზე ბაღში.
შეგიძლიათ თქვათ, ამ მცენარეებიდან რომელია სარეველა? რას გააკეთებდით დარწმუნებული
რომ არ იყოთ?
შესაძლოა აპი აგროვებს მონაცემებს ხალხის სახლების მდებარეობის შესახებ, როდესაც ისინი აპს იყენებენ თავიანთ ბაღში. მან შეიძლება გააზიაროს პერსონალური ინფორმაცია ხალხის სახლების ადგილმდებარეობის შესახებ - ეს პრობლემაა!
ინფორმაცია, რომელსაც თქვენი აპლიკაცია აზიარებს, გულდასმით უნდა იქნას განხილული. მომხმარებლები უნდა ენდონ თქვენს პროექტს, პატივი სცენ მის ინფორმაციას და არ გამოიყენონ ბოროტად. როგორ იგრძნობდით თავს, თუ უცხო ადამიანი როგორმე თქვენს საიდუმლოებებს გაიგებდა?
როგორც დეველოპერები, ჩვენ ვიღებთ პასუხისმგებლობას იმაზე, თუ როგორ ურთიერთქმედებს ჩვენი ტექნოლოგია ადამიანებთან და ყოველთვის უნდა ვიყოთ კონცენტრირებულები იმ პოტენციურ ზემოქმედებაზე, რომელიც ჩვენს გამოგონებას მოჰყვება.
ᲐᲥᲢᲘᲕᲝᲑᲐ: ᲔᲗᲘᲙᲣᲠᲘ ᲛᲝᲒᲖᲐᲣᲠᲝᲑᲐ
დარწმუნდით, რომ თქვენს აპლიკაციას აქვს მხოლოდ დადებითი გავლენა
- დაადგინეთ, ვინ არიან თქვენი დაინტერესებული მხარეები, როგორც პირდაპირი, ასევე არაპირდაპირი.
- მიჰყევით კითხვების დიაგრამას და შეამოწმეთ, რომ აკეთებთ ყველაფერს, რათა თქვენს პროექტს მხოლოდ დადებითი გავლენა ჰქონდეს.
რეფლექსია
ახლა, როდესაც გაიგეთ მეტი ეთიკის შესახებ, განიხილეთ ეს კითხვები, რათა დარწმუნდეთ, რომ თქვენს პროექტს მხოლოდ დადებითი გავლენა ექნება:
ძირითადი ტერმინების მიმოხილვა
- ეთიკა - მორალური პრინციპების ერთობლიობა, რომელიც გავლენას ახდენს სწორი და არასწორი ქმედების განსაზღვრაში.
- მიკერძოება - წინასწარ ჩამოყალიბებული იდეები, რომლებიც ხშირად უსამართლოა ზოგიერთი ხალხის ან ჯგუფის მიმართ
- დაინტერესებული მხარეები - ადამიანები ან სუბიექტები, რომლებიც გავლენას მოახდენს ან გავლენას მოახდენს ორგანიზაციის ან ბიზნესის მიერ განხორციელებულ გადაწყვეტილებაზე ან ქმედებებზე.
ᲓᲐᲛᲐᲢᲔᲑᲘᲗᲘ ᲠᲔᲡᲣᲠᲡᲔᲑᲘ
ქვემოთ მოცემულია კიდევ უფრო მეტი ვიდეო ეთიკისა და პოზიტიური გავლენის შესახებ ტექნოლოგიაში.
კარგი კომენტარი იმის შესახებ, თუ რატომ არის მნიშვნელოვანი განიხილოთ თქვენ მიერ შექმნილი ტექნოლოგიის გავლენა.
გენდერული ჩრდილების პროექტი ხელს უწყობს პროდუქტის ინკლუზიურ ტესტირებას AI-სთვის .
