- שקול את האתיקה של טכנולוגיה ובינה מלאכותית
- ודא שלאפליקציה שלך תהיה השפעה חיובית על מחזיקי העניין שלה
אלו הפעילויות לשיעור זה:
אתיקה ופעולות
מהי אתיקה?
- עקרונות מוסריים לגבי מה נכון ומה לא
- חשוב בעולם הטכנולוגיה וה-AI
- אתה לא רוצה לגרום נזק, גם אם במקרה
- הפרויקט שלך חייב לעזור לאנשים ולחברה
מהי הטיה אלגוריתמית?
- איפה המתכנת גורם לתוכנית שלהם להתייחס למשתמשים מסוימים טוב יותר מאחרים
- או שמודל הבינה המלאכותית מאומן ללא שימוש בדגימות מגוונות
- יצירת תוצאות לא הוגנות עבור חלק מהמשתמשים
- זה אולי לא מכוון אבל עדיין יכול להשפיע לרעה על המשתמשים
בדוק את הסרטון הזה כדי ללמוד עוד על הטיה אלגוריתמית.
ההשפעה השלילית של הטכנולוגיה
כולנו משתמשים בטכנולוגיה כל יום ולעיתים קרובות לא מודעים למה שהטכנולוגיה הזו בעצם עושה - איך אנחנו מגיבים אליה, מה היא עושה לנפש שלנו.
באוקטובר, 2021, נחשף שפייסבוק (כיום Meta), באמצעות מחקר משלה, הייתה מודעת לנזק שהיא גורמת לחלק ממשתמשיה, אך לא עשתה דבר כדי לתקן את המצב.
"שלושים ושניים אחוז מבנות העשרה אמרו שכשהן מרגישות רע עם הגוף שלהן, אינסטגרם (בבעלות פייסבוק) גרמה להן להרגיש יותר גרוע", כתבו החוקרים. לפי הדיווחים, פייסבוק גם גילתה ש-14% מהבנים בארה"ב אמרו שאינסטגרם גרמה להם להרגיש גרוע יותר עם עצמם.
וול סטריט ג'ורנל - קבצי הפייסבוק
אל תפגע
בעקבות המאמר בוול סטריט ג'ורנל, חושפי שחיתויות של פייסבוק סיפקו מידע נוסף ש:
- פייסבוק קידמה דיסאינפורמציה
- התעלם מדברי שטנה ופעילות בלתי חוקית של משתמשים מסוימים.
חברות תוכנה כמו פייסבוק כה משפיעות ברחבי העולם ויש להן אחריות לוודא שהתוכנה שלהן לא תזיק.
בזמן שאתה רק בתחילת הדרך ואין לך טווח הגעה של פייסבוק או אינסטגרם, אתה עדיין צריך לחשוב היטב מי ישתמש במוצר שלך וכיצד הוא עשוי להיות מושפע ממנו.
התחייבו לוודא שלפרויקט שלכם יש השפעה חיובית בלבד!
בעלי עניין
כשאתה מפתח את הפרויקט שלך, אתה צריך להתחשב בבעלי העניין שלך.
בעלי עניין הם אנשים או ישויות המושפעים מהחלטות או פעולות שננקטו על ידי הפרויקט שלך.
בעלי עניין ישירים
- המשתמשים שלך
בעלי עניין עקיפים
- אנשים או ארגונים שעשויים להיות מושפעים מהטכנולוגיה שלך, אך לא בהכרח ישירות.

לדוגמה, המשתמשים של TikTok הם בעלי העניין הישירים שלה.
אבל יש לו כמה בעלי עניין עקיפים, כגון:
- אמני מוזיקה שהמוזיקה שלהם מושמעת ב-TikTok
- משפיענים שמרוויחים מלהיות ב-TikTok
- בתי ספר, כי התלמידים מושפעים ממה שהם רואים ב-TikTok
סרטון זה מסביר את בעלי העניין ביתר פירוט, כמו גם נקודות מפתח אחרות להכנת טכנולוגיה אתית.
הנה כמה דברים שכדאי לחשוב עליהם כשאתה מפתח את האפליקציה שלך.
- האם האפליקציה שלך אוספת נתוני משתמשים?
- האם המשתמשים שלך יודעים זאת?
- האם יש לך אישור לאסוף את הנתונים?
- אילו צעדים אתה נוקט כדי לשמור על פרטיות הנתונים שלהם?
- האם העצות או המידע שאתה מספק באפליקציה שלך מדויקים?
- איך אתה יודע?

דוגמה לאפליקציה
תארו לעצמכם אפליקציה לנייד בשם גלאי עשבים שחוזה אם צמח הוא עשב שוטה או לא. בואו נעבור על מה שתשקול בנוגע לאתיקה עם אפליקציית גלאי העשבים.
ודא שמערך הנתונים מייצג את האובייקטים המסווגים.


הנתונים צריכים לשקף את האוכלוסייה שבה נעשה שימוש באפליקציה. אם לנתונים שלך יש הטיה, מודל הבינה המלאכותית המשמש באפליקציה עשוי לעשות טעויות.
מה אם מערך הנתונים מכיל רק תמונות של עשבים שוטים שנמצאו במדבר?
אם נשתמש באפליקציה על צמחים שנמצאו ליד מים, היא כנראה לא תעבוד, כי היא לא עברה הכשרה באמצעות תמונות של סוגי צמחים אלה.
לאפליקציה יש הטיה לצמחי מדבר!
חשוב על כל החלטה שתקודד את האפליקציה שלך לקבל.
האם יש החלטות שהוא יכול לקבל שלא התכוונתם במקור?
מה אם גלאי העשבים מזהה צמח עגבניות כעשב שוטה? זה עלול להשפיע לרעה על אנשים שתכננו לאכול אותו ועל חרקים בגינה.
האם אתה יכול לדעת מי מהצמחים הללו הוא עשב שוטה? מה היית עושה אם לא היית בטוח?
אולי האפליקציה אוספת נתונים על מיקומי בתים של אנשים כשהם משתמשים באפליקציה בגינה שלהם. זה עשוי לשתף מידע רגיש על מיקומם של בתים של אנשים - זו בעיה!
יש לשקול היטב את המידע שהאפליקציה שלך משתפת. על המשתמשים לסמוך על הפרויקט שלך שיכבד את המידע שלהם ולא יעשה בו שימוש לרעה. איך היית מרגיש אם אדם זר ידע איכשהו את הסודות שלך?
כמפתחים, אנו נושאים באחריות לאופן שבו הטכנולוגיה שלנו מתקשרת עם אנשים ועלינו תמיד להיות מודעים להשפעה הפוטנציאלית שיכולה להיות להמצאות שלנו.
פעילות: מסע אתי
ודא שלאפליקציה שלך יש רק השפעה חיובית
- זהה מי הם מחזיקי העניין שלך, הן ישירים והן עקיפים.
- עקוב אחר תרשים הזרימה של השאלות, ובדקו שאתם עושים כל מה שאתם יכולים כדי לגרום לפרויקט שלכם רק השפעה חיובית.
הִשׁתַקְפוּת
כעת, לאחר שלמדת יותר על אתיקה ועל חלקך לוודא שלפרויקט שלך יש השפעה חיובית בלבד, שקול את השאלות הבאות:

סקירה של תנאים עיקריים
- אתיקה - מערכת של עקרונות מוסריים המשפיעים על האופן שבו אנשים מחליטים מה נכון או לא
- הטיה - רעיונות מוקדמים שיש למישהו שלעתים קרובות אינם הוגנים כלפי אנשים או קבוצות מסוימות
- בעלי עניין - אנשים או ישויות שישפיעו או יושפעו מהחלטות או פעולות של ארגון או עסק
משאבים נוספים
הנה עוד סרטונים על אתיקה והשפעה חיובית בטכנולוגיה.
פרשנות טובה למה חשוב לקחת בחשבון את ההשפעה של הטכנולוגיה שאתה יוצר.
פרויקט גוונים מגדריים מקדם בדיקות מוצר כוללניות עבור AI .