מחקר וחדשנות אחראיים

  • להבין את המושג של מחקר וחדשנות אחראיים (RRI)
  • נתח מדוע RRI חשוב
  • למד על עקרונות ה-RRI: רפלקציה וצפייה

מחקר וחדשנות אחראיים (RRI)

בשיעור זה, נצלול לתוך האופן שבו תוכלו לשפר עוד יותר את רעיונות האפליקציות המדהימים שלכם על ידי חשיבה על השפעתם על העולם. 

מהו מחקר וחדשנות אחראיים (RRI)?

האם אי פעם עצרתם לחשוב כיצד טכנולוגיה עשויה להשפיע על אנשים ועל כדור הארץ בדרכים שלא ציפינו? 

על פי Responsible AI UK , מחקר וחדשנות אחראיים פירושם:

ביצוע מחקר וחדשנות באופן שצופה מראש כיצד הם עשויים להשפיע על אנשים
והסביבה בעתיד, כדי שנוכל להפיק את התועלת המרבית ולמנוע נזק
.

RRI עוסקת כולה בכך שאנו יוצרים דברים חדשים, אנו עושים זאת באופן שמועיל לכולם ונמנע מהשלכות שליליות. RRI עוזר לנו להשתמש בכוח היצירתי שלנו לטובה ולהבין מדוע אנו עושים את מה שאנו עושים.

מסגרת האזור

זהו מדריך פשוט ומעשי שיעזור לך ליישם עקרונות RRI. הוא מייצג:

צפה תוצאות אפשריות . מה יכול לקרות?

הרהרו על המטרות והשיטות שלנו. למה אנחנו עושים את זה ?

ליצור קשר עם אנשים וקהילות שונות. מי צריך להיות מעורב?

ניתוח על מה שאנחנו לומדים. מה עלינו לעשות?

בשיעור זה נתמקד בשני הראשונים: לצפות מראש ולהרהר .

לצפות: לחשוב קדימה

מדובר על שימוש בדמיון שלכם כדי לחשוב על העתיד. אולי האפליקציה שלכם עלולה לשתף בטעות יותר מדי מידע אישי, או אולי היא עלולה ליצור פער דיגיטלי שבו אנשים מסוימים יכולים להשתמש בה ואחרים לא.

צפי מראש עוזר לך לזהות בעיות פוטנציאליות מוקדם, כך שתוכל לתקן אותן לפני שהן קורות. זה כמו להסתכל על מפה לפני שאתה יוצא לטיול ארוך. זה אומר שאתה מדמיין כל מה שיכול לקרות עם האפליקציה שלך. 

לצפות מראש פירושו שאתה מוכן לבלתי צפוי.

עצרו ודנו:

בהקשר לרעיון האפליקציה שלך:

מה יכול להשתבש?

מה אם מישהו ישתמש בזה בצורה שמעולם לא חשבת עליה?

או מה אם בעיה תצוץ מאוחר יותר?

girls discussing

הרהור: מבט פנימה

רפלקציה עוסקת בהתבוננות במניעים ובבחירות שלכם כדי לקבל תחושה ברורה מדוע אתם עושים את מה שאתם עושים . זוהי הזדמנות לבדוק את עצמכם ואת הצוות שלכם. זה עוזר להבטיח שהפרויקט שלכם יישאר נאמן למטרתו ולערכיו המקוריים וישמור אתכם על המסלול הנכון. 

בדיוק כמו שהאפליקציה שלכם תשתנה ככל שתוסיפו תכונות חדשות, גם הרעיונות שלכם עשויים להשתנות. עליכם להמשיך לחשוב לאורך כל הפרויקט כדי לוודא שכל בחירה שאתם עושים עדיין מובילה אתכם בכיוון טוב.

בואו נראה דוגמה

1. דמיינו אפליקציית בינה מלאכותית שעוזרת לרופאים לאבחן מחלות.
זהו שימוש חיובי מאוד בבינה מלאכותית! אבל מה אם הנתונים המשמשים לאימון הבינה המלאכותית הגיעו בעיקר מקבוצת אנשים אחת (כמו מבוגרים ממדינה מסוימת)? ייתכן שהבינה המלאכותית לא תעבוד באותה מידה עבור קבוצות אנשים אחרות, מה שיוביל לאבחונים לא מדויקים.
2. לצפות ולהרהר
על המפתחים לצפות ולהבין שאימון המערכות שלהם עם נתונים מתחום או קבוצה אחת בלבד עלול להוביל לתוצאות לא הוגנות (הטיה).

לאחר שהרהרו על ערכיהם ומטרתם, הם אוספים באופן פעיל נתונים מגוונים ממדינות וקהילות רבות ושונות. זה מבטיח שהבינה המלאכותית מדויקת לכולם, מסייעת במניעת החמרה של הבדלים בריאותיים ובונה אמון עם קהילות שלא היו מיוצגות בצורה הוגנת בעבר.
3. מפתחים צריכים לשאול את עצמם:
  • מה אם הבינה המלאכותית עושה טעות?
  • כיצד יידעו רופאים את רמת הביטחון של הבינה המלאכותית באבחון שלה?
שאילת שאלות אלו יכולה וצריכה להוביל לבחינת גישות שונות, יצירת תכונות חדשות ושימוש במערכי נתונים מקיפים יותר.

עצור ודון

בתרחיש זה, האם תוכל לחשוב על שאלות נוספות שהמפתחים צריכים לשאול את עצמם?

girls discussing

כדי לקבל מושג טוב יותר לגבי החשיבות של להיות חדשן אחראי, צפו בסרטון הזה.

פעילות: לצפות ולהרהר

זמן משוער: 30 דקות

עכשיו הגיע הזמן ליישם את מה שלמדתם ברעיון הפרויקט שלכם!

השתמשו בשאלות הבאות כמדריך לסיעור מוחות עם הצוות שלכם. זכרו להיות כנים עם עצמכם. זוהי הזדמנות לוודא שהפרויקט שלכם הוא משהו שאתם באמת יכולים להיות גאים בו, לא רק בגלל שהוא עובד, אלא בגלל שהוא עושה טוב לעולם!
הורד גיליון עבודה

הִשׁתַקְפוּת

זה עתה למדתם על שני כלים חשובים לבניית אפליקציות לא רק מגניבות, אלא גם אחראיות : ציפייה (Anticipating) ו"רפלקציה " (Reflecting ).

mountain reflection
מהו דבר אחד שעליך לשנות או להוסיף לפרויקט שלך כרגע, בהתבסס על תשובותיך בשאלה "צפוי"?
כיצד שינתה החשיבה על RRI את האופן שבו אתם רואים את האפליקציות בהן אתם משתמשים מדי יום (כמו מדיה חברתית או משחקים)?

משאבים נוספים

  • כדי להעמיק בציפייה ובהתבוננות, עיינו בחומרים שנוצרו על ידי אוניברסיטת נוטינגהאם בשיתוף פעולה עם מרכז המערכות האוטונומיות האמינות.
  • למדו עוד על גישה שווה והטיה אלגוריתמית בבינה מלאכותית בסרטון זה מאתר Code.org