Verantwortungsvolle Forschung und Innovation

  • das Konzept der verantwortungsvollen Forschung und Innovation (RRI) zu verstehen
  • Analysiere, warum RRI wichtig ist
  • Lerne die RRI-Prinzipien kennen: Reflektieren und Antizipieren

VERANTWORTUNGSVOLLE FORSCHUNG UND INNOVATION (RRI)

In dieser Lektion gehen wir der Frage nach, wie du deine tollen App-Ideen noch besser machen kannst, indem du über ihre Auswirkungen auf die Welt nachdenkst. 

Was ist verantwortungsvolle Forschung und Innovation (RRI)?

Hast du jemals darüber nachgedacht, wie Technologie die Menschen und den Planeten auf eine Weise beeinflussen kann, die wir nicht erwartet haben? 

Nach Angaben von Responsible AI UKbedeutet verantwortungsvolle Forschung und Innovation:

Forschung und Innovation auf eine Weise betreiben, die voraussieht, wie sie sich in Zukunft auf die Menschen
und die Umwelt auswirken könnte, damit wir den größten Nutzen daraus ziehen und Schaden vermeiden können.

Bei RRI geht es darum sicherzustellen, dass wir bei der Schaffung neuer Dinge so vorgehen, dass alle davon profitieren und negative Folgen vermieden werden. RRI hilft uns, unsere kreative Kraft für das Gute einzusetzen und zu verstehen, warum du tust, was du tust.

DER GEBIETSRAHMEN

ist ein einfacher, praktischer Leitfaden, der dir hilft, die RRI-Prinzipien anzuwenden. Es steht für:

Anticipate mögliche Folgen. Was könnte passieren?

Reflektiere über unsere Ziele und Methoden. Warum tun wir das?

Engage mit verschiedenen Menschen und Gemeinschaften. Wer sollte einbezogen werden?

Act auf das, was wir lernen. Was sollten wir tun?

Quelle: "RRI Toolkit", RAI Uk

In dieser Lektion werden wir uns auf die ersten beiden konzentrieren: Antizipiere und Reflektieren.

ANTIZIPIEREN: VORAUSDENKEN

Hier geht es darum, deine Vorstellungskraft zu nutzen, um über die Zukunft nachzudenken. Vielleicht gibt deine App versehentlich zu viele persönliche Informationen weiter oder sie könnte eine digitale Kluft schaffen, in der einige Menschen sie nutzen können und andere nicht.

Antizipieren hilft dir, potenzielle Probleme frühzeitig zu erkennen, damit du sie beheben kannst, bevor sie auftreten. Das ist so, als würdest du dir eine Karte ansehen, bevor du eine lange Reise antrittst. Das heißt, du stellst dir alles vor, was mit deiner App passieren könnte. 

Antizipieren bedeutet, dass du auf das Unerwartete vorbereitet bist.

ANHALTEN UND DISKUTIEREN:

In Bezug auf deine App-Idee:

Was kann schon schiefgehen?

Was ist, wenn jemand es auf eine Weise benutzt, an die du nicht gedacht hast?

Oder was ist, wenn später ein Problem auftaucht?

girls discussing

REFLECT: NACH INNEN SCHAUEN

Bei der Reflexion geht es darum, deine eigenen Motivationen und Entscheidungen zu überprüfen, um ein klares Gefühl dafür zu bekommen , warum du tust, was du tust. Es ist eine Chance, sich selbst und dein Team zu überprüfen. So kannst du sicherstellen, dass dein Projekt seinem ursprünglichen Zweck und seinen Werten treu bleibt und du auf dem richtigen Weg bist. 

So wie sich deine App verändert, wenn du neue Funktionen hinzufügst, können sich auch deine Ideen ändern. Du solltest während des gesamten Projekts immer wieder darüber nachdenken, um sicherzustellen dass jede Entscheidung, die du triffst, immer noch in eine gute Richtung führt.

SEHEN WIR UNS EIN BEISPIEL AN

1. Stell dir eine KI-App vor, die Ärzten bei der Diagnose von Krankheiten hilft.
Das ist ein sehr positiver Einsatz von KI! Aber was ist, wenn die Daten, die zum Trainieren der KI verwendet wurden, hauptsächlich von einer bestimmten Personengruppe stammen (z. B. Erwachsene aus einem bestimmten Land)? Die KI könnte bei anderen Personengruppen nicht so gut funktionieren und zu ungenauen Diagnosen führen.
2. Antizipieren und Reflektieren
Die Entwickler müssen sich darüber im Klaren sein, dass das Trainieren ihrer Systeme mit Daten aus nur einem Bereich oder einer Gruppe zu ungerechten Ergebnissen (Bias) führen kann.

Nachdem sie über ihre Werte und Ziele nachgedacht haben, sammeln sie aktiv vielfältige Daten aus vielen verschiedenen Ländern und Gemeinschaften. Das stellt sicher, dass die KI für alle korrekt ist, hilft dabei, gesundheitliche Unterschiede nicht zu verschlimmern, und schafft Vertrauen bei Gemeinschaften, die in der Vergangenheit nicht fair vertreten waren.
3. Entwickler/innen sollten sich fragen:
  • Was ist, wenn die KI einen Fehler macht?
  • Woher sollen die Ärzte wissen, wie sicher die KI bei ihrer Diagnose ist?
Die Beantwortung dieser Fragen könnte und sollte dazu führen, verschiedene Ansätze zu erforschen, neue Funktionen zu schaffen und umfassendere Datensätze zu verwenden.

STOPPEN UND DISKUTIEREN

Fallen dir in diesem Szenario noch andere Fragen ein, die sich die Entwickler stellen sollten?

girls discussing

Um ein besseres Gefühl dafür zu bekommen, wie wichtig es ist, ein verantwortungsvoller Innovator zu sein, schau dir dieses Video an.

AKTIVITÄT: ANTIZIPIEREN UND REFLEKTIEREN

Geschätzte Zeit: 30 Minuten

Jetzt ist es an der Zeit, das Gelernte auf deine eigene Projektidee anzuwenden!

Nutze die folgenden Fragen als Leitfaden für ein Brainstorming mit deinem Team. Denkt daran, ehrlich zu euch selbst zu sein. Das ist die Gelegenheit, um sicherzustellen, dass euer Projekt etwas ist, auf das ihr wirklich stolz sein könnt, nicht nur weil es funktioniert, sondern weil es Gutes in der Welt bewirkt!
Arbeitsblatt herunterladen

REFLEXION

Du hast gerade zwei wichtige Werkzeuge kennengelernt, um nicht nur coole, sondern auch verantwortungsvolle Apps zu entwickeln: Antizipieren und Reflektieren.

mountain reflection
Was ist eine Sache, die du auf der Grundlage deiner "Antizipieren"-Antworten in deinem Projekt ändern oder hinzufügen solltest?
Wie hat das Nachdenken über RRI die Art und Weise verändert, wie du die Apps betrachtest, die du jeden Tag benutzt (wie soziale Medien oder Spiele)?

ZUSÄTZLICHE RESSOURCEN

  • Wenn du dich eingehender mit dem Thema Antizipation und Reflexion beschäftigen möchtest, schau dir die Materialien an, die von der Universität Nottingham in Zusammenarbeit mit dem Trustworthy Autonomous Systems Hub erstellt wurden.
  • Erfahre in diesem Video von Code.org mehr über den gleichberechtigten Zugang und algorithmische Vorurteile in der KI
Vorherige Lektion
Zurück zum Kurs
Nächste Lektion