- Bedenke die Ethik von Technologie und KI
- Stelle sicher, dass deine App einen positiven Einfluss auf die Stakeholder hat
Das sind die Aktivitäten für diese Lektion:
ETHIK UND HANDELN
Was ist Ethik?
- Moralische Grundsätze darüber, was richtig und falsch ist
- Wichtig in der Welt der Technologie und KI
- Du willst keinen Schaden anrichten, auch nicht aus Versehen
- Dein Projekt muss den Menschen und der Gesellschaft helfen
Was ist algorithmische Verzerrung?
- Wo Programmierer ihr Programm dazu bringen, einige Nutzer besser zu behandeln als andere
- oder das KI-Modell wird trainiert, ohne dass verschiedene Proben verwendet werden
- Unfaire Ergebnisse für einige Nutzer
- Es muss nicht absichtlich sein, kann sich aber trotzdem negativ auf die Nutzer auswirken
Schau dir dieses Video an, um mehr über algorithmische Verzerrungen zu erfahren.
DIE NEGATIVEN AUSWIRKUNGEN DER TECHNOLOGIE
Wir alle nutzen jeden Tag Technologie und sind uns oft nicht bewusst, was diese Technologie eigentlich bewirkt - wie wir auf sie reagieren, was sie mit unserer Psyche macht.
Im Oktober 2021 wurde aufgedeckt, dass Facebook (jetzt Meta) durch eigene Nachforschungen von dem Schaden wusste, den es einigen seiner Nutzer/innen zufügte, aber nichts unternahm, um die Situation zu bereinigen.
"Zweiunddreißig Prozent der Teenager-Mädchen gaben an, dass sie sich auf Instagram (das zu Facebook gehört) noch schlechter fühlten, wenn sie sich wegen ihres Körpers schlecht fühlten", schreiben die Forscher. Facebook hat außerdem herausgefunden, dass 14 % der Jungen in den USA sagten, dass sie sich auf Instagram schlechter fühlen.
Wall Street Journal - die Facebook-Dateien
KEINEN SCHADEN ANRICHTEN
Nach dem Artikel im Wall Street Journal haben Facebook-Whistleblower weitere Informationen zur Verfügung gestellt:
- Facebook fördert Desinformation
- Hassreden und illegale Aktivitäten von bestimmten Nutzern ignoriert.
Softwareunternehmen wie Facebook sind so einflussreich auf der ganzen Welt und haben eine Verantwortung, dafür zu sorgen, dass ihre Software keinen Schaden anrichtet.
Auch wenn du noch ganz am Anfang stehst und nicht die Reichweite von Facebook oder Instagram hast, musst du dir genau überlegen, wer dein Produkt nutzen wird und wie es auf sie wirken könnte.
Verpflichte dich dazu, dass dein Projekt nur eine positive Wirkung hat!
STAKEHOLDERS
Bei der Entwicklung deines Projekts musst du deine Interessengruppen berücksichtigen.
Stakeholder sind Personen oder Einrichtungen, die von den Entscheidungen oder Maßnahmen deines Projekts betroffen sind.
Direkte Stakeholder
- Deine Benutzer
Indirekte Stakeholder
- Menschen oder Organisationen, die die von deiner Technologie betroffen sein können, aber nicht unbedingt direkt.

Die Nutzerinnen und Nutzer von TikTok sind zum Beispiel die direkten Stakeholder des Unternehmens.
Aber es gibt auch einige indirekte Interessengruppen, wie zum Beispiel:
- Musikkünstler, deren Musik auf TikTok gespielt wird
- Influencer, die davon profitieren, auf TikTok zu sein
- Schulen, weil Schüler von dem beeinflusst werden, was sie auf TikTok sehen
In diesem Video werden die Interessengruppen und andere wichtige Punkte für die Entwicklung ethischer Technologien näher erläutert.
Hier sind einige Dinge, an die du bei der Entwicklung deiner App denken solltest.
- Erfasst deine App Nutzerdaten?
- Kennen deine Nutzer sie?
- Hast du die Erlaubnis, die Daten zu sammeln?
- Welche Schritte unternimmst du, um ihre Daten geheim zu halten?
- Sind die Ratschläge oder Informationen, die du in deiner App gibst, korrekt?
- Woher weißt du das?

APP BEISPIEL
Stell dir eine App vor, die Unkrautdetektor heißt und vorhersagt, ob eine Pflanze ein Unkraut ist oder nicht. Gehen wir einmal durch, was du in Bezug auf die Ethik bei der Unkrautdetektor-App beachten würdest.
Stelle sicher, dass der Datensatz repräsentativ für die zu klassifizierenden Objekte ist.


Die Daten sollten die Bevölkerung widerspiegeln, für die die App verwendet wird. Wenn deine Daten verzerrt sind, könnte das in der App verwendete KI-Modell Fehler machen.
Was ist, wenn der Datensatz nur Bilder von Unkraut in der Wüste enthält?
Wenn wir die App auf Pflanzen in Wassernähe anwenden, wird sie wahrscheinlich nicht funktionieren, weil sie nicht mit Bildern dieser Pflanzenarten trainiert wurde.
Die App hat eine Vorliebe für Wüstenpflanzen!
Denke über jede Entscheidung nach, die du in deiner App treffen willst.
Gibt es Entscheidungen, die du ursprünglich nicht treffen wolltest?
Was ist, wenn der Unkrautdetektor eine Tomatenpflanze als Unkraut identifiziert? Das könnte sich negativ auf Menschen, die sie essen wollten, und auf Insekten im Garten auswirken.
Kannst du erkennen, welche dieser Pflanzen ein Unkraut ist? Was würdest du tun, wenn du dir nicht sicher wärst?
Vielleicht sammelt die App Daten über die Standorte der Häuser von Menschen, wenn sie die App in ihrem Garten benutzen. Sie könnte sensible Informationen über den Standort der Häuser von Menschen weitergeben - das ist ein Problem!
Die Informationen, die deine App weitergibt, müssen sorgfältig überlegt sein. Die Nutzer/innen sollten darauf vertrauen, dass dein Projekt ihre Informationen respektiert und nicht missbraucht. Wie würdest du dich fühlen, wenn ein Fremder irgendwie deine Geheimnisse kennen würde?
Als Entwickler tragen wir die Verantwortung dafür, wie unsere Technologie mit den Menschen interagiert, und wir sollten uns immer bewusst sein, welche Auswirkungen unsere Erfindungen haben können.
AKTIVITÄT: ETHISCHE REISE
Sicherstellen, dass deine App nur positive Auswirkungen hat
- Finde heraus, wer deine Stakeholder sind, sowohl direkt als auch indirekt.
- Befolge das Flussdiagramm der Fragen und überprüfe, ob du alles tust, damit dein Projekt nur positive Auswirkungen hat.
REFLEXION
Jetzt, wo du mehr über Ethik und deine Rolle bei der Sicherstellung, dass dein Projekt nur positive Auswirkungen hat, erfahren hast, solltest du dir diese Fragen stellen:

ÜBERPRÜFUNG DER SCHLÜSSELBEGRIFFE
- Ethik - Eine Reihe von moralischen Prinzipien, die beeinflussen, wie Menschen entscheiden, was richtig oder falsch ist
- Voreingenommenheit - Vorurteile, die jemand hat und die oft unfair gegenüber bestimmten Menschen oder Gruppen sind
- Stakeholder - Personen oder Körperschaften, die von Entscheidungen oder Handlungen einer Organisation oder eines Unternehmens betroffen sind oder betroffen werden
ZUSÄTZLICHE RESSOURCEN
Hier sind weitere Videos über Ethik und positive Auswirkungen in der Technologie.
Ein guter Kommentar dazu, warum es wichtig ist, die Auswirkungen der von dir entwickelten Technologie zu berücksichtigen.
Das Gender Shades Project fördert integrative Produkttests für KI.