Positive Auswirkungen

  • Bedenke die Ethik von Technologie und KI
  • Stelle sicher, dass deine App einen positiven Einfluss auf die Stakeholder hat

Das sind die Aktivitäten für diese Lektion:

ETHIK UND HANDELN

Was ist Ethik?

 

Was ist algorithmische Verzerrung?

Schau dir dieses Video an, um mehr über algorithmische Verzerrungen zu erfahren.

DIE NEGATIVEN AUSWIRKUNGEN DER TECHNOLOGIE

Wir alle nutzen jeden Tag Technologie und sind uns oft nicht bewusst, was diese Technologie eigentlich bewirkt - wie wir auf sie reagieren, was sie mit unserer Psyche macht.

Im Oktober 2021 wurde aufgedeckt, dass Facebook (jetzt Meta) durch eigene Nachforschungen von dem Schaden wusste, den es einigen seiner Nutzer/innen zufügte, aber nichts unternahm, um die Situation zu bereinigen.

"Zweiunddreißig Prozent der Teenager-Mädchen gaben an, dass sie sich auf Instagram (das zu Facebook gehört) noch schlechter fühlten, wenn sie sich wegen ihres Körpers schlecht fühlten", schreiben die Forscher. Facebook hat außerdem herausgefunden, dass 14 % der Jungen in den USA sagten, dass sie sich auf Instagram schlechter fühlen.

KEINEN SCHADEN ANRICHTEN

Nach dem Artikel im Wall Street Journal haben Facebook-Whistleblower weitere Informationen zur Verfügung gestellt:

  • Facebook fördert Desinformation
  • Hassreden und illegale Aktivitäten von bestimmten Nutzern ignoriert. 

Softwareunternehmen wie Facebook sind so einflussreich auf der ganzen Welt und haben eine Verantwortung, dafür zu sorgen, dass ihre Software keinen Schaden anrichtet.

Auch wenn du noch ganz am Anfang stehst und nicht die Reichweite von Facebook oder Instagram hast, musst du dir genau überlegen, wer dein Produkt nutzen wird und wie es auf sie wirken könnte.

Verpflichte dich dazu, dass dein Projekt nur eine positive Wirkung hat!

STAKEHOLDERS

Bei der Entwicklung deines Projekts musst du deine Interessengruppen berücksichtigen. 

Stakeholder sind Personen oder Einrichtungen, die von den Entscheidungen oder Maßnahmen deines Projekts betroffen sind.

Direkte Stakeholder

  • Deine Benutzer

Indirekte Stakeholder

  • Menschen oder Organisationen, die die von deiner Technologie betroffen sein können, aber nicht unbedingt direkt.
tik tok logo

Die Nutzerinnen und Nutzer von TikTok sind zum Beispiel die direkten Stakeholder des Unternehmens.

Aber es gibt auch einige indirekte Interessengruppen, wie zum Beispiel:

  • Musikkünstler, deren Musik auf TikTok gespielt wird
  • Influencer, die davon profitieren, auf TikTok zu sein
  • Schulen, weil Schüler von dem beeinflusst werden, was sie auf TikTok sehen

In diesem Video werden die Interessengruppen und andere wichtige Punkte für die Entwicklung ethischer Technologien näher erläutert.

Hier sind einige Dinge, an die du bei der Entwicklung deiner App denken solltest. 

  • Erfasst deine App Nutzerdaten? 
  • Kennen deine Nutzer sie? 
  • Hast du die Erlaubnis, die Daten zu sammeln? 
  • Welche Schritte unternimmst du, um ihre Daten geheim zu halten? 
  • Sind die Ratschläge oder Informationen, die du in deiner App gibst, korrekt? 
  • Woher weißt du das?
Entwicklung einer mobilen App für eine gute Infografik

APP BEISPIEL

Stell dir eine App vor, die Unkrautdetektor heißt und vorhersagt, ob eine Pflanze ein Unkraut ist oder nicht. Gehen wir einmal durch, was du in Bezug auf die Ethik bei der Unkrautdetektor-App beachten würdest.

Stelle sicher, dass der Datensatz repräsentativ für die zu klassifizierenden Objekte ist.

Wüstenkraut
Wüstenkraut
Wasserunkraut
Wasserunkraut

Die Daten sollten die Bevölkerung widerspiegeln, für die die App verwendet wird. Wenn deine Daten verzerrt sind, könnte das in der App verwendete KI-Modell Fehler machen.

Was ist, wenn der Datensatz nur Bilder von Unkraut in der Wüste enthält?

Wenn wir die App auf Pflanzen in Wassernähe anwenden, wird sie wahrscheinlich nicht funktionieren, weil sie nicht mit Bildern dieser Pflanzenarten trainiert wurde.

Die App hat eine Vorliebe für Wüstenpflanzen!

Denke über jede Entscheidung nach, die du in deiner App treffen willst.

Gibt es Entscheidungen, die du ursprünglich nicht treffen wolltest? 

Was ist, wenn der Unkrautdetektor eine Tomatenpflanze als Unkraut identifiziert? Das könnte sich negativ auf Menschen, die sie essen wollten, und auf Insekten im Garten auswirken.

Kannst du erkennen, welche dieser Pflanzen ein Unkraut ist? Was würdest du tun, wenn du dir nicht sicher wärst?

sechs verschiedene Pflanzen, einige Unkräuter

Kleines Häuschen mit GartenVielleicht sammelt die App Daten über die Standorte der Häuser von Menschen, wenn sie die App in ihrem Garten benutzen. Sie könnte sensible Informationen über den Standort der Häuser von Menschen weitergeben - das ist ein Problem!

Die Informationen, die deine App weitergibt, müssen sorgfältig überlegt sein. Die Nutzer/innen sollten darauf vertrauen, dass dein Projekt ihre Informationen respektiert und nicht missbraucht. Wie würdest du dich fühlen, wenn ein Fremder irgendwie deine Geheimnisse kennen würde?

Als Entwickler tragen wir die Verantwortung dafür, wie unsere Technologie mit den Menschen interagiert, und wir sollten uns immer bewusst sein, welche Auswirkungen unsere Erfindungen haben können.

AKTIVITÄT: ETHISCHE REISE

Geschätzte Zeit: 30 Minuten

Sicherstellen, dass deine App nur positive Auswirkungen hat

Befolge die Anweisungen auf dem Arbeitsblatt, um:

  1. Finde heraus, wer deine Stakeholder sind, sowohl direkt als auch indirekt.
  2. Befolge das Flussdiagramm der Fragen und überprüfe, ob du alles tust, damit dein Projekt nur positive Auswirkungen hat.
Beachte, dass du eine Kopie des Arbeitsblatts erstellen und nach Bedarf bearbeiten kannst.
Öffne das Arbeitsblatt

REFLEXION

Jetzt, wo du mehr über Ethik und deine Rolle bei der Sicherstellung, dass dein Projekt nur positive Auswirkungen hat, erfahren hast, solltest du dir diese Fragen stellen:

Person, die in der Nähe von Wasser und Reflexion steht
Was hast du über Technologie und Ethik gelernt, das dich überrascht hat?
Siehst du irgendeine der Technologien, die du jeden Tag benutzt, jetzt anders?
Welche Rolle kannst du dabei spielen, die Technologie ethischer zu gestalten?

ÜBERPRÜFUNG DER SCHLÜSSELBEGRIFFE

    • Ethik - Eine Reihe von moralischen Prinzipien, die beeinflussen, wie Menschen entscheiden, was richtig oder falsch ist
    • Voreingenommenheit - Vorurteile, die jemand hat und die oft unfair gegenüber bestimmten Menschen oder Gruppen sind
    • Stakeholder - Personen oder Körperschaften, die von Entscheidungen oder Handlungen einer Organisation oder eines Unternehmens betroffen sind oder betroffen werden

ZUSÄTZLICHE RESSOURCEN

Hier sind weitere Videos über Ethik und positive Auswirkungen in der Technologie.