- Considerar a ética da tecnologia e da IA
- Certifique-se de que o app terá um impacto positivo sobre seus acionistas
Estas são as atividades para esta lição:
ÉTICA E AÇÕES
O que é ética?
- Princípios morais sobre o que é certo e errado
- Importante no mundo da tecnologia e da IA
- Você não quer causar danos, mesmo que por acidente
- o projeto deve ajudar as pessoas e a sociedade
O que é o viés algorítmico?
- Onde o programador faz com que seu programa trate alguns usuários melhor do que outros
- ou o modelo de IA é treinado sem o uso de diversas amostras
- Criando resultados injustos para alguns usuários
- Pode não ser intencional, mas ainda assim pode afetar negativamente os usuários
Assista a este vídeo para saber mais sobre o viés algorítmico.
IMPACTO NEGATIVO DA TECNOLOGIA
Todos nós usamos a tecnologia todos os dias e muitas vezes não temos consciência do que essa tecnologia está realmente fazendo - como estamos reagindo a ela, o que ela está fazendo com nossa psique.
Em outubro de 2021, foi revelado que o Facebook (agora Meta), por meio de sua própria pesquisa, estava ciente dos danos que estava causando a alguns de seus usuários, mas não fez nada para corrigir a situação.
"Trinta e dois por cento das meninas adolescentes disseram que, quando se sentiam mal com seus corpos, o Instagram (de propriedade do Facebook) as fazia se sentir pior", escreveram os pesquisadores. O Facebook também descobriu que 14% dos meninos nos EUA disseram que o Instagram os fazia se sentir pior consigo mesmos.
NÃO FAÇA MAL
Após o artigo do Wall Street Journal, os denunciantes do Facebook forneceram informações adicionais que:
- O Facebook promoveu desinformação
- ignorou discursos de ódio e atividades ilegais de determinados usuários.
Empresas de software como o Facebook são muito influentes em todo o mundo e têm a responsabilidade de garantir que seus softwares não causem danos.
Embora você esteja apenas começando e não tenha o alcance do Facebook ou do Instagram, ainda precisa pensar cuidadosamente sobre quem usará seu produto e como ele poderá ser afetado por ele.
Comprometa-se a garantir que o projeto tenha apenas um impacto positivo!
AGENTES ENVOLVIDOS
Ao desenvolver o projeto, você precisa levar em conta os interessados.
Partes interessadas são pessoas ou entidades afetadas por decisões ou ações tomadas pelo projeto.
Agentes envolvidos diretamente
- seus usuários
Agentes envolvidos indiretamente
- pessoas ou organizações que podem ser afetadas por sua tecnologia, mas não necessariamente de forma direta.
Por exemplo, os usuários do TikTok são seus agentes envolvidos diretamente.
Mas ela tem alguns agentes envolvidos indiretamente, como:
- artistas musicais cuja música é reproduzida no TikTok
- Influenciadores que se beneficiam de estar no TikTok
- Escolas, porque os estudantes são influenciados pelo que eles veem no TikTok
Este vídeo explica as partes interessadas em mais detalhes, bem como outros pontos importantes para a criação de tecnologia ética.
Aqui estão alguns aspectos que você deve considerar ao desenvolver o app.
- O app coleta dados do usuário?
- Seus usuários sabem disso?
- Você tem permissão para coletar os dados?
- Que medidas você está tomando para manter a privacidade dos dados?
- As orientações ou informações fornecidas no app são precisas?
- Como você sabe?
EXEMPLO DE APLICATIVO
Imagine um aplicativo chamado Weed Detector que prevê se uma planta é uma erva daninha ou não. Vamos ver o que você consideraria em relação à ética com o aplicativo Weed Detector.
Certifique-se de que o conjunto de dados seja representativo dos objetos que estão sendo classificados.
Os dados devem refletir a população na qual o aplicativo está sendo usado. Se seus dados forem tendenciosos, o modelo de IA usado no aplicativo poderá cometer erros.
E se o conjunto de dados contiver apenas imagens de ervas daninhas encontradas no deserto?
Se usarmos o aplicativo em plantas encontradas perto da água, ele provavelmente não funcionará, pois não foi treinado usando imagens desses tipos de plantas.
O aplicativo tem uma tendência para plantas do deserto!
Pense em cada decisão que você programará.
Há alguma decisão que ele poderia tomar que você não pretendia originalmente?
E se o Weed Detector (Detector de Ervas Daninhas) identificar um tomateiro como uma erva daninha? Isso poderia afetar negativamente as pessoas que planejavam comê-lo e os insetos no jardim.
Você sabe dizer qual dessas plantas é uma erva daninha? O que você faria se não tivesse certeza?
Talvez o aplicativo colete dados sobre a localização das residências das pessoas quando elas usam o aplicativo em seu jardim. Ele pode compartilhar informações confidenciais sobre a localização das residências das pessoas - isso é um problema!
As informações compartilhadas pelo o app devem ser consideradas com cuidado. Os usuários devem confiar que o projeto respeitará suas informações e não as utilizará indevidamente. Como você se sentiria se um estranho, de alguma forma, conhecesse seus segredos?
Como desenvolvedores, temos a responsabilidade pela forma como nossa tecnologia interage com as pessoas e devemos estar sempre atentos ao possível impacto que nossas invenções podem ter.
ATIVIDADE: JORNADA ÉTICA
Garantir que o app tenha apenas impacto positivo
- Identificar quem são seus agentes envolvidos, tanto diretos quanto indiretos.
- Siga o fluxograma de perguntas e verifique se você está fazendo tudo o que pode para que o projeto tenha apenas um impacto positivo.
REFLEXÃO
Agora que você aprendeu mais sobre ética e sua parte para garantir que o o projeto tenha apenas um impacto positivo, considere estas perguntas:
REVISÃO DOS PRINCIPAIS TERMOS
- Ética - conjunto de princípios morais que afetam a forma como as pessoas decidem o que é certo ou errado
- Preconceito - ideias preconcebidas que alguém tem e que geralmente são injustas para algumas pessoas ou grupos
- Agentes Envolvidos up: b
- pessoas ou entidades que afetarão ou serão afetadas por decisões ou ações tomadas por uma organização ou empresa
RECURSOS ADICIONAIS
Aqui estão mais vídeos sobre ética e impacto positivo na tecnologia.
Bom comentário sobre por que é importante considerar o impacto da tecnologia que você cria.
O Gender Shades promove testes inclusivos de produtos para IA.
