Pesquisa e inovação responsáveis

  • Compreender o conceito de Pesquisa e Inovação Responsável (RRI)
  • Analisar por que o RRI é importante
  • Saiba mais sobre os princípios do RRI: Refletir e antecipar

PESQUISA E INOVAÇÃO RESPONSÁVEIS (RRI)

Nesta lição, veremos como você pode tornar suas incríveis ideias de aplicativos ainda melhores, pensando no impacto delas no mundo. 

O que é Pesquisa e Inovação Responsável (RRI)?

Você já parou para pensar em como a tecnologia pode afetar as pessoas e o planeta de maneiras que não esperávamos? 

De acordo com a Responsible AI UKPesquisa e Inovação Responsável significa:

Realizar pesquisas e inovações de forma a prever como elas poderão afetar as pessoas
e o meio ambiente no futuro, para que possamos obter o máximo de benefícios e evitar danos
.

O RRI tem como objetivo garantir que, ao criarmos coisas novas, o façamos de uma forma que beneficie a todos e evite consequências negativas. O RRI nos ajuda a usar nosso poder criativo para o bem e a entender por que estamos fazendo o que estamos fazendo.

A ESTRUTURA DA ÁREA

É um guia simples e prático para ajudá-lo a aplicar os princípios do RRI. Ele representa:

Antecipar resultados potenciais. O que poderia acontecer?

Refletir sobre nossos objetivos e métodos. Por que estamos fazendo isso?

Energia com diferentes pessoas e comunidades. Quem deve se envolver?

Act sobre o que aprendemos. O que devemos fazer?

Nesta lição, vamos nos concentrar nos dois primeiros: Antecipar e Refletir.

ANTECIPAR: PENSAR NO FUTURO

Trata-se de usar sua imaginação para pensar no futuro. Talvez o app possa acidentalmente compartilhar muitas informações pessoais ou talvez possa criar uma divisão digital em que algumas pessoas possam usá-lo e outras não.

A antecipação o ajuda a identificar possíveis problemas com antecedência, para que você possa corrigi-los antes que aconteçam. É como olhar um mapa antes de iniciar uma longa viagem. Isso significa que você imagina tudo o que poderia acontecer com o o app. 

Antecipar significa que você está preparado para o inesperado.

PARE E DISCUTA:

Em relação à ideia o app :

O que pode dar errado?

E se alguém o usar de uma forma que você nunca imaginou?

E se surgir um problema mais tarde?

girls discussing

REFLETIR: OLHAR PARA DENTRO

A reflexão consiste em analisar suas próprias motivações e escolhas para ter uma noção clara de por que está fazendo o que está fazendo. É uma oportunidade de verificar com você mesmo e com a sua equipe. Isso ajuda a garantir que o projeto permaneça fiel ao seu propósito e valores originais e o mantém no caminho certo. 

Assim como o app mudará à medida que você adicionar novos recursos, suas ideias também poderão mudar. Você deve continuar refletindo durante todo o projeto para ter certeza de que que cada escolha que fizer ainda o levará em uma boa direção.

VEJAMOS UM EXEMPLO

1. Imagine um aplicativo de IA que ajude os médicos a diagnosticar doenças.
Esse é um uso muito positivo da IA! Mas e se os dados usados para treinar a IA forem provenientes principalmente de um grupo de pessoas (como adultos de um país específico)? A IA pode não funcionar tão bem em outros grupos de pessoas, levando a diagnósticos imprecisos.
2. Antecipar e refletir
Os desenvolvedores devem prever e perceber que o treinamento de seus sistemas com dados de apenas uma área ou grupo pode levar a resultados injustos (viés).

Depois de refletir sobre seus valores e objetivos, eles coletam ativamente diversos dados de muitos países e comunidades diferentes. Isso garante que a IA seja precisa para todos, ajuda a impedir que as diferenças de saúde piorem e gera confiança nas comunidades que não foram representadas de forma justa no passado.
3. Os desenvolvedores devem se perguntar:
  • E se a IA cometer um erro?
  • Como os médicos saberão o nível de confiança da IA em seu diagnóstico?
Fazer essas perguntas pode e deve levar à exploração de diferentes abordagens, à criação de novos recursos e ao uso de conjuntos de dados mais inclusivos.

PARE E CONVERSE

Nesse cenário, você consegue pensar em outras perguntas que os desenvolvedores deveriam fazer a si mesmos?

girls discussing

Para ter uma noção melhor da importância de ser um inovador responsável, dê uma olhada neste vídeo.

ATIVIDADE: ANTECIPAR E REFLETIR

Tempo estimado: 30 minutos

Agora é hora de aplicar o que você aprendeu à sua própria ideia de projeto!

Use as perguntas a seguir como um guia para fazer um brainstorming com a sua equipe. Lembrem-se de serem honestos com vocês mesmos. Esta é uma chance de garantir que o projeto seja algo de que você possa realmente se orgulhar, não apenas porque funciona, mas porque faz o bem no mundo!
Faça o download da planilha

REFLEXÃO

Você acabou de aprender sobre duas ferramentas importantes para criar não apenas aplicativos legais, mas também aplicativos responsáveis: Antecipação e reflexão.

mountain reflection
O que você talvez precise mudar ou acrescentar ao o projeto neste momento com base nas suas respostas "Antecipar"?
Como o pensamento sobre o RRI mudou a maneira como você vê os aplicativos que usa todos os dias (como redes sociais ou jogos)?

RECURSOS ADICIONAIS

  • Para aprofundar a antecipação e a reflexão, confiraos materiais criados pela Universidade de Nottingham em colaboração com o Trustworthy Autonomous Systems Hub.
  • Saiba mais sobre acesso igualitário e preconceito algorítmico em IA neste vídeo da Code.org