책임감 있는 연구 및 혁신

  • 책임 있는 연구 및 혁신(RRI)의 개념 이해하기
  • RRI가 중요한 이유 분석
  • RRI 원칙에 대해 알아보세요: 반영 및 예측

책임감 있는 연구 및 혁신(RRI)

이 강의에서는 멋진 앱 아이디어가 세상에 미치는 영향을 생각하여 더 나은 앱으로 만드는 방법에 대해 알아보세요. 

책임 있는 연구 및 혁신(RRI)이란 무엇인가요?

기술이 우리가 예상하지 못한 방식으로 사람과 지구에 어떤 영향을 미칠지 생각해 본 적이 있나요? 

에 따르면 책임감 있는 AI 영국에 따르면 책임 있는 연구와 혁신이란

미래에 사람들과
환경에 어떤 영향을 미칠지 예측하는 방식으로 연구와 혁신을 수행하여 최대한의 이익을 얻고 피해를 피할 수 있습니다.
.

RRI는 새로운 것을 창조할 때 모든 사람에게 혜택을 주고 부정적인 결과를 피할 수 있는 방식으로 이루어지도록 하는 데 중점을 둡니다. RRI는 우리가 창의력을 선한 일에 사용하고 우리가 하는 일을 하는 이유를 이해하도록 도와줍니다.

영역 프레임워크

RRI 원칙을 적용하는 데 도움이 되는 간단하고 실용적인 가이드입니다. 의 약자입니다:

A예상 잠재적 결과. 어떤 일이 일어날 수 있을까요?

R반영 우리의 목표와 방법에 대해. 우리가 이 일을 하는 이유는 무엇인가요?

Engage 다양한 사람 및 커뮤니티와 함께합니다. 누가 참여해야 하나요?

Act 우리가 배우는 것에 대해. 어떻게 해야 하나요?

이 단원에서는 처음 두 가지에 중점을 두겠습니다: 예상반영.

예상: 미리 생각하기

상상력을 발휘하여 미래에 대해 생각해보는 것입니다. 앱이 실수로 너무 많은 개인 정보를 공유할 수도 있고, 어떤 사람은 앱을 사용할 수 있고 어떤 사람은 사용할 수 없는 디지털 격차를 만들 수도 있습니다.

예측은 잠재적인 문제를 조기에 발견하여 문제가 발생하기 전에 해결할 수 있도록 도와줍니다. 마치 장거리 여행을 시작하기 전에 지도를 보는 것과 같습니다. 앱에서 일어날 수 있는 모든 상황을 상상해 보는 것입니다. 

예측한다는 것은 예상치 못한 상황에 대비한다는 뜻입니다.

멈추고 토론하세요:

앱 아이디어와 관련하여

무엇이 잘못될 수 있을까요?

만약 누군가 여러분이 생각지도 못한 방식으로 이를 사용한다면 어떻게 될까요?

아니면 나중에 문제가 발생하면 어떻게 하나요?

girls discussing

반영: 내면 들여다보기

성찰은 자신의 동기와 선택에 대해 살펴봄으로써 자신이 하고 있는 일을 하는 이유를 명확하게 파악하는 것입니다. 자신과 팀을 점검할 수 있는 기회이기도 합니다. 이를 통해 프로젝트가 원래의 목적과 가치에 충실하고 올바른 방향으로 나아갈 수 있도록 도와줍니다. 

새로운 기능을 추가하면 앱이 바뀌는 것처럼 아이디어도 바뀔 수 있습니다. 프로젝트 전체에 걸쳐 계속 반영하여 모든 선택이 모든 선택이 여전히 좋은 방향으로 나아가고 있는지 확인해야 합니다.

예를 들어 보겠습니다.

1. 의사가 질병을 진단하는 데 도움이 되는 AI 앱을 상상해 보세요.
이는 매우 긍정적인 AI 활용입니다! 하지만 AI를 학습시키는 데 사용된 데이터가 특정 국가의 성인과 같은 한 그룹의 사람들에게서 주로 나온 것이라면 어떻게 될까요? AI가 다른 그룹의 사람들에게는 잘 작동하지 않아 부정확한 진단을 내릴 수 있습니다.
2. 예측 및 반영
개발자는 한 영역이나 그룹의 데이터로만 시스템을 학습시키면 불공정한 결과(편향)를 초래할 수 있음을 예상하고 인식해야 합니다.

개발자는 자신의 가치와 목적을 성찰한 후 여러 국가와 커뮤니티에서 다양한 데이터를 적극적으로 수집합니다. 이를 통해 모든 사람에게 정확한 AI를 제공하고, 건강 격차가 악화되는 것을 막고, 과거에는 공정하게 대표되지 않았던 커뮤니티와 신뢰를 구축할 수 있습니다.
3. 개발자는 스스로에게 물어봐야 합니다:
  • AI가 실수를 하면 어떻게 되나요?
  • 의사는 AI의 진단에 대한 신뢰도를 어떻게 알 수 있을까요?
이러한 질문을 통해 다양한 접근 방식을 탐색하고, 새로운 기능을 만들고, 보다 포괄적인 데이터 세트를 사용할 수 있으며, 그렇게 해야 합니다.

멈추고 토론하기

이 시나리오에서 개발자가 스스로에게 물어봐야 할 다른 질문은 어떤 것이 있을까요?

girls discussing

책임감 있는 혁신가가 되는 것의 중요성을 더 잘 이해하려면 이 동영상을 살펴보세요.

활동: 예측 및 반영

예상 시간: 30분

이제 배운 내용을 자신의 프로젝트 아이디어에 적용해 볼 차례입니다!

다음 질문을 참고하여 팀원들과 브레인스토밍을 진행하세요. 자신에게 솔직해지는 것을 잊지 마세요. 이 기회는 여러분의 프로젝트가 단순히 작동하기 때문이 아니라 세상에 좋은 일을 하기 때문에 여러분이 진정으로 자랑스러워할 수 있는 프로젝트인지 확인할 수 있는 기회입니다!
워크시트 다운로드

돌아보기 

멋진 앱뿐만 아니라 책임감 있는 앱을 만들기 위한 두 가지 중요한 도구에 대해 배웠습니다: 예측과 반영입니다.

mountain reflection
'예상' 답변에 따라 지금 당장 프로젝트에 변경하거나 추가해야 할 한 가지가 있다면 무엇인가요?
소셜 미디어나 게임 등 매일 사용하는 앱을 보는 방식이 RRI에 대한 생각으로 인해 어떻게 바뀌었나요?

추가 리소스

  • 예상과 성찰에 대해 더 자세히 알아보려면 노팅엄 대학교가 신뢰할 수 있는 자율 시스템 허브와 협력하여 만든자료를 확인하세요 .
  • Code.org의 이 동영상에서 AI의 평등한 접근과 알고리즘 편향성에 대해 자세히 알아보세요.