- 기술 및 AI의 윤리 고려하기
- 앱이 이해 관계자에게 긍정적인 영향을 미칠 수 있도록 하세요.
윤리 및 행동
윤리란 무엇인가요?
- 옳고 그름에 대한 도덕적 원칙
- 기술 및 AI 세계에서 중요
- 실수로라도 해를 끼치고 싶지 않습니다.
- 프로젝트는 사람과 사회에 도움이 되어야 합니다.
알고리즘 편향이란 무엇인가요?
- 프로그래머가 자신의 프로그램으로 인해 일부 사용자를 다른 사용자보다 더 잘 대우하는 경우
- 또는 다양한 샘플을 사용하지 않고 AI 모델을 학습시켰습니다.
- 일부 사용자에게 불공정한 결과 생성
- 의도적인 것은 아니지만 여전히 사용자에게 부정적인 영향을 미칠 수 있습니다.
알고리즘 편향에 대해 자세히 알아보려면 이 동영상을 확인하세요.
기술의 부정적인 영향
우리 모두는 매일 기술을 사용하지만 그 기술이 실제로 어떤 일을 하는지, 즉 우리가 기술에 어떻게 반응하고 있는지, 기술이 우리의 정신에 어떤 영향을 미치는지 잘 알지 못하는 경우가 많습니다.
2021년 10월, 페이스북(현 메타)이 자체 조사를 통해 일부 사용자에게 피해를 입히고 있다는 사실을 인지하고 있었음에도 불구하고 상황을 해결하기 위해 아무런 조치를 취하지 않았다는 사실이 밝혀졌습니다.
연구진은 "10대 소녀의 32%가 자신의 신체에 대해 기분이 나쁠 때 (페이스북이 소유한) 인스타그램 때문에 기분이 더 나빠졌다고 답했다"고 전했다. 또한 미국 남학생의 14%는 인스타그램이 자신에 대한 기분을 나쁘게 만든다고 답했다고 페이스북은 밝혔습니다.
월스트리트 저널 - Facebook 파일
해를 끼치지 마세요
월스트리트 저널 기사에 이어 페이스북 내부 고발자들은 추가 정보를 제공했습니다:
- 페이스북의 허위 정보 조장
- 특정 사용자의 혐오 발언과 불법 행위를 무시했습니다.
Facebook과 같은 소프트웨어 회사는 전 세계에 큰 영향력을 행사하는 만큼 소프트웨어가 해를 끼치지 않도록 해야 할 책임이 있습니다.
이제 막 시작하여 Facebook이나 Instagram의 도달 범위가 넓지 않더라도 제품을 사용할 대상과 이들이 어떤 영향을 받을 수 있는지 신중하게 생각해야 합니다.
프로젝트가 긍정적인 영향력만 끼칠 수 있도록 서약하세요!
스테이크 홀더
프로젝트를 개발할 때는 이해관계자를 고려해야 합니다.
이해관계자 는 프로젝트에서 내린 결정이나 조치에 영향을 받는 사람 또는 단체입니다.
직접 이해관계자
- 사용자
간접 이해관계자
- 사람 또는 조직 영향을 받을 수 있지만 반드시 직접적으로 영향을 받는 것은 아닙니다.

예를 들어, 틱톡의 사용자는 직접적인 이해당사자입니다.
하지만 다음과 같은 간접적인 이해관계자가 있습니다:
- 틱톡에서 음악을 재생하는 음악 아티스트
- 틱톡에 참여함으로써 혜택을 받는 인플루언서
- 학교, 학생들이 TikTok에서 보는 콘텐츠의 영향을 받기 때문에
이 동영상에서는 이해관계자와 윤리적 기술을 만들기 위한 기타 핵심 사항에 대해 자세히 설명합니다.
앱을 개발할 때 고려해야 할 몇 가지 사항은 다음과 같습니다.
- 앱이 사용자 데이터를 수집하나요?
- 사용자가 이를 알고 있나요?
- 데이터 수집 권한이 있나요?
- 데이터를 비공개로 유지하기 위해 어떤 조치를 취하고 있나요?
- 앱에서 제공하는 조언이나 정보가 정확한가요?
- 어떻게 알 수 있나요?

앱 예제
식물이 잡초인지 아닌지를 예측하는 위드 디텍터라는 모바일 앱이 있다고 상상해 보세요. 위드 디텍터 앱에서 윤리와 관련하여 고려해야 할 사항을 단계별로 살펴봅시다.
데이터 세트가 분류할 개체를 대표할 수 있는지 확인합니다.


데이터는 앱이 사용되는 인구를 반영해야 합니다. 데이터에 편향성이 있는 경우 앱에 사용되는 AI 모델이 실수를 할 수 있습니다.
데이터 세트에 사막에서 발견되는 잡초 이미지만 포함되어 있다면 어떻게 해야 할까요?
물 근처에서 발견되는 식물에 앱을 사용하면 해당 유형의 식물 이미지를 사용하여 학습되지 않았기 때문에 작동하지 않을 수 있습니다.
이 앱에는 사막 식물에 대한 편견이 있습니다!
앱에서 코딩할 각 결정에 대해 생각해 보세요.
원래 의도하지 않았던 결정을 내릴 수 있나요?
잡초 탐지기가 토마토 식물을 잡초로 인식하면 어떻게 되나요? 토마토를 먹으려던 사람들과 정원에 있는 곤충에게 부정적인 영향을 미칠 수 있습니다.
이 식물들 중 어떤 것이 잡초인지 구분할 수 있나요? 잘 모르겠다면 어떻게 하시겠어요?
사람들이 정원에서 앱을 사용할 때 앱이 사람들의 집 위치에 대한 데이터를 수집할 수도 있습니다. 사람들의 집 위치에 대한 민감한 정보를 공유할 수 있습니다. 이는 문제입니다!
앱이 공유하는 정보는 신중하게 고려해야 합니다. 사용자들은 여러분의 프로젝트가 자신의 정보를 존중하고 오용하지 않을 것이라고 믿어야 합니다. 낯선 사람이 여러분의 비밀을 알게 된다면 어떤 기분이 드시나요?
개발자로서 우리는 책임을 집니다. 책임을 지고 있으며, 우리의 발명이 미칠 수 있는 잠재적 영향력을 항상 염두에 두어야 합니다.
활동: 윤리적 여정
앱이 긍정적인 영향만 미치도록 하기
- 직접 및 간접 이해관계자가 누구인지 파악하세요.
- 질문의 순서도를 따라 프로젝트가 긍정적인 영향력만 미칠 수 있도록 최선을 다하고 있는지 확인하세요.
돌아보기
이제 윤리에 대해 자세히 알아보고 프로젝트가 긍정적인 영향력만 미치도록 하기 위한 여러분의 역할을 살펴보았으니, 다음 질문을 고려해 보세요:

주요 용어 검토
- 윤리 - 사람들이 옳고 그름을 결정하는 방식에 영향을 미치는 일련의 도덕적 원칙
- 편견 - 어떤 사람이나 집단에 대해 종종 불공평하게 생각하는 선입견을 말합니다.
- 이해관계자 - 조직 또는 비즈니스의 결정이나 조치에 영향을 받거나 영향을 받을 수 있는 사람 또는 단체
추가 리소스
기술의 윤리와 긍정적인 영향력에 대한 더 많은 동영상을 확인하세요.
자신이 만든 기술의 영향을 고려하는 것이 왜 중요한지에 대한 좋은 설명입니다.
젠더 셰이드 프로젝트는 AI를 위한 포괄적인 제품 테스트를 장려합니다.