- 책임감 있는 혁신을 위해 AI 윤리가 필수적인 이유를 알아보세요.
- 편견, 개인정보 보호, 투명성 등과 같은 일반적인 윤리적 문제를 이해합니다.
- 책임 있는 연구 및 혁신(RRI) 프레임워크를 이해하고 이를 프로젝트의 윤리 계획에 통합하는 방법을 파악하십시오.
- 인공지능 시스템이 공정하고 정확하며 책임감 있게 유지되도록 하는 방법을 알아보세요.
- 시작 단계부터 윤리적 사고를 AI 프로젝트에 어떻게 접목할 수 있을지 고민하고 이를 지속적인 프로세스라고 생각하세요.
AI의 윤리
인공지능이 더욱 강력해짐에 따라, 우리는 보유한 도구의 범위를 이해하고 창조물이 미치는 광범위한 영향을 고려해야 합니다. 인공지능은 불공정할 수 있고, 실수를 저지를 수 있으며, 오용될 경우 해를 끼칠 수 있습니다. 바로 이 때문에 개발자이자 기업가인 우리는 신중하게 업무에 임해야 합니다.
"윤리"라는 말을 들으면 다소 딱딱하거나 복잡하게 느껴질 수 있지만, 사실은 질문을 던지는 것에 관한 것입니다.
“이게 공정한 일일까요? 이 조치가 누구에게 도움이 되고, 누구에게 해가 될까요?”
결론적으로: 인공지능은 인간이 만든 기술이며, 어떤 행동을 우선시해야 하는지, 어떤 데이터를 학습해야 하는지, 그리고 성공을 어떻게 정의할지에 대한 우리의 편견이 함께 담겨 있습니다. 아무리 선의로 개발하더라도 인공지능은 본질적으로 불완전합니다. 핵심은 어디서 문제가 발생할 수 있는지 인식하고 책임감 있게 활용하는 데 있습니다.
프로젝트에서의 AI 윤리
프로젝트 초기 단계에 있을 때, 윤리가 최종 솔루션에 어떻게 반영될지 고민하기에는 결코 이르지 않습니다. 다음은 AI 프로젝트, 특히 여러분의 프로젝트에 대한 윤리적 문제를 깊이 있고 구체적으로 고민하는 데 활용할 수 있는 지침 원칙들입니다. 각 질문이 여러분의 프로젝트와 어떻게 연관되는지 읽어보고 깊이 생각해 보십시오.
해가 되지 말라
간단하지만 강력합니다. 대부분의 크리에이터가 피해를 입히려는 의도는 없지만, AI의 영향은 종종 예상보다 훨씬 더 광범위합니다. 시스템이 겉으로 보기에는 도움이 되는 결정이나 추천을 내릴 수 있지만, 이를 확장하면 의도치 않게 사람들에게 불이익을 주거나 오해를 불러일으킬 수 있습니다.
"해를 끼치지 않는다"는 것은 기술이 어떻게 잘못될 수 있는지, 누가 영향을 받을 수 있는지, 위험을 최소화하기 위해 어떤 시스템이 마련되어 있는지 지속적으로 질문하는 것을 의미합니다 .
예시: 커뮤니티 안전 앱이 잘못되었습니다.
❌ 문제
한 팀이 소셜 미디어와 지역 신고의 데이터를 사용하여 사용자에게 주변의 '잠재적으로 위험한 상황'을 알려주는 AI 기반 커뮤니티 안전 앱을 개발합니다. 이 팀의 목표는 사람들이 위험을 인지하고 피할 수 있도록 도와 동네를 더 안전하게 만드는 것입니다.
하지만 사용자와 커뮤니티 그룹은 앱이 사건이 발생하지 않았는데도 소외된 인구가 많은 지역에 더 많은 알림을 보내는 문제점을 발견했습니다. 편향된 과거 데이터와 언어 패턴을 학습한 AI는 특정 지역과 단어를 위험과 연관시키는 방법을 배웠습니다.
개발자가 고정관념을 강화하려는 의도는 아니었지만, 앱이 커뮤니티에 낙인을 찍고 사회적 분열과 불신을 조장하는 등 그 피해는 고스란히 피해자에게 돌아갔습니다.
✅ 더 나은 접근 방식
이 팀은 데이터 과학자뿐만 아니라 다양한 지역의 커뮤니티 구성원을 설계 과정에 참여시켰습니다. 인구 통계학적 영역에서 모델을 테스트하고 편향성을 측정했습니다.
소셜 미디어의 감정에 의존하는 대신 공식 경찰 보고서와 같은 투명한 데이터 소스를 사용했습니다. 각 알림에는 설명(예: "이번 주에 보고된 침입 신고 3건 기준 알림")과 사용자가 허위 또는 편향된 알림을 신고할 수 있는 기능이 포함되어 있습니다.
그 결과, 해당 앱은 특정 지역을 낙인찍지 않으면서도 지역사회 인식을 개선했습니다. 편향이 감지될 경우(특정 지역에 집중된 경보), 데이터를 조사 및 수정하고 모델을 업데이트했습니다.
- 이러한 장애를 신속하게 감지하고 그로 인한 위험을 최소화하기 위한 구체적인 기본 제공 시스템에는 어떤 것이 있나요?
편향과 공정성
AI는 궁극적으로 인간이 만든 것이므로 개발자의 가정과 우선순위가 반영될 수 있습니다. AI 학습에 사용되는 데이터가 편향된 렌즈를 통해 수집되면 잘못된 가정을 강화할 수 있으며, 예상하기 어려운 방식으로 결과가 왜곡될 수 있습니다.
예시: 채용 편향성
이 연구에서는 입사 지원서 처리를 용이하게 하기 위한 AI 도구가 인식된 인종 및 성별과 관련된 편견을 가지고 있다는 사실이 밝혀졌습니다. AI 도구는 백인 남성과 관련된 이름을 크게 선호했습니다. 채용 프로세스 전반에 걸쳐 AI가 광범위하게 도입되고 있는 상황에서 이 발견은 이러한 도구의 공정성에 의문을 제기합니다.
편향을 해결하려면 인식, 성찰, 그리고 의도적인 행동이 필요합니다. 사용자는 AI가 생성하는 결과물에 대해 비판적이고 회의적인 태도를 가져야 합니다. 개발자는 사용하는 데이터를 검토하고, 모델의 기반이 되는 가정을 의심하며, 다양한 집단에 걸쳐 결과물의 공정성을 테스트해야 합니다. 때로는 설계 과정에서 다양한 관점을 도입하거나, 불균형한 결과를 방지하기 위해 모델을 감사하거나, 불균형을 바로잡기 위해 알고리즘을 조정하는 것을 의미하기도 합니다.
- 데이터 수집 및 라벨링 단계에서는 어떤 구체적인 단계가 진행되나요?
- AI 모델의 설계, 테스트 및 감사 단계에 다양한 관점이 의미 있게 통합되도록 하려면 어떻게 해야 할까요?
개인정보 및 데이터
AI는 효과적으로 작동하기 위해 대량의 개인 데이터에 의존하는 경우가 많습니다. 이러한 데이터는 AI가 유용한 추천이나 서비스를 제공하는 데 도움이 되지만, 개인정보 보호에 관한 중요한 윤리적 문제를 제기하기도 합니다.
예를 들어, 사용자 활동을 추적하여 지역 서비스를 추천하는 앱은 사용자의 일상, 선호도 또는 신념에 대한 민감한 세부 정보를 실수로 노출할 수 있습니다. 이러한 세부 정보가 악의적인 사용자의 손에 들어가면 오용될 수 있으며, 다른 곳의 알고리즘이 사용자를 대하는 방식에 미묘한 영향을 미칠 수도 있습니다.
-
필요한 것만 수집하세요
데이터 수집은 앱 작동에 필요한 정보로 제한하세요.
-
명확한 동의 얻기
사용자가 어떤 데이터가 수집되고 왜 수집되는지 이해하고 동의 또는 거부할 수 있는 옵션을 제공해야 합니다.
-
가능한 경우 데이터 익명화
개인 식별 정보를 제거하여 데이터가 노출될 경우의 위험을 줄이세요.
-
데이터를 안전하게 저장
암호화, 보안 서버, 강력한 액세스 제어를 사용하여 사용자 정보를 보호하세요.
-
투명성 확보
어떤 데이터가 수집되고, 어떻게 사용되며, 누가 액세스할 수 있는지 명확하게 전달하세요.
-
사용자에게 제어 권한 부여
사용자가 자신의 데이터를 검토, 수정 또는 삭제할 수 있도록 허용합니다.
-
다운스트림 결과 고려
수집된 데이터가 앱 외부에서 어떻게 사용될 수 있는지와 잠재적인 영향에 대해 생각해 보세요.
- 사용자 인터페이스와 동의 프로세스를 어떻게 설계하여 사용자가 진정한 정보에 입각한 동의를 하도록 할 것인가요?
- 데이터를 보호하기 위해 어떤 계층화된 보안 조치를 구현할 예정인가요?
정확성과 인간의 감독
인공지능은 놀라울 정도로 강력할 수 있지만, 가장 정교한 모델조차도 실수를 할 수 있습니다. 한 가지 예로 'AI 환각'이 있는데, 이는 시스템이 완전히 거짓이거나 조작된 정보를 확신에 차서 생성하는 현상을 말합니다.
이러한 오류는 AI가 불완전한 데이터로 훈련되었거나, 잘못된 가정에 기반했거나, 사용자를 만족시키기 위해 출력을 생성하는 데 편향되어 발생할 수 있습니다. 심지어 그 결과가 틀렸더라도 말이죠. 바로 이 때문에 인간의 감독이 필수적입니다. AI 출력물은 비판적 접근 방식으로 다뤄져야 합니다: 시스템이 생성한 내용을 평가하고, 의문을 제기하며, 맥락을 고려하는 태도로 접근해야 합니다.
인공지능을 오류가 없는 권위자로 취급하기보다는 판단력을 보완하는 도구로 활용해야 한다. 즉, 통찰력을 제공하면서도 최종 책임은 인간에게 남겨두어야 한다. 예를 들어, 의료 앱을 위해 의학 논문 요약문을 생성하는 인공지능 시스템을 상상해 보자. 만약 인공지능이 원본 자료에 없는 세부 사항을 허위로 생성한다면, 사용자는 잘못된 정보를 바탕으로 결정을 내릴 수 있다. 이러한 오류를 발견하고 수정하는 인간 검토자가 있다면 실제 사람들에게 피해가 미치기 전에 심각한 피해를 막을 수 있다.
- 결과물은 누가 확인하나요?
- 실수는 어떻게 플래그가 지정되고 해결되나요?
투명성과 설명 가능성
인공지능을 구축하는 사람과 사용하는 사람 모두 AI가 특정 추천이나 결정을 내린 방식을 이해할 수 있어야 합니다. 즉, 알고리즘의 논리, AI의 훈련 방식, 데이터 처리 및 라벨링 방법, 모델 성능 평가 방식 등을 이해할 수 있어야 합니다.
인공지능이 채용, 의료 진단, 대출 승인, 투자 권고 등 중대한 의사 결정에 점점 더 많이 활용됨에 따라, 부정확하거나 편향된 결과는 경력, 재정, 심지어 건강과 안전에까지 영향을 미쳐 심각한 결과를 초래할 수 있습니다.
시스템 작동 방식을 보여주기 위해 간단한 시각화 자료, 간결한 텍스트 설명 또는 인터랙티브 데모를 활용할 수 있습니다. 핵심은 사용자에게 충분한 통찰력을 제공하여 정보에 기반한 결정을 내리고, 질문을 제기하며, AI 출력 결과의 근거를 이해할 수 있도록 하는 것입니다.
- AI의 결정을 사용자가 명확하고 이해하기 쉽게 하려면 어떻게 해야 할까요?
접근성과 포용성
AI는 장애인, 영어를 못하는 사람, 초고속 인터넷이 없는 사람, 기술에 익숙하지 않은 사람 등 모든 사람을 위해 작동해야 합니다.
- 시각 장애인을 배제할 수 있는 시각적 인터페이스가 있나요?
- 청각 장애가 있는 사용자를 배제할 수 있는 오디오 입력은 어떻게 하나요?
- 사용자가 제품을 쉽게 탐색하고 효율적으로 사용할 수 있는 기술 지식을 갖추고 있나요?
- 앱을 사용하는 비영어권 사용자도 고려하시나요?
환경 영향
AI는 놀랍고 사람들의 삶을 변화시킬 수 있지만, 그에 따른 대가도 따릅니다. AI 모델을 훈련하려면 상당한 연산 능력이 필요하며, 이는 환경에 영향을 미칩니다. 초기 프로젝트는 환경에 큰 영향을 미치지 않더라도 프로젝트가 확장됨에 따라 이 문제가 전면에 부상할 수 있다는 점을 고려해야 합니다.
2030년까지 945 TWh
2030년까지 AI를 구동하는 데이터 센터 의 전력 소비량은 약 945테라와트시에 달할 것으로 예상되며 , 이는 일본의 연간 총 전력 소비량보다 많은 수치다. 국제에너지기구(IEA)에 따르면, 이 에너지의 60%는 여전히 화석 연료에 의존할 것으로 보인다.
- 직접 학습하는 대신 기존 머신러닝 모델을 어떻게 활용할 수 있을까요?
- 어떻게 하면 모델을 최적화하고 데이터를 더 적게 사용할 수 있을까요?
노동 영향
인공지능은 이전에 사람이 수행하던 많은 작업을 자동화합니다. 이 프로젝트는 사람들의 일자리와 수입을 잃게 하여 의도하지 않은 피해를 야기할 수 있습니다.
- 인공지능이 인간의 일자리를 대체할 수 있으며, 대체한다면 해당 근로자는 어떻게 될까요?
- 누가 경제적으로 혜택을 받고 누가 불이익을 받을 수 있을까요?
알아야 할 규정
윤리적 디자인은 기술적으로 합법적인 것을 넘어 공정하고 신뢰할 수 있는 제품을 만들기 위한 것입니다. 하지만 새로운 기술을 출시할 때 반드시 지켜야 하는 규정과 법률이 있습니다.
AI가 개인 데이터를 처리하는 경우:
- GDPR(유럽): 엄격한 개인정보 보호 및 데이터 보호 규칙
- CCPA(캘리포니아): 소비자 개인정보 보호 권리
- COPPA(미국): 아동 데이터 보호
- HIPAA(미국): 의료 데이터 보호
프로젝트에서 AI를 사용하는 경우:
- EU AI 법(2024): 위험도(낮음, 높음, 허용 불가)에 따라 AI 시스템을 분류합니다. 채용, 교육, 의료 분야에 사용되는 고위험 시스템은 엄격한 투명성, 테스트 및 문서화 규칙을 충족해야 합니다.y
- 미국 AI 권리장전: 아직 법률은 아니지만 알고리즘 편향으로부터의 보호, 데이터 프라이버시, 중요한 결정에 대한 인간의 대안과 같은 원칙을 개괄적으로 설명합니다.
- 기타 프레임워크: 캐나다의 AI 및 데이터법, 싱가포르의 모델 AI 거버넌스 프레임워크, OECD AI 원칙은 모두 책임성, 공정성, 설명 가능성을 강조합니다.
- 지적 재산권(IP): 저작권이 있는 콘텐츠를 생성할 수 있는 생성형 AI는 주의해서 사용하세요. 자체 모델의 학습 데이터세트에 저작권이 있는 자료를 사용하지 마세요.
윤리적 크리에이터가 되는 것은 여정입니다.
AI는 강력하지만 결코 완벽하지 않습니다. 모델은 진화하고, 새로운 데이터를 통해 학습하며, 사용자와 상호 작용하는 방식으로 예상치 못한 결과를 낳을 수 있습니다. 따라서 윤리적 고려 사항은 일회성 체크리스트가 아니라 지속적인 주의가 필요합니다.
목표는 단순히 현재 작동하는 AI 솔루션을 구축하는 것이 아니라, 내일과 그 이후에도 공정하고 안전하며 유익하게 작동하는 솔루션을 구축하는 것임을 기억하세요.
당신과 팀은 항상 스스로에게 물어야 합니다: "지금 당장 우리 제품을 더욱 책임감 있게 만들기 위해 무엇을 할 수 있을까?" 가치관 이나 상황 은 시간이 지남에 따라 변할 수 있으므로, 이러한 성찰을 지속적으로 수행해야 합니다.
다음 팁을 기억하세요:
- 계속 배우세요: 기술을 향상시키고, 질문하며, 제품을 더 책임감 있게 만드는 방법을 고민하세요.
- 항상 선을 행하려 노력하라: 단순히 나쁜 일을 피하는 것이 아니라, 친절하고 공정한 방식으로 지역사회를 돕겠다는 의도적인 사명을 지니는 것이다.
- 계획의 일부로 삼으세요: 제품 디자인이나 코드 작성에 할애하는 것처럼 윤리에도 시간과 에너지를 할당하세요.
- 팀 RRI 리더 지정하기: 특히 모두가 바쁘고 새로운 아이디어에 열광할 때, 책임감 있게 행동하도록 상기시켜 줄 사람을 두세요.
- 지원을 구하세요: 비즈니스와 관련해 윤리적인 문제가 있는지 의문이 들면 동료, 멘토, 사용자 또는 전문가에게 도움을 요청하는 것을 주저하지 마십시오.
활동 1
지속적인 AI 윤리 실행 계획
예상 시간: 30분
윤리적으로 구축하는 것은 지속적인 여정입니다. 워크시트의 질문을 사용하여 프로젝트에서 윤리적 문제를 어떻게 관리할지 생각해 보세요.
호기심을 잃지 마세요! AI 세계는 항상 변화하고 있으며, 훌륭한 혁신가가 된다는 것은 항상 학습하는 자세를 유지해야 한다는 뜻입니다. 이제 여러분은 놀라운 무언가를 구축할 뿐만 아니라 윤리적으로 미래를 이끌어갈 수 있는 역량을 갖추게 되었습니다.
추가 리소스
스튜어트 러셀 교수는 이 강연에서 AI의 윤리에 대해 자세히 알아보고 책임감 있는 설계, 감독, 사회적 영향에 대한 고려의 중요성을 더욱 강조합니다.
