- Узнайте, почему этика ИИ важна для ответственного подхода к инновациям.
- Понять общие этические проблемы, такие как предвзятость, конфиденциальность, прозрачность и т.д.
- Понять концепцию ответственных исследований и инноваций (RRI) и то, как ее можно интегрировать в этический план вашего проекта.
- Узнайте, как обеспечить справедливость, точность и подотчетность систем искусственного интеллекта.
- Поразмышляйте над тем, как этическое мышление может быть встроено в ваш собственный проект ИИ с самого начала, и считайте это постоянным процессом.
Этика в искусственном интеллекте
По мере того как ИИ становится все более мощным, мы должны понимать возможности имеющихся у нас инструментов и думать о более широких последствиях того, что мы создаем. ИИ может быть несправедливым, допускать ошибки и, в случае неправомерного использования, причинять вред. Именно поэтому мы, как разработчики и предприниматели, должны подходить к своей работе с особой внимательностью.
Когда мы слышим слово «этика», оно может показаться немного формальным или сложным, но на самом деле речь идет о том, чтобы задавать вопросы.
«Это справедливо? Кому это может помочь, а кому навредить?»
Вывод: ИИ — это технология, созданная людьми, вместе с нашими предубеждениями о том, какие действия должны быть приоритетными, на каких данных он должен учиться и что считается успехом. Даже при самых благих намерениях ИИ по своей сути несовершенен. Главное — понимать, где он может дать сбой, и использовать его ответственно.
Этика искусственного интеллекта в вашем проекте
На ранних этапах проекта не рано начинать задумываться о том, какую роль этика будет играть в вашем окончательном решении. Вот несколько принципов, которые можно использовать в качестве руководства для глубокого и конкретного размышления об этике проектов в области ИИ, и в частности вашего проекта. Прочитайте и обдумайте вопросы, которые относятся к вашему проекту.
Не навреди
Простой, но мощный. Несмотря на то что большинство разработчиков никогда не стремятся причинить вред, влияние ИИ часто выходит за рамки ожидаемого. Система может принимать решения или давать рекомендации, которые на первый взгляд кажутся полезными, но при масштабировании могут непреднамеренно поставить людей в невыгодное положение или ввести их в заблуждение.
Принцип «не навреди» означает постоянный вопрос о том , что может пойти не так с вашей технологией, кто может пострадать и какие системы существуют для минимизации риска.
Пример: Приложение для обеспечения общественной безопасности, которое пошло не по плану
❌ Проблема
Команда разработчиков разрабатывает приложение для обеспечения общественной безопасности на основе искусственного интеллекта, которое предупреждает пользователей о "потенциально опасных ситуациях" поблизости, используя данные из социальных сетей и местные сообщения. Цель - сделать районы более безопасными, помогая людям оставаться в курсе событий и избегать риска.
Однако пользователи и общественные группы заметили тревожную тенденцию: приложение отправляет больше предупреждений в районы с большим количеством маргинального населения, даже если никаких инцидентов не происходит. Натренированный на необъективных исторических данных и языковых шаблонах, искусственный интеллект научился ассоциировать определенные районы и слова с опасностью.
Хотя разработчики не собирались укреплять стереотипы, вред был нанесен - приложение стигматизировало сообщества и усиливало социальное разделение и недоверие.
✅ Лучший подход
Эта команда привлекла к процессу разработки не только ученых, но и членов сообщества из разных районов. Они протестировали свою модель в разных демографических районах и провели измерения на предмет предвзятости.
Вместо того чтобы полагаться на настроения в социальных сетях, они использовали прозрачные источники данных, такие как официальные полицейские отчеты. Каждое оповещение включало пояснение (например, "Оповещение основано на: 3 сообщениях о взломах на этой неделе") и функцию, позволяющую пользователям отмечать ложные или необъективные оповещения.
В результате приложение повысило осведомленность сообщества, НЕ стигматизируя при этом определенные районы. Когда обнаруживались предвзятость (оповещения, сконцентрированные в определенных районах), они исследовали и исправляли данные и обновляли модель.
- Какие специальные встроенные системы позволяют быстро обнаруживать такие сбои и минимизировать возникающие риски?
Предвзятость и справедливость
ИИ в конечном итоге является творением человека и может отражать предположения и приоритеты своих разработчиков. Если данные, используемые для обучения ИИ, собираются через призму предвзятости, они могут укрепить неверные предположения, а результаты могут быть искажены так, что их трудно предугадать.
Пример: Предвзятость при приеме на работу
В этом исследовании было обнаружено, что инструменты искусственного интеллекта, предназначенные для облегчения обработки заявок на работу, имеют предубеждения, связанные с восприятием расы и пола. Инструменты ИИ отдавали предпочтение кавказским именам, связанным с мужчинами. Учитывая широкое внедрение ИИ в процесс найма, это открытие ставит под сомнение справедливость таких инструментов.
Для устранения предвзятости необходимы осознанность, рефлексия и целенаправленные действия. Пользователи должны критически и скептически относиться к результатам работы ИИ. Разработчики должны анализировать используемые данные, подвергать сомнению допущения, лежащие в основе их моделей, и проверять результаты на справедливость в отношении различных групп. Иногда это означает учет различных точек зрения при проектировании, аудит моделей на предмет несопоставимых результатов или корректировку алгоритмов для устранения дисбаланса.
- Какие конкретные шаги будут предприняты на этапе сбора данных и маркировки?
- Как вы обеспечите значимую интеграцию различных точек зрения на этапах разработки, тестирования и аудита модели ИИ?
Конфиденциальность и данные
Для эффективной работы искусственного интеллекта часто используются большие объемы персональных данных. Хотя эти данные помогают ИИ предоставлять полезные рекомендации или услуги, они также поднимают важные этические вопросы о неприкосновенности частной жизни.
Например, приложение, которое отслеживает активность пользователя, чтобы предложить ему местные услуги, может случайно раскрыть конфиденциальные данные о его привычках, предпочтениях или убеждениях. Эти данные могут быть использованы не по назначению, если попадут в чужие руки, или даже тонко повлиять на отношение к пользователю со стороны других алгоритмов.
-
Собирайте только то, что вам нужно
Ограничьте сбор данных только той информацией, которая необходима для работы вашего приложения.
-
Получите четкое согласие
Убедитесь, что пользователи понимают, какие данные собираются и зачем, и предложите им возможность отказаться от их использования.
-
По возможности анонимизируйте данные
Удалите персональную информацию, чтобы снизить риск, если данные будут раскрыты.
-
Надежное хранение данных
Используйте шифрование, безопасные серверы и строгий контроль доступа для защиты пользовательской информации.
-
Будьте прозрачны
Четко объясните, какие данные собираются, как они используются и кто может получить к ним доступ.
-
Предоставьте пользователям контроль
Предоставьте пользователям возможность просматривать, редактировать или удалять свои данные.
-
Рассмотрите последствия для последующего развития
Подумайте о том, как собранные данные могут быть использованы за пределами вашего приложения, и о возможных последствиях.
- Как вы разработаете пользовательский интерфейс и процесс получения согласия, чтобы пользователи давали действительно информированное согласие?
- Какие многоуровневые меры безопасности вы будете применять для защиты данных?
Точность и человеческий контроль
ИИ может быть невероятно мощным, но даже самые сложные модели могут допускать ошибки. Одним из примеров являются «галлюцинации ИИ», когда система с уверенностью генерирует информацию, которая является полностью ложной или сфабрикованной.
Эти ошибки могут возникать из-за того, что ИИ обучается на неполных данных, основанных на ошибочных предположениях, или склонен генерировать результаты, которые удовлетворяют пользователя, даже если они неверны. Именно поэтому так важен контроль со стороны человека. К результатам ИИ следует подходить с критическим подходом: оценивать, подвергать сомнению и контекстуализировать то, что производит система.
Вместо того чтобы рассматривать ИИ как непогрешимый авторитет, его следует рассматривать как инструмент, который расширяет возможности суждения, предоставляя аналитическую информацию, но оставляя окончательную ответственность в руках человека. Например, представьте себе систему ИИ, которая генерирует резюме медицинских статей для приложения в сфере здравоохранения. Если ИИ «придумывает» детали, которых нет в исходном материале, пользователи могут принимать решения на основе ложной информации. Человек-рецензент, который обнаруживает и исправляет эти ошибки, может предотвратить серьезный вред, прежде чем он затронет реальных людей.
- Кто будет проверять результаты?
- Как будут выявляться и устраняться ошибки?
Прозрачность и объяснимость
Как разработчики, так и пользователи должны понимать, как ИИ пришел к тому или иному решению или рекомендации — логику алгоритмов, как был обучен ИИ, как обрабатывались и маркировались данные, и как оценивается эффективность модели.
Поскольку ИИ все чаще используется для принятия важных решений (таких как найм на работу, медицинские диагнозы, одобрение кредитов или инвестиционные рекомендации), неточные или предвзятые результаты могут иметь серьезные последствия, влияя на карьеру, финансы или даже здоровье и безопасность.
Вы можете использовать простые визуализации, краткие текстовые пояснения или интерактивные демонстрации, чтобы показать, как работает ваша система. Главное — дать пользователям достаточно информации, чтобы они могли принимать обоснованные решения, задавать вопросы и понимать логику, лежащую в основе результатов работы вашего ИИ.
- Как сделать решения ИИ понятными и доступными для пользователей?
Доступность и инклюзивность
ИИ должен работать для всех, включая людей с ограниченными возможностями, тех, кто не говорит по-английски, тех, у кого нет высокоскоростного интернета, и тех, кто не знаком с технологиями.
- Будут ли существовать визуальные интерфейсы, которые могут исключить слепых пользователей?
- Как быть с аудиовводами, которые могут исключить глухих пользователей?
- Обладают ли ваши пользователи техническими знаниями, чтобы легко ориентироваться и эффективно использовать ваш продукт?
- Будете ли вы принимать во внимание неанглоязычных пользователей вашего приложения?
Воздействие на окружающую среду
Несмотря на то что искусственный интеллект удивителен и способен изменить жизнь людей, он также требует определенных затрат. Обучение моделей ИИ требует значительных вычислительных мощностей, что влияет на окружающую среду. Даже если ваш первоначальный проект может не оказывать существенного влияния на окружающую среду, вы должны учитывать, что эта проблема может выйти на первый план по мере расширения проекта.
945 ТВтч к 2030 году
По прогнозам, к 2030 году центры обработки данных, обеспечивающие работу систем искусственного интеллекта, будут потреблять около 945 тераватт-часов электроэнергии — это превышает годовой объем потребления всей Японии. По данным Международного энергетического агентства, 60 % этой энергии по-прежнему будет производиться за счет ископаемого топлива.
- Как можно использовать существующие модели машинного обучения вместо того, чтобы создавать свои собственные?
- Как можно оптимизировать модель и использовать меньше данных?
Влияние на рынок труда
ИИ автоматизирует многие задачи, которые раньше выполнялись людьми. Ваш проект может нанести непреднамеренный вред, заставив людей потерять работу и доход.
- Заменит ли он человеческие рабочие места, и если да, то что будет с этими работниками?
- Кто получит экономическую выгоду, а кто может оказаться в невыгодном положении?
Правила, которые вы должны знать
Этический дизайн не ограничивается техническими нормами, а гарантирует, что ваш продукт будет честным и заслуживающим доверия. Однако существуют правила и законы, которым вы должны следовать при запуске новых технологий.
Если ваш искусственный интеллект работает с персональными данными:
- GDPR (Европа): строгие правила конфиденциальности и защиты данных
- CCPA (Калифорния): права потребителей на конфиденциальность
- COPPA (США): защита данных о детях
- HIPAA (США): защита данных в здравоохранении
Если в вашем проекте используется искусственный интеллект:
- Закон ЕС об искусственном интеллекте (2024 год): Классифицирует системы ИИ по степени риска (низкий, высокий, неприемлемый). Системы с высоким уровнем риска - используемые в сфере найма, образования, здравоохранения - должны соответствовать строгим правилам прозрачности, тестирования и документирования.y
- Билль о правах ИИ в США: Пока еще не закон, но в нем изложены такие принципы, как защита от предвзятости алгоритмов, конфиденциальность данных и альтернативные варианты принятия важных решений человеком.
- Другие рамочные документы: Канадский закон об ИИ и данных, Сингапурская модель управления ИИ и Принципы ИИ ОЭСР - все они подчеркивают подотчетность, справедливость и объяснимость.
- Интеллектуальная собственность (ИС): Будьте осторожны с генеративным ИИ, который может создавать контент, защищенный авторским правом. Избегайте использования материалов, защищенных авторским правом, в обучающих наборах данных для собственных моделей.
Быть этичным разработчиком- это путешествие
ИИ - мощный инструмент, но он никогда не бывает совершенным. Модели развиваются, учатся на новых данных и взаимодействуют с пользователями таким образом, что это может привести к неожиданным результатам. Это означает, что этические аспекты не являются одноразовым контрольным списком, а требуют постоянного внимания.
Помните, что цель состоит не только в том, чтобы создать решение ИИ, которое работает сегодня, но и в том, чтобы оно продолжало работать честно, безопасно и выгодно завтра и далее.
Вы и ваша команда должны всегда задавать себе вопрос: «Что мы можем сделать сейчас, чтобы наш продукт стал еще более ответственным?» Ваши ценности или контекст могут меняться со временем, поэтому вам необходимо постоянно заниматься этим размышлением.
Помните следующие советы:
- Продолжайте учиться: совершенствуйте свои навыки, задавайте вопросы и думайте о том, как сделать свой продукт более ответственным.
- Всегда стремитесь делать добро: речь идет не только об избегании плохих поступков, но и о сознательном стремлении помогать своему сообществу добрым и справедливым образом.
- Включите это в план: выделите время и силы для работы над этическими аспектами, так же как вы делаете это для разработки внешнего вида продукта или написания кода.
- Имейте лидера команды RRI: кого-то, кто будет напоминать всем о необходимости думать об ответственности, особенно когда вы все заняты и увлечены новыми идеями.
- Ищите поддержку: не бойтесь обращаться за помощью к коллегам, наставникам, пользователям или профессионалам, если у вас возникают сомнения относительно этичности каких-либо аспектов вашего бизнеса.
ЗАДАНИЕ 1
Ваш постоянный план действий по этике ИИ
Предполагаемое время: 30 минут
Этичная разработка — это постоянный путь. Используйте вопросы в рабочем листе, чтобы подумать о том, как вы будете решать этические проблемы в своем проекте.
Не забывайте о любопытстве! Мир ИИ постоянно меняется, и быть великим новатором - значит постоянно учиться. Теперь у вас есть все необходимое, чтобы не только создать нечто потрясающее, но и этично направить его в будущее.
Дополнительные ресурсы
В этом докладе профессор Стюарт Рассел глубже погружается в этику ИИ и подчеркивает важность ответственного проектирования, контроля и учета влияния на общество.
