- Рассмотрим этику технологий и искусственного интеллекта
- Убедитесь, что ваше приложение окажет положительное влияние на заинтересованные стороны
Вот задания для этого урока:
ЭТИКА И ДЕЙСТВИЯ
Что такое этика?
- Моральные принципы, касающиеся добра и зла
- Важное значение в мире технологий и искусственного интеллекта
- Вы не хотите причинить вред, даже если это произошло случайно.
- Ваш проект должен помогать людям и обществу
Что такое алгоритмическая предвзятость?
- Когда программист заставляет свою программу относиться к некоторым пользователям лучше, чем к другим
- или модель искусственного интеллекта обучается без использования различных образцов
- Создание несправедливых результатов для некоторых пользователей
- Это может быть не намеренно, но все равно может негативно повлиять на пользователей
Посмотрите это видео, чтобы узнать больше об алгоритмической предвзятости.
НЕГАТИВНОЕ ВЛИЯНИЕ ТЕХНОЛОГИЙ
Мы все используем технологии каждый день и часто не осознаем, что эти технологии на самом деле делают - как мы реагируем на них, как они влияют на нашу психику.
В октябре 2021 года стало известно, что компания Facebook (теперь Meta), проводя собственные исследования, знала о вреде, который она причиняет некоторым своим пользователям, но ничего не сделала, чтобы исправить ситуацию.
"Тридцать два процента девочек-подростков сказали, что когда они чувствовали себя плохо из-за своего тела, Instagram (принадлежащий Facebook) заставлял их чувствовать себя еще хуже", - пишут исследователи. Facebook также сообщил, что 14 % мальчиков в США заявили, что Instagram заставляет их чувствовать себя хуже по отношению к себе.
НЕ НАВРЕДИ
После выхода статьи в Wall Street Journal разоблачители из Facebook предоставили дополнительную информацию о том, что:
- Facebook способствовал распространению дезинформации
- игнорирование разжигания ненависти и незаконной деятельности со стороны некоторых пользователей.
Такие компании, как Facebook, имеют огромное влияние во всем мире и обязаны следить за тем, чтобы их программное обеспечение не приносило вреда.
Если вы только начинаете и не имеете такого охвата, как Facebook или Instagram, вам все равно нужно тщательно продумать, кто будет пользоваться вашим продуктом и как он может на них повлиять.
Пообещайте, что ваш проект будет иметь только положительный эффект!
УЧАСТНИКИ
При разработке проекта необходимо учитывать заинтересованные стороны.
Заинтересованные стороны Это люди или организации, на которых влияют решения или действия, предпринимаемые в рамках вашего проекта.
Прямые заинтересованные стороны
- ваши пользователи
Косвенные заинтересованные стороны
- люди или организации, которые на которых может повлиять ваша технология, но не обязательно напрямую.
Например, пользователи TikTok являются ее прямыми заинтересованными сторонами.
Но у него есть и косвенные заинтересованные стороны, такие как:
- музыкальные исполнители, чья музыка звучит на TikTok
- Инфлюенсеры, которым выгодно присутствие на TikTok
- Школы, потому что на учеников влияет то, что они смотрят на TikTok
В этом видеоролике более подробно рассказывается о заинтересованных сторонах, а также о других ключевых моментах создания этичных технологий.
Вот некоторые моменты, о которых стоит задуматься при разработке приложения.
- Собирает ли ваше приложение данные о пользователях?
- Знают ли об этом ваши пользователи?
- Есть ли у вас разрешение на сбор данных?
- Какие меры вы принимаете для сохранения конфиденциальности их данных?
- Являются ли советы или информация, которые вы предоставляете в своем приложении, точными?
- Откуда вы знаете?
ПРИМЕР ПРИЛОЖЕНИЯ
Представьте себе мобильное приложение под названием "Детектор сорняков", которое предсказывает, является ли растение сорняком или нет. Давайте разберемся, какие вопросы этики вы бы рассмотрели при работе с приложением "Детектор сорняков".
Убедитесь, что набор данных является репрезентативным для классифицируемых объектов.
Данные должны отражать население, на которое рассчитано приложение. Если ваши данные предвзяты, модель искусственного интеллекта, используемая в приложении, может ошибаться.
А если в наборе данных есть только изображения сорняков, встречающихся в пустыне?
Если мы будем использовать приложение для поиска растений, встречающихся вблизи воды, оно, скорее всего, не сработает, потому что оно не было обучено на изображениях этих видов растений.
В приложении есть предубеждение против пустынных растений!
Подумайте о каждом решении, которое вы будете принимать в коде своего приложения.
Есть ли решения, которые он может принять, но которые вы изначально не планировали?
Что если детектор сорняков определит растение томата как сорняк? Это может негативно сказаться на людях, которые планировали его съесть, и на насекомых в саду.
Можете ли вы определить, какое из этих растений является сорняком? Что бы вы сделали, если бы не были уверены?
Возможно, приложение собирает данные о местоположении домов людей, когда они пользуются приложением в своем саду. Оно может передавать конфиденциальную информацию о местонахождении домов людей - это проблема!
Информация, которой делится ваше приложение, должна быть тщательно продумана. Пользователи должны доверять вашему проекту, чтобы он уважал их информацию и не использовал ее не по назначению. Как бы вы себя чувствовали, если бы незнакомец каким-то образом узнал ваши секреты?
Как разработчики, мы несем ответственность Мы несем ответственность за то, как наши технологии взаимодействуют с людьми, и всегда должны помнить о потенциальном влиянии, которое могут оказать наши изобретения.
ДЕЯТЕЛЬНОСТЬ: ЭТИЧЕСКОЕ ПУТЕШЕСТВИЕ
Убедитесь, что ваше приложение оказывает только положительное влияние
- Определите, кто является вашими заинтересованными сторонами, как прямыми, так и косвенными.
- Следуйте схеме вопросов и проверьте, все ли вы делаете для того, чтобы ваш проект имел только положительное влияние.
РЕФЛЕКСИЯ
Теперь, когда вы узнали больше об этике и своей роли в том, чтобы ваш проект имел только положительное влияние, подумайте над этими вопросами:
ОБЗОР ОСНОВНЫХ ТЕРМИНОВ
- Этика - набор моральных принципов, которые влияют на то, как люди решают, что хорошо или плохо
- Предвзятость - предвзятое отношение к некоторым людям или группам, которое часто бывает несправедливым
- Заинтересованные стороны - Люди или организации, на которых влияют или могут повлиять решения или действия, предпринимаемые организацией или предприятием
ДОПОЛНИТЕЛЬНЫЕ РЕСУРСЫ
Вот еще видео об этике и позитивном влиянии технологий.
Хороший комментарий о том, почему важно учитывать влияние технологий, которые вы создаете.
Проект "Гендерные оттенки" способствует инклюзивному тестированию продуктов для искусственного интеллекта.
