- النظر في أخلاقيات التكنولوجيا والذكاء الاصطناعي
- تأكد من أن تطبيقك سيكون له تأثير إيجابي على أصحاب المصلحة فيه
هذه هي أنشطة هذا الدرس:
الأخلاقيات والإجراءات
ما هي الأخلاقيات؟
- المبادئ الأخلاقية حول ما هو صواب وخطأ
- مهم في عالم التكنولوجيا والذكاء الاصطناعي
- أنت لا تريد التسبب في ضرر، حتى لو عن طريق الخطأ
- يجب أن يساعد مشروعك الناس والمجتمع
ما هو التحيز الخوارزمي؟
- حيث يجعل المبرمج برنامجه يعامل بعض المستخدمين بشكل أفضل من الآخرين
- أو يتم تدريب نموذج الذكاء الاصطناعي دون استخدام عينات متنوعة
- خلق نتائج غير عادلة لبعض المستخدمين
- قد لا يكون ذلك مقصودًا ولكنه قد يؤثر سلبًا على المستخدمين
شاهد هذا الفيديو لمعرفة المزيد عن التحيز الخوارزمي.
التأثير السلبي للتكنولوجيا
جميعنا نستخدم التكنولوجيا كل يوم وغالباً ما نكون غير مدركين لما تفعله هذه التكنولوجيا في الواقع - كيف نتفاعل معها، وما الذي تفعله في نفسيتنا.
في أكتوبر، 2021، تم الكشف عن أن فيسبوك (Meta الآن)، من خلال أبحاثها الخاصة، كانت على علم بالضرر الذي كانت تسببه لبعض مستخدميها، ومع ذلك لم تفعل شيئًا لإصلاح الوضع.
وبحسب ما ورد كتب الباحثون: "قالت 32% من الفتيات المراهقات أنهن عندما شعرن بالسوء تجاه أجسادهن، جعلهن إنستغرام (المملوك من قبل فيسبوك) يشعرن بالسوء". كما ورد أن فيسبوك وجد أيضًا أن 14% من الفتيان في الولايات المتحدة قالوا إن إنستجرام جعلهم يشعرون بالسوء تجاه أنفسهم.
وول ستريت جورنال - ملفات فيسبوك
لا ضرر ولا ضرار
بعد مقال صحيفة وول ستريت جورنال، قدم المبلغون عن المخالفات على فيسبوك معلومات إضافية تفيد بأن
- روّج فيسبوك للمعلومات المضللة
- تجاهل خطاب الكراهية والنشاط غير القانوني من بعض المستخدمين.
إن شركات البرمجيات مثل فيسبوك مؤثرة جداً في جميع أنحاء العالم وعليها مسؤولية التأكد من أن برامجها لا تسبب أي ضرر.
على الرغم من أنك بدأت للتو وليس لديك مدى وصول فيسبوك أو إنستغرام، إلا أنك لا تزال بحاجة إلى التفكير بعناية في من سيستخدم منتجك وكيف يمكن أن يتأثروا به.
تعهد بأن يكون لمشروعك تأثير إيجابي فقط!
أصحاب المصلحة
أثناء قيامك بتطوير مشروعك، عليك أن تأخذ بعين الاعتبار أصحاب المصلحة.
أصحاب المصلحة هم الأشخاص أو الكيانات التي تتأثر بالقرارات أو الإجراءات التي يتخذها مشروعك.
أصحاب المصلحة المباشرين
- المستخدمون لديك
أصحاب المصلحة غير المباشرين
- الأشخاص أو المنظمات التي قد يتأثرون بتقنيتك، ولكن ليس بالضرورة بشكل مباشر.

على سبيل المثال، مستخدمو TikTok هم أصحاب المصلحة المباشرة فيها.
ولكن لديها بعض أصحاب المصلحة غير المباشرين، مثل:
- فنانو الموسيقى الذين يتم تشغيل موسيقاهم على TikTok
- المؤثرون الذين يستفيدون من التواجد على TikTok
- المدارس، لأن الطلاب يتأثرون بما يشاهدونه على TikTok
يشرح هذا الفيديو أصحاب المصلحة بمزيد من التفصيل، بالإضافة إلى نقاط رئيسية أخرى لصناعة التكنولوجيا الأخلاقية.
إليك بعض الأشياء التي يجب التفكير فيها أثناء تطوير تطبيقك.
- هل يقوم تطبيقك بجمع بيانات المستخدم؟
- هل يعرفها المستخدمون لديك؟
- هل لديك إذن بجمع البيانات؟
- ما هي الخطوات التي تتخذها للحفاظ على خصوصية بياناتهم؟
- هل النصائح أو المعلومات التي تقدمها في تطبيقك دقيقة؟
- ما أدراك؟

مثال على التطبيق
تخيل تطبيقاً للهاتف المحمول يسمى كاشف الحشائش الضارة يتنبأ بما إذا كانت نبتة ما عشبة ضارة أم لا. دعنا نستعرض ما يمكن أن تفكر فيه فيما يتعلق بالأخلاقيات مع تطبيق كاشف الأعشاب الضارة.
تأكد من أن مجموعة البيانات ممثلة للأشياء التي يتم تصنيفها.


يجب أن تعكس البيانات السكان الذين يتم استخدام التطبيق عليهم. إذا كانت بياناتك متحيزة، فقد يرتكب نموذج الذكاء الاصطناعي المستخدم في التطبيق أخطاء.
ماذا لو كانت مجموعة البيانات تحتوي فقط على صور الحشائش الموجودة في الصحراء؟
إذا استخدمنا التطبيق على النباتات الموجودة بالقرب من الماء، فمن المحتمل ألا يعمل، لأنه لم يتم تدريبه باستخدام صور لتلك الأنواع من النباتات.
التطبيق متحيز للنباتات الصحراوية!
فكّر في كل قرار ستقوم بترميز تطبيقك للقيام به.
هل هناك أي قرارات يمكن أن تتخذها لم تكن تنوي اتخاذها في الأصل؟
ماذا لو اكتشف كاشف الأعشاب الضارة أن نبتة الطماطم من الأعشاب الضارة؟ قد يؤثر ذلك سلباً على الأشخاص الذين يخططون لأكلها والحشرات في الحديقة.
هل يمكنك معرفة أي من هذه النباتات عشب ضار؟ ماذا ستفعل إذا لم تكن متأكداً؟
ربما يجمع التطبيق بيانات حول مواقع منازل الأشخاص عندما يستخدمون التطبيق في حديقتهم. قد يشارك التطبيق معلومات حساسة حول مواقع منازل الأشخاص - وهذه مشكلة!
يجب أن تكون المعلومات التي يشاركها تطبيقك مدروسة بعناية. يجب أن يثق المستخدمون في احترام مشروعك لمعلوماتهم وعدم إساءة استخدامها. كيف ستشعر إذا عرف شخص غريب أسرارك بطريقة ما؟
بصفتنا مطورين, نتحمل المسؤولية عن كيفية تفاعل تقنيتنا مع الناس، وعلينا أن نضع في اعتبارنا دائمًا التأثير المحتمل الذي يمكن أن تحدثه اختراعاتنا.
النشاط: الرحلة الأخلاقية
تأكد من أن تطبيقك له تأثير إيجابي فقط
- حدد أصحاب المصلحة، المباشرين وغير المباشرين على حد سواء.
- اتبع المخطط الانسيابي للأسئلة، وتحقق من أنك تبذل كل ما في وسعك لجعل مشروعك ذا تأثير إيجابي فقط.
الانعكاس
والآن بعد أن تعرفت على المزيد عن الأخلاقيات ودورك في التأكد من أن مشروعك له تأثير إيجابي فقط، فكر في هذه الأسئلة:

مراجعة المصطلحات الرئيسية
- الأخلاقيات - مجموعة من المبادئ الأخلاقية التي تؤثر على كيفية تقرير ما هو صواب أو خطأ
- التحيز - الأفكار المسبقة لدى شخص ما والتي غالبًا ما تكون غير عادلة لبعض الأشخاص أو المجموعات
- أصحاب المصلحة - الأشخاص أو الكيانات الذين سيؤثرون أو يتأثرون بالقرارات أو الإجراءات التي تتخذها منظمة أو شركة ما
الموارد الإضافية
إليك المزيد من مقاطع الفيديو حول الأخلاقيات والتأثير الإيجابي في التكنولوجيا.
تعليق جيد حول أهمية مراعاة تأثير التكنولوجيا التي تقوم بإنشائها.
يروج مشروع ظلال الجنسين لاختبار المنتجات الشاملة للذكاء الاصطناعي.