- Жауапты инновациялар үшін AI этикасы неліктен маңызды екенін зерттеңіз.
- Біржақтылық, құпиялылық, ашықтық және т.б. сияқты жалпы этикалық мәселелерді түсіну.
- Жауапты зерттеулер мен инновациялар (ЖЗИ) құрылымын және оны жобаңыздың этикалық жоспарына қалай біріктіруге болатынын түсініңіз
- Жасанды интеллект жүйелерінің әділ, дәл және есеп беруші болып қалуын қамтамасыз ету жолдарын үйреніңіз.
- Этикалық ойлауды өзіңіздің жеке AI жобаңызға басынан бастап қалай енгізуге болатыны туралы ойланыңыз және оны үздіксіз процесс деп санаңыз.
AI-дағы этика
Жасанды интеллект күшейген сайын, бізде бар құралдардың көлемін түсініп, жасаған нәрселеріміздің кеңірек әсері туралы ойлануымыз керек. Жасанды интеллект әділетсіз болуы, қателіктер жіберуі және дұрыс пайдаланылмаған жағдайда зиян келтіруі мүмкін. Сондықтан біз, әзірлеушілер мен кәсіпкерлер ретінде, жұмысымызға мұқият қарауымыз керек.
«Этика» сөзін естігенде, ол сәл ресми немесе күрделі болып көрінуі мүмкін, бірақ шын мәнінде бұл сұрақ қою туралы.
« Бұл әділ ме? Бұл кімге көмектесе алады, ал кімге зиян келтіруі мүмкін? »
Түйін: Жасанды интеллект – адамдар жасаған технология, сондай-ақ қандай әрекеттерге басымдық беру керектігі, қандай деректерден үйренуі керектігі және нені табыс деп анықтау керектігі туралы біздің көзқарастарымыз. Тіпті ең жақсы ниетпен болса да, жасанды интеллект табиғатынан жетілмеген. Ең бастысы, оның қай жерде қателесуі мүмкін екенін түсініп, оны жауапкершілікпен пайдалану.
Сіздің жобаңыздағы AI этикасы
Жобаңыздың алғашқы кезеңдерінде болсаңыз да, этиканың соңғы шешіміңізге қалай әсер ететіні туралы ойлана бастауға әлі ерте емес. Міне, жасанды интеллект жобаларының, атап айтқанда, жобаңыздың этикасын терең және нақты ойластыру үшін басшылық ретінде пайдалана алатын кейбір қағидалар. Жобаңызға қатысты сұрақтарды оқып, ой елегінен өткізіңіз.
Зиян келтірмеңіз
Қарапайым, бірақ күшті. Көптеген авторлар ешқашан зиян келтіргісі келмесе де, AI әсері көбінесе күтілгеннен асып түседі. Жүйе сырттай пайдалы болып көрінетін шешімдерді немесе ұсыныстарды қабылдауы мүмкін, бірақ масштабтағанда, әдейі емес, адамдарға зиян келтіруі немесе жаңылыстыруы мүмкін.
«Зиян келтірмеу» дегеніміз технологияңыздың қалай қателесуі мүмкін екенін, кімге әсер етуі мүмкін екенін және тәуекелді азайту үшін қандай жүйелер бар екенін үнемі сұрау дегенді білдіреді.
Мысал: Қауіпсіздік қолданбасы қате кетті
❌ Мәселе
Топ әлеуметтік медиа мен жергілікті есептердің деректерін пайдалана отырып, пайдаланушыларға жақын жердегі «қауіпті болуы мүмкін жағдайлар» туралы ескертетін AI-мен жұмыс істейтін қауымдастық қауіпсіздігі қолданбасын әзірлейді. Мақсат - адамдарға хабардар болуға және қауіп-қатерден аулақ болуға көмектесу арқылы аудандарды қауіпсіз ету.
Бірақ пайдаланушылар мен қауымдастық топтары алаңдатарлық тенденцияны байқайды: қолданба ешқандай оқиғалар орын алмаса да, көбірек маргиналды халықтары бар аудандарға көбірек ескертулер жібереді. Біржақты тарихи деректер мен тіл үлгілеріне үйренген AI белгілі бір аймақтар мен сөздерді қауіппен байланыстыруды үйренді.
Әзірлеушілер стереотиптерді күшейтуді мақсат етпесе де, зиян келтірілді - қолданба қауымдастықтарды стигматизациялады және әлеуметтік бөліну мен сенімсіздікті күшейтті.
✅ Жақсырақ көзқарас
Бұл топ жобалау процесіне тек деректер ғалымдарын ғана емес, әр түрлі аудандардағы қауымдастық мүшелерін қатыстырды . Олар өз моделін демографиялық аймақтарда сынап көрді және біржақтылықты өлшеді .
Олар әлеуметтік медианың көңіл-күйіне сенудің орнына, ресми полиция есептері сияқты мөлдір деректер көздерін пайдаланды. Әрбір ескерту түсіндірмені (мысалы, «Осы аптада хабарланған 3 бұзуға негізделген ескерту») және пайдаланушыларға жалған немесе біржақты ескертулерді белгілеу мүмкіндігін қамтиды.
Нәтижесінде, қолданба көршілерді СТИМГАТИЗАЦИЯЛАМАСТАН қоғамдастықтың хабардарлығын жақсартты. Біржақтылық анықталған кезде (белгілі бір аумақтарда ескертулер шоғырланған), олар деректерді зерттеп, түзетіп, модельді жаңартты.
- Бұл ақауларды жылдам анықтау және туындайтын тәуекелді азайту үшін қандай арнайы, орнатылған жүйелер бар?
Бейтараптық және әділдік
AI, сайып келгенде, адам жаратылысы және оны жасаушылардың болжамдары мен басымдықтарын көрсете алады. Егер AI үйрету үшін пайдаланылатын деректер бейтарап объектив арқылы жиналса, ол дұрыс емес болжамдарды нығайта алады және нәтижелерді болжау қиын тәсілдермен бұрмалауға болады.
Мысал: Жұмысқа қабылдаудағы біржақтылық
Бұл зерттеуде жұмысқа өтінімдерді өңдеуді жеңілдетуге арналған AI құралдарының нәсілге және жынысқа қатысты көзқарастары бар екені анықталды. Мұндағы AI құралдары кавказдық ер адамдармен байланысты есімдерді жақсы көреді. Жалдау процесінде AI-ны кеңінен қолдану арқылы бұл жаңалық осы құралдардың әділдігіне күмән келтіреді.
Қателіктерді жою хабардарлықты , ойлануды және мақсатты әрекетті талап етеді. Пайдаланушылар жасанды интеллекттің не шығаратынына сын көзбен және күмәнмен қарауы керек. Әзірлеушілер пайдаланатын деректерді тексеріп, модельдерінің артындағы болжамдарға күмән келтіріп, әртүрлі топтар арасындағы әділдікті тексеруі керек. Кейде бұл жобалау кезінде әртүрлі көзқарастарды енгізуді, әртүрлі нәтижелерге арналған модельдерді аудиттеуді немесе теңгерімсіздікті түзету үшін алгоритмдерді түзетуді білдіреді.
- Деректерді жинау және таңбалау кезеңінде қандай нақты қадамдар жасалады?
- AI моделін жобалау, тестілеу және тексеру кезеңдеріне әртүрлі перспективалардың мағыналы түрде біріктірілгенін қалай қамтамасыз етесіз?
Құпиялылық және деректер
AI жиі тиімді жұмыс істеуі үшін жеке деректердің үлкен көлеміне сүйенеді. Бұл деректер AI-ға пайдалы ұсыныстарды немесе қызметтерді ұсынуға көмектескенімен, сонымен қатар құпиялылыққа қатысты маңызды этикалық сұрақтарды тудырады.
Мысалы, жергілікті қызметтерді ұсыну үшін пайдаланушы әрекетін қадағалайтын қолданба адамның жұмыс тәртібі, қалауы немесе сенімі туралы құпия мәліметтерді байқаусызда ашуы мүмкін. Бұл мәліметтер дұрыс емес пайдаланылуы мүмкін, егер олар дұрыс емес қолдарға түссе немесе тіпті басқа жерде алгоритмдер қолданушыға қалай әсер ететініне әсер етеді.
-
Сізге қажет нәрсені ғана жинаңыз
Қолданба жұмыс істеуі үшін қажетті ақпаратпен деректер жинауды шектеңіз.
-
Нақты келісім алыңыз
Пайдаланушылар қандай деректер және не үшін жиналатынын түсініп, кіру немесе бас тарту опциясын ұсыныңыз.
-
Мүмкіндігінше деректерді анонимизациялаңыз
Деректер ашылған жағдайда тәуекелді азайту үшін жеке сәйкестендіретін ақпаратты жойыңыз.
-
Деректерді қауіпсіз сақтаңыз
Пайдаланушы ақпаратын қорғау үшін шифрлауды, қауіпсіз серверлерді және күшті кіруді басқару элементтерін пайдаланыңыз.
-
Мөлдір болыңыз
Қандай деректер жиналғанын, қалай пайдаланылатынын және оған кім қол жеткізе алатынын нақты хабарлаңыз.
-
Пайдаланушыларға басқаруды беріңіз
Пайдаланушыларға деректерін қарауға, өңдеуге немесе жоюға рұқсат беріңіз.
-
Төменгі ағынның салдарын қарастырыңыз
Жиналған деректерді қолданбаңыздан тыс қалай пайдалануға болатынын және кез келген ықтимал әсерлер туралы ойланыңыз.
- Пайдаланушылардың шынайы ақпараттандырылған келісімін беру үшін пайдаланушы интерфейсін және келісім процесін қалай құрастырасыз?
- Деректерді қорғау үшін қандай деңгейлі қауіпсіздік шараларын қолданасыз?
Дәлдік және адамның бақылауы
Жасанды интеллект өте күшті болуы мүмкін, бірақ тіпті ең күрделі модельдер де қателіктер жіберуі мүмкін. Бір мысал - «жасанды интеллект галлюцинациялары» , мұнда жүйе сенімді түрде толығымен жалған немесе ойдан шығарылған ақпаратты шығарады.
Бұл қателіктер жасанды интеллект толық емес деректерге үйретілгендіктен, қате болжамдарға негізделгендіктен немесе пайдаланушыны қанағаттандыратын нәтижелерді жасауға бейімделгендіктен, тіпті олар дұрыс болмаса да, орын алуы мүмкін. Міне, сондықтан адамның бақылауы өте маңызды. Жасанды интеллект нәтижелеріне сыни тұрғыдан қарау керек: жүйенің нәтижелерін бағалау, сұрақ қою және контекстке келтіру .
Жасанды интеллектті қатесіз билік ретінде қарастырудың орнына, оны бағалауды күшейтетін, түсінік беретін және соңғы жауапкершілікті адам қолына қалдыратын құрал ретінде қарастырған жөн. Мысалы, денсаулық сақтау қолданбасы үшін медициналық мақалалардың қысқаша мазмұнын жасайтын жасанды интеллект жүйесін елестетіп көріңіз. Егер жасанды интеллект бастапқы материалда жоқ мәліметтерді елестетсе, пайдаланушылар жалған ақпаратқа негізделген шешімдер қабылдай алады. Бұл қателерді анықтап, түзететін адам шолушысы нақты адамдарға әсер етпес бұрын ауыр зиянның алдын ала алады.
- Шығаруларды кім тексереді?
- Қателер қалай белгіленеді және жойылады?
Ашықтық және түсіндірмелілік
Оны құрастырушылар да, оны пайдаланатындар да жасанды интеллекттің белгілі бір ұсыныс немесе шешім қалай қабылдағанын – алгоритмдердің логикасын, жасанды интеллекттің қалай оқытылғанын, деректердің қалай өңделгенін және таңбаланғанын және модельдің өнімділігі қалай бағаланғанын түсіне алуы керек.
Жасанды интеллект маңызды шешімдер қабылдау үшін (мысалы, жалдау, медициналық диагноз қою, несиені мақұлдау немесе инвестициялық ұсыныстар) жиі қолданылып келе жатқандықтан, дәл емес немесе біржақты нәтижелер мансапқа, қаржыға немесе тіпті денсаулық пен қауіпсіздікке әсер ететін ауыр зардаптарға әкелуі мүмкін.
Жүйеңіздің қалай жұмыс істейтінін көрсету үшін қарапайым визуализацияларды, қысқа мәтіндік түсіндірмелерді немесе интерактивті демоларды пайдалануға болады. Ең бастысы - пайдаланушыларға жеткілікті түсінік беру , сонда олар ақпараттандырылған шешімдер қабылдай алады, сұрақтар қоя алады және жасанды интеллектіңіздің нәтижелерінің артындағы себептерді түсіне алады.
- AI шешімдерін пайдаланушыларыңызға қалай анық және түсінікті ете аласыз?
Қолжетімділік және инклюзивтілік
AI барлығына, соның ішінде мүмкіндігі шектеулі адамдарға, ағылшын тілін білмейтіндерге, жоғары жылдамдықты интернеті жоқ адамдарға және технологиямен таныс емес адамдарға жұмыс істеуі керек.
- Көзі көрмейтін пайдаланушыларды жоққа шығаратын визуалды интерфейстер бола ма?
- Саңырау пайдаланушыларды қоспауы мүмкін аудио кіріс туралы не деуге болады?
- Пайдаланушыларыңызда өнімді оңай шарлау және тиімді пайдалану үшін техникалық білім бар ма?
- Қолданбаңызды пайдаланатын ағылшын тілін білмейтіндерді ескересіз бе?
Қоршаған ортаға әсері
AI таңғажайып және адамдардың өмірін өзгерте алатынымен, оның құны да бар. AI үлгілерін оқыту қоршаған ортаға әсер ететін айтарлықтай есептеу қуатын қажет етеді. Сіздің бастапқы жобаңыз қоршаған ортаға айтарлықтай әсер етпеуі мүмкін болса да, жобаңыздың ауқымы кеңейген сайын бұл мәселе бірінші орынға шығуы мүмкін екенін ескеру керек.
2030 жылға қарай 945 ТВтсағ
2030 жылға қарай жасанды интеллектпен жұмыс істейтін деректер орталықтары шамамен 945 тераватт-сағат электр энергиясын пайдаланады деп болжануда, бұл Жапонияның жылдық тұтынуынан көп. Халықаралық энергетика агенттігінің мәліметтері бойынша, бұл энергияның 60%-ы әлі де қазба отынына тәуелді болады.
- Өзіндік оқытудың орнына бар машиналық оқыту үлгілерін қалай пайдалануға болады?
- Үлгіңізді қалай оңтайландыруға және деректерді азырақ пайдалануға болады?
Еңбекке әсер ету
AI бұрын адамдар орындаған көптеген тапсырмаларды автоматтандырады. Сіздің жобаңыз адамдарға жұмысынан және табысынан айырылу арқылы күтпеген зиян келтіруі мүмкін.
- Ол адам жұмысын алмастыра ма, егер солай болса, ол жұмысшылармен не болады?
- Экономикалық жағынан кім пайда көреді, ал одан кім зиян шегуі мүмкін?
Сіз білуіңіз керек ережелер
Этикалық дизайн өніміңіздің әділ және сенімді болуын қамтамасыз ету үшін техникалық заңдылықтан асып түседі. Дегенмен, жаңа технологияларды іске қосқан кезде ұстануға тиісті ережелер мен заңдар бар.
Егер AI жеке деректерді өңдейтін болса:
- GDPR (Еуропа): құпиялылық пен деректерді қорғаудың қатаң ережелері
- CCPA (Калифорния): тұтынушылардың құпиялылық құқықтары
- COPPA (АҚШ): балалардың деректерін қорғау
- HIPAA (АҚШ): денсаулық сақтау деректерін қорғау
Егер сіздің жобаңыз AI пайдаланса:
- ЕО AI актісі (2024): AI жүйелерін тәуекел бойынша санаттарға бөледі (төмен, жоғары, қабылданбайды). Жұмысқа қабылдауда, білім беруде, денсаулық сақтауда қолданылатын қауіптілігі жоғары жүйелер қатаң ашықтық, тестілеу және құжаттама ережелеріне сай болуы керек.y
- АҚШ-тың AI құқықтары туралы Билл: Әлі заң емес, бірақ алгоритмдік бұрмаланудан қорғау, деректердің құпиялылығы және маңызды шешімдерге адам баламасы сияқты принциптерді сипаттайды.
- Басқа шеңберлер: Канаданың AI және деректер туралы заңы, Сингапурдың AI басқару моделі және ЭЫДҰ AI принциптері есеп берушілікті, әділеттілікті және түсіндіруді талап етеді.
- Зияткерлік меншік (IP): Авторлық құқықпен қорғалған мазмұнды шығаруы мүмкін генеративті AI-мен сақ болыңыз. Жеке үлгілеріңіз үшін оқыту деректер жиынында авторлық құқықпен қорғалған материалдарды пайдаланбаңыз.
Этикалық жасаушы болу - бұл саяхат
AI күшті, бірақ ол ешқашан мінсіз емес. Модельдер дамып, жаңа деректерден үйренеді және күтпеген нәтижелерге әкелетін жолдармен пайдаланушылармен өзара әрекеттеседі. Бұл этикалық ойлар бір реттік бақылау тізімі емес, оның орнына үздіксіз назар аударуды қажет ететінін білдіреді.
Есіңізде болсын, мақсат бүгін жұмыс істейтін AI шешімін құру ғана емес, ол ертең және одан тыс уақытта әділ, қауіпсіз және пайдалы жұмысын жалғастыратын шешімді құру.
Сіз және сіздің командаңыз әрқашан: «Өнімімізді одан да жауапты ету үшін қазір не істей аламыз?» деп сұрауыңыз керек. Сіздің құндылықтарыңыз немесе контекст уақыт өте келе өзгеруі мүмкін, сондықтан сіз бұл ойды үнемі қайталап отыруыңыз керек.
Мына кеңестерді есте сақтаңыз:
- Үйренуді жалғастырыңыз: дағдыларыңызды жетілдіріңіз, сұрақтар қойыңыз және өніміңізді жауапкершілікті арттырудың жолдарын ойлаңыз.
- Әрқашан жақсылық жасауға ұмтылыңыз: Бұл тек жаман нәрселерден аулақ болу ғана емес, сонымен қатар қоғамдастығыңызға мейірімді және әділ жолмен көмектесуге бағытталған мақсатты миссияңыздың болуы туралы.
- Жоспардың бір бөлігі етіңіз: өніміңіздің сыртқы түрін жобалауға немесе код жазуға жұмсағандай, этикаға уақыт пен күш бөліңіз.
- Команданың RRI жетекшісін таңдаңыз: Барлығына, әсіресе бос емес және жаңа идеяларға қуанып жүргенде, жауапкершілік туралы ойлануды еске салатын біреуді табыңыз.
- Қолдау іздеңіз: Егер сіздің бизнесіңіздің этикалық жағына күмәндансаңыз, әріптестеріңізден, тәлімгерлеріңізден, пайдаланушыларыңыздан немесе мамандардан көмек сұраудан қорықпаңыз.
ҚЫЗМЕТ 1
Сіздің үздіксіз AI этикасы бойынша әрекет жоспарыңыз
Есептік уақыт: 30 минут
Этикалық тұрғыда құру - бұл үздіксіз сапар. Жұмыс парағындағы сұрақтарды жобаңыздағы этикалық мәселелерді қалай басқаратыныңызды ойлау үшін пайдаланыңыз.
Қызықты болуды ұмытпаңыз! AI әлемі үнемі өзгеріп отырады және керемет жаңашыл болу әрқашан үйренуші болуды білдіреді. Сіз енді таңғажайып нәрсені жасап қана қоймай, оны болашаққа этикалық тұрғыдан бағыттауға дайынсыз.
Қосымша ресурстар
Профессор Стюарт Расселдің осы баяндамасында ол AI этикасына тереңірек енеді және одан әрі жауапты жобалаудың, қадағалаудың және әлеуметтік әсерлерді ескерудің маңыздылығын көрсетеді.
