Жасанды интеллектке ұқыптылықпен қарау бейтарап деректер жиынын қалай азайтады

Біржақты деректер жиыны және этикалық AI

AI қолдайтын шешімдер тиімді болу үшін деректер жиынтығын қажет етеді. Және бұл деректер жиынтығын құру жүйелік деңгейдегі жанама проблемаға толы. Барлық адамдар бейтараптықтан зардап шегеді (саналы да, бейсаналық та). Қателіктер кез келген формада болуы мүмкін: географиялық, лингвистикалық, әлеуметтік-экономикалық, сексистік және нәсілшілдік. Және бұл жүйелік қиғаштықтар деректерге айналады, соның нәтижесінде біржақтылықты жалғастыратын және ұлғайтатын AI өнімдері пайда болуы мүмкін. Ұйымдар деректер жиынтығына енуді болдырмауға жұмсақ көзқарасты қажет етеді.

Қиындық мәселесін көрсететін мысалдар

Сол кезде көптеген теріс баспасөзді жинақтаған осы мәліметтер жиынтығының бір көрнекті мысалы - ерлер кандидаттарын әйелдерден артық көретін түйіндемені оқу шешімі. Бұл жалдау құралының мәліметтер жиынтығы өтініш берушілердің көпшілігі ер адамдар болған соңғы онжылдықтағы түйіндемелерді қолдану арқылы әзірленді. Деректер біржақты болды, ал нәтижелер бұл бұрмалануды көрсетті. 

Тағы бір кең таралған мысал: жыл сайынғы Google I/O әзірлеушілерінің конференциясында Google теріге, шашқа және тырнаққа қатысты мәселелермен не болып жатқанын түсінуге көмектесетін AI-мен жұмыс істейтін дерматологиялық көмекші құралдың алдын ала қарауымен бөлісті. Дерматология ассистенті AI денсаулықты сақтауға көмектесу үшін қалай дамып келе жатқанын көрсетеді, бірақ сонымен қатар бұл құрал түсті адамдарға сәйкес келмейді деген сыннан кейін АИ -ге ену ықтималдығын көрсетті.

Google бұл құралды жариялаған кезде, компания атап өтті:

Барлығына арналған екендігімізге көз жеткізу үшін біздің модель жас, жыныс, нәсіл және тері типі сияқты факторларды есепке алады - ақшыл теріден қара түске дейін, сирек күйетін қоңыр теріге дейін.

Google, жалпы тері ауруларына жауап табуға көмектесу үшін АИ көмегімен

Бірақ вице -мақалада Google инклюзивті деректер жиынтығын қолдана алмағаны айтылған:

Тапсырманы орындау үшін зерттеушілер екі штатта орналасқан 64,837 науқастың 12,399 суреттерінің оқу жиынтығын қолданды. Суретте көрсетілген мыңдаған тері жағдайларының тек 3.5 пайызы Fitzpatrick терісінің V және VI типті науқастарынан шыққан, олар тиісінше қоңыр теріні және қою қоңыр немесе қара теріні білдіреді. Зерттеуге сәйкес, мәліметтер қорының 90 пайызы ашық тері, ақшыл -ақшыл немесе ақшыл -қоңыр теріден құралған. Біржақты іріктеу нәтижесінде дерматологтардың айтуынша, бұл бағдарлама ақ түсті емес адамдарға тым көп диагноз қоюы мүмкін.

Вице, Google -дің жаңа дерматологиялық қосымшасы қара теріге арналған адамдарға арналмаған

Google бұл құралды ресми түрде шығарар алдында оны жетілдіретінін айтты.

Біздің AI-мен жұмыс істейтін дерматологияға көмекші құрал-бұл үш жылдан астам зерттеулердің шыңы. Біздің жұмыс Nature Medicine -де көрсетілгендіктен, біз мыңдаған адамдар сыйға тартқан деректерді және миллиондаған теріні емдеуге арналған суреттерді қамтитын қосымша деректер жиынтығын енгізе отырып, өз технологиямызды дамытуды және жетілдіруді жалғастырдық.

Google, жалпы тері ауруларына жауап табуға көмектесу үшін АИ көмегімен

Біз AI мен машиналық оқыту бағдарламалары бұл кемшіліктерді түзетеді деп үміттенетін болсақ та, шындық сол күйінде қалады Smart өйткені олардың деректер жиынтығы таза. Ескі бағдарламалық мақалға жаңартуда қоқыс кіру/қоқыс шығару, AI шешімдері олардың деректер жиынтығының сапасынан гөрі күшті. Бағдарламашылардың түзетулерінсіз, бұл деректер жиынтығында өздігінен түзету тәжірибесі жоқ, өйткені оларда басқа анықтамалық жүйе жоқ.

Деректер жиынтығын жауапкершілікпен құру - бәрінен бұрын этикалық жасанды интеллект. Ал шешімнің өзегінде адамдар тұрады. 

Ақылға қонымды AI - бұл этикалық AI

Қиындық вакуумда болмайды. Этикалық немесе біржақты мәліметтер жиынтығы даму кезеңінде қате көзқарасты қолданудан туындайды. Біржақты қателіктермен күресудің әдісі-бұл саладағы көптеген адамдар саналы интеллект деп атайтын жауапты, адамға бағытталған әдісті қолдану. Mindful AI үш маңызды компоненттен тұрады:

1. Ақылға қонымды интеллект-адамға бағытталған

АИ жобасы басталған сәттен бастап, жоспарлау кезеңінде адамдардың қажеттіліктері әрбір шешімнің орталығында болуы керек. Және бұл барлық адамдарды білдіреді - тек қана жиын емес. Сондықтан әзірлеушілер интеллектуалды қосымшаларды инклюзивті және біржақты болмауға үйрету үшін жаһандық негіздегі адамдардың әр түрлі тобына сенуі керек.

Дүниежүзілік, әр түрлі топтан алынған мәліметтер жиынтығын қолдану қиғаштықтардың анықталуын және алдын ала сүзілуін қамтамасыз етеді. Әр түрлі этникалық топтар, жас топтары, жынысы, білім деңгейі, әлеуметтік-экономикалық ортасы мен орналасқан жері бір құндылықтар жиынтығын екіншісінен артық көретін деректер жиынтығын оңай анықтай алады, осылайша күтпеген бұрмалаушылықты жояды.

Дауыстық қосымшаларды қараңыз. Жасанды интеллект әдісін қолданған кезде және жаһандық таланттар қорының қуатын қолдана отырып, әзірлеушілер деректер жиынтығында әр түрлі диалектілер мен екпіндер сияқты лингвистикалық элементтерді ескере алады.

Адамға бағдарланған дизайн негізін ең басынан бастап құру өте маңызды. Бұл жасалған, өңделген және таңбаланған деректердің соңғы пайдаланушылардың үмітін қанағаттандыратынына көз жеткізу үшін ұзақ жол жүреді. Сонымен қатар, өнімнің барлық даму циклінде адамдарды бақылауда ұстау маңызды. 

Адамдар циклдегі машиналар әр нақты аудиторияға AI -дің жақсы тәжірибесін құруға көмектеседі. Pactera EDGE -де жаһандық деңгейде орналасқан біздің AI деректер жобасы бойынша топтар әр түрлі мәдениеттер мен контексттердің АИ туралы сенімді деректерді жинауға және курациялауға қалай әсер ететінін түсінеді. Оларда интеллектке негізделген шешімдер іске қосылмай тұрып мәселелерді белгілеуге, бақылауға және түзетуге қажетті құралдар бар.

Айналымдағы адам интеллектісі-бұл адамдардың қауіпсіздігін және олардың алуан түрін машиналардың жылдам есептеу күшімен біріктіретін «қауіпсіздік желісі» жобасы. Бұл адам мен АИ ынтымақтастығы бағдарламаның басынан бастап құрылуы керек, сондықтан біржақты мәліметтер жобада негіз болмайды. 

2. Ақылға қонымды AI жауап береді

Жауапкершілік - бұл интеллектуалдық жүйенің біржақты еместігін және олардың этикаға негізделгенін қамтамасыз ету. Бұл деректердің қалай, не үшін және қайда жасалатынын, оның AI жүйелерімен қалай синтезделетінін және этикалық салдары болуы мүмкін шешімдерді қабылдауда қалай қолданылатынын есте ұстау. Кәсіпкерліктің бұл әдісінің бірі-аз қамтылған қауымдастықтармен жұмыс жасау. Деректердің аннотациясы саласында жаңа зерттеулер әр анноатордың белгілерін бөлек қосалқы тапсырма ретінде қарастыратын мульти аннотациялық көпміндетті модельдің аннотациялық келіспеушіліктердің төмен көрсетілуіне байланысты болуы мүмкін әдеттегі шындық әдістеріне тән ықтимал мәселелерді азайтуға қалай көмектесетінін көрсетеді. аннотацияларды бірыңғай шындыққа біріктіру кезінде елемеуге болады. 

3. Сенімді

Сенімділік АИ моделінің қалай үйретілетіні, оның қалай жұмыс істейтіні және неге олар нәтижені ұсынатыны туралы түсінікті және түсінікті болатын бизнестен туындайды. Клиенттерге интеллектуалды интеллект қосымшаларын неғұрлым инклюзивті және жекелендірілген етуге мүмкіндік беру үшін кәсіпке АИ локализациясы бойынша тәжірибе қажет, бұл жергілікті тілдегі маңызды нюанстар мен қолданушылық тәжірибені құрметтейді, бұл AI шешімдерінің сенімділігін бір елден екіншісіне жасай алады. . Мысалы, бизнес өз қосымшаларын жекелендірілген және локализацияланған контекстке, соның ішінде тілдерге, диалектілерге және дауысқа негізделген қосымшалардағы екпіндерге жобалауы керек. Осылайша, қолданба ағылшын тілінен бастап аз ұсынылған тілдерге дейін барлық тілдерге бірдей деңгейдегі дыбыстық тәжірибе әкеледі.

Әділдік пен әртүрлілік

Ақырында, ақылға қонымды AI шешімдер нарыққа шығар алдында белгілі бір нәтижелердің салдары мен әсері бақыланатын және бағаланатын әділ және әр түрлі деректер жиынтығына негізделген шешімдерді құруға кепілдік береді. Шешімді әзірлеудің әр бөлігіне мұқият бола отырып және адамдарды қоса отырып, біз AI модельдерінің таза, минималды емес және мүмкіндігінше этикалық болуын қамтамасыз етуге көмектесеміз.

Сен не ойлайсың?

Бұл сайт спамның төмендеуі үшін Akismet пайдаланады. Деректеріңіздің қалай өңделетінін біліңіз.