Kuntatt magħna

Teknoloġija tal-kompjuter

OASI, l-ewwel magna tat-tiftix li ssib l-algoritmi li l-gvernijiet u l-kumpaniji jużaw fuq iċ-ċittadini

SHARE:

ippubblikat

on

Aħna nużaw is-sinjal tiegħek biex nipprovdu kontenut b'modi li tajt il-kunsens tagħhom u biex intejbu l-fehim tagħna dwarek. Tista 'tħassar l-abbonament fi kwalunkwe ħin.

  • Maħluq mill-Fondazzjoni Eticas, l-Osservatorju ta ’Algoritmi b’Impatt Soċjali, OASI, jiġbor informazzjoni minn għexieren ta’ algoritmi użati mill-Amministrazzjonijiet Pubbliċi u kumpaniji madwar id-dinja biex jitgħallmu aktar dwar l-impatt soċjali tagħhom.
  • L-għan huwa li jingħata aċċess pubbliku għal informazzjoni kemm fuq il-gvernijiet kif ukoll fuq l-algoritmi tal-kumpanija, u li jkun jaf min jużahom, min jiżviluppahom, liema theddidiet jirrappreżentaw u jekk ġewx ivverifikati, fost karatteristiċi oħra.
  • Il-preġudizzju u d-diskriminazzjoni tal-algoritmu ġeneralment iseħħu abbażi tal-età, is-sess, ir-razza jew id-diżabilità, fost valuri oħra, iżda minħabba n-nuqqas ġenerali ta 'trasparenza, għadu mhux possibbli li tkun taf il-konsegwenzi kollha tagħha fuq il-gruppi affettwati.

Il-Fondazzjoni Eticas, organizzazzjoni li ma tagħmilx profitt li tippromwovi l-użu responsabbli ta ’algoritmi u sistemi ta’ Intelliġenza Artifiċjali (AI), ħolqot l-Osservatorju ta ’Algoritmi b’Impatt Soċjali (OASI). Dan l-Osservatorju jintroduċi magna tat-tiftix biex tkun taf aktar dwar l-għodod li jieħdu deċiżjonijiet awtomatizzati importanti fuq iċ-ċittadini, konsumaturi u utenti madwar id-dinja.

Bħalissa, kemm il-kumpaniji kif ukoll l-Amministrazzjonijiet Pubbliċi awtomatizzaw id-deċiżjonijiet grazzi għall-algoritmi. Madankollu, l-iżvilupp u l-ikkummissjonar tiegħu ma jsegwix kontrolli ta 'kwalità esterni, u lanqas mhu trasparenti kif għandu jkun, u dan iħalli lill-popolazzjoni mingħajr protezzjoni. B’din il-magna tat-tiftix, kulħadd jista ’jsir jaf aktar dwar dawn l-algoritmi: min żviluppahom, min jużahom, l-ambitu ta’ applikazzjoni tagħhom, kemm jekk ġew ivverifikati, l-għanijiet tagħhom jew l-impatt soċjali tagħhom u t-theddid li jirrappreżentaw.

Fil-mument, OASI jiġbor 57 algoritmu, iżda jistenna li jilħaq il-100 fix-xhur ta 'wara. Fost dawn, 24 diġà qed jiġu applikati fl-Istati Uniti mill-Gvern u kumpaniji tal-Big Tech. Pereżempju, ShotSpotter, għodda ta 'algoritmu skjerata mid-Dipartiment tal-Pulizija ta' Oakland biex tiġġieled u tnaqqas il-vjolenza bl-armi tan-nar permezz ta 'mikrofoni ta' monitoraġġ tal-ħoss, u algoritmu biex tbassar abbuż potenzjali u negliġenza tat-tfal użat mill-Kontea ta 'Allegheny, Pennsylvania. Eżempju ieħor minn korporattiva huwa Rekognition, is-sistema ta ’rikonoxximent tal-wiċċ ta’ Amazon, li ġiet ivverifikata mill-MIT Media Lab fil-bidu tal-2019, u nstabet li taħdem sostanzjalment agħar meta tidentifika s-sess ta ’individwu jekk dawn kienu nisa jew ta’ ġilda skura.

L-iktar diskriminazzjoni komuni hija fuq bażi ta ’età, sess, razza jew diżabilità, prodott mingħajr intenzjoni minn żviluppaturi li m'għandhomx ħiliet soċjoekonomiċi biex jifhmu l-impatt ta 'din it-teknoloġija. F’dan is-sens, dawn l-inġiniera jiddisinjaw l-algoritmi bbażati biss fuq ħiliet tekniċi, u peress li m’hemm l-ebda kontrolli esterni u jidher li qed jaħdem kif mistenni, l-algoritmu jibqa ’jitgħallem minn dejta defiċjenti.

Minħabba n-nuqqas ta 'trasparenza dwar il-funzjonament ta' wħud minn dawn l-algoritmi, il-Fondazzjoni Eticas, apparti t-tnedija ta 'OASI, qed tiżviluppa proġett ta' verifiki esterni. L-ewwel wieħed huwa VioGén, l-algoritmu użat mill-Ministeru ta ’l-Intern Spanjol biex jassenja riskju lil nisa li jfittxu protezzjoni wara li jsofru każijiet ta’ vjolenza domestika. Eticas se twettaq verifika esterna permezz ta 'inġinerija inversa u dejta amministrattiva, intervisti, rapporti jew skripts tad-disinn, biex tiġbor ir-riżultati fuq skala kbira. Dan kollu bil-għan li jinstabu opportunitajiet għal titjib fil-protezzjoni ta 'dawn in-nisa.

"Minkejja l-eżistenza ta 'kontroll algoritmiku u metodi ta' verifika biex jiġi żgurat li t-teknoloġija tirrispetta r-regolamenti kurrenti u d-drittijiet fundamentali, l-Amministrazzjoni u bosta kumpaniji jkomplu jagħmlu widnejn torox għal talbiet għal trasparenza miċ-ċittadini u l-istituzzjonijiet," iddikjarat Gemma Galdon, fundatriċi tal-Fondazzjoni Eticas. . “Minbarra l-OASI, wara bosta snin li fihom żviluppajna aktar minn tużżana verifika għal kumpaniji bħal Alpha Telefónica, in-Nazzjonijiet Uniti, Koa Health jew il-Bank Inter-Amerikan għall-Iżvilupp, ippubblikajna wkoll Gwida għall-Verifika Algoritmika sabiex li kulħadd jista 'jwettaqhom. L-għan huwa dejjem li titqajjem kuxjenza, tipprovdi trasparenza u terġa 'tinkiseb il-fiduċja fit-teknoloġija, li fiha nnifisha m'għandhiex għalfejn tkun ta' ħsara. "

F'dan is-sens, algoritmi li huma mħarrġa b'tekniki ta 'tagħlim bil-magna billi jużaw ammont kbir ta' dejta storika biex "jgħallmuhom" jagħżlu abbażi ta 'deċiżjonijiet tal-passat. Normalment din id-dejta mhix rappreżentattiva tar-realtà soċjoekonomika u kulturali li fuqha tiġi applikata, iżda f'ħafna okkażjonijiet tirrifletti sitwazzjoni inġusta li mhix intenzjonata li tiġi perpetwata. B'dan il-mod, l-algoritmu jkun teknikament jieħu deċiżjonijiet "korretti" skont it-taħriġ tiegħu, anke jekk ir-realtà hi li r-rakkomandazzjonijiet jew it-tbassir tiegħu huma preġudikati jew diskriminatorji.

reklam

Dwar il-Fondazzjoni Eticas

Il-Fondazzjoni Eticas taħdem biex tissarraf fi speċifikazzjonijiet tekniċi l-prinċipji li jiggwidaw is-soċjetà, bħal opportunitajiet indaqs, trasparenza u nondiskriminazzjoni li huma fit-teknoloġiji li jieħdu deċiżjonijiet awtomatizzati dwar ħajjitna. Hija tfittex bilanċ bejn il-valuri soċjali li qed jinbidlu, il-possibbiltajiet tekniċi tal-aħħar avvanzi u l-qafas legali. Għal dan il-għan, tivverifika l-algoritmi, tivverifika li l-garanziji legali huma applikati għad-dinja diġitali, speċjalment għall-Intelliġenza Artifiċjali, u twettaq ħidma intensa biex tqajjem kuxjenza u xxerred il-ħtieġa għal teknoloġija responsabbli u ta ’kwalità.

Aqsam dan l-artikolu:

EU Reporter jippubblika artikli minn varjetà ta' sorsi esterni li jesprimu firxa wiesgħa ta' opinjonijiet. Il-pożizzjonijiet meħuda f'dawn l-artikoli mhumiex neċessarjament dawk ta' EU Reporter.

Trending