Liġijiet għall-prevenzjoni tat-terroriżmu tal-IA huma meħtieġa b'mod urġenti

Skont think tank kontra l-estremiżmu, il-gvernijiet għandhom "jikkunsidraw b'urġenza" regolamenti ġodda biex jipprevjenu l-intelliġenza artifiċjali milli tirrekluta terroristi.

Intqal mill-Istitut għad-Djalogu Strateġiku (ISD) li hemm “ħtieġa ċara għal leġiżlazzjoni biex tlaħħaq” mat-theddid li jitqiegħdu online mit-terroristi.

Dan wara esperiment li fih chatbot "irrekluta" lir-reviżur indipendenti tal-leġiżlazzjoni tat-terrur għar-Renju Unit.

Intqal mill-gvern tar-Renju Unit li se jagħmlu “kull ma nistgħu” biex jipproteġu lill-pubbliku ġenerali.

Skont Jonathan Hall KC, reviżur indipendenti tal-leġiżlazzjoni dwar it-terroriżmu għall-gvern, waħda mill-aktar kwistjonijiet importanti hija li "huwa diffiċli li tiġi identifikata persuna li tista' fil-liġi tkun responsabbli għal dikjarazzjonijiet iġġenerati minn chatbot li ħeġġu t-terroriżmu."

Sar esperiment mis-Sur Hall fuq Character.ai, websajt li tippermetti lill-utenti jidħlu f'chats ma' chatbots li nbnew minn utenti oħra u żviluppati minn intelliġenza artifiċjali.

Huwa ħa sehem f’konversazzjoni ma’ għadd ta’ diversi bots li dehru li kienu mfassla biex jimitaw it-tweġibiet ta’ gruppi militanti u estremisti oħra.

reklam

Kap ewlieni tal-Istat Iżlamiku kien saħansitra msejjaħ bħala "mexxej anzjan."

Skont is-Sur Hall, il-bot għamel tentattiv biex jirreklutah u ddikjara “dedikazzjoni u devozzjoni totali” lejn il-grupp estremista, li huwa pprojbit minn liġijiet fir-Renju Unit li jipprojbixxu t-terroriżmu.

Min-naħa l-oħra, is-Sur Hall iddikjara li ma kien hemm ebda ksur tal-liġi fir-Renju Unit minħabba li l-komunikazzjonijiet ma kinux prodotti minn bniedem.

Skont dak li qal, regolamenti ġodda għandhom iżommu responsabbli kemm lill-websajts li jospitaw chatbots kif ukoll lin-nies li joħolquhom.

Meta ġie għall-bots li sab fuq Character.ai, huwa ddikjara li kien hemm "x'aktarx li jkun hemm xi valur ta 'xokk, esperimentazzjoni, u possibilment xi aspett satiriku" wara l-ħolqien tagħhom.

Barra minn hekk, is-Sur Hall kien kapaċi jiżviluppa l-chatbot tiegħu stess "Osama Bin Laden", li huwa ħassar minnufih, u wera "entużjażmu bla limitu" għal attivitajiet terroristiċi.

L-esperiment tiegħu ġej fid-dawl ta 'tħassib dejjem jikber dwar il-modi li bihom estremisti jistgħu possibilment jisfruttaw intelliġenza artifiċjali mtejba.

Sas-sena 2025, l-intelliġenza artifiċjali ġenerattiva tista’ “tintuża biex tiġbor għarfien dwar attakki fiżiċi minn atturi vjolenti mhux statali, inkluż għal armi kimiċi, bijoloġiċi u radjoloġiċi,” skont riċerka li nħarġet mill-gvern tar-Renju Unit f’ pubblikazzjoni tagħhom f’Ottubru.

L-ISD kompliet iddikjara li "hemm ħtieġa ċara għal leġiżlazzjoni biex tlaħħaq mal-pajsaġġ li qed jinbidel kontinwament tat-theddid terroristiku onlajn."

Skont il-think tank, l-Att dwar is-Sigurtà Online tar-Renju Unit, li ġie mgħoddi f'liġi fl-2023, "huwa primarjament immirat lejn il-ġestjoni tar-riskji maħluqa minn pjattaformi tal-midja soċjali" aktar milli l-intelliġenza artifiċjali.

Barra minn hekk jiddikjara li r-radikali "għandhom it-tendenza li jadottaw teknoloġiji emerġenti bikrin, u kontinwament qed ifittxu opportunitajiet biex jilħqu udjenzi ġodda".

"Jekk il-kumpaniji tal-IA ma jistgħux juru li investew biżżejjed biex jiżguraw li l-prodotti tagħhom huma sikuri, allura l-gvern għandu jikkunsidra b'mod urġenti leġiżlazzjoni ġdida speċifika għall-AI", iddikjarat aktar l-ISD.

Madankollu, semmiet li, skont is-sorveljanza li wettqet, l-użu tal-intelliġenza artifiċjali ġenerattiva minn organizzazzjonijiet estremisti huwa “relattivament limitat” fil-preżent.

Character AI iddikjara li s-sikurezza hija "prijorità ewlenija" u li dak li ddeskriva s-Sur Hall kien ta 'dispjaċir ħafna u ma jirriflettix it-tip ta' pjattaforma li l-kumpanija kienet qed tipprova tistabbilixxi.

"Id-diskors ta' mibegħda u l-estremiżmu huma t-tnejn ipprojbiti mit-Termini tas-Servizz tagħna", skont l-organizzazzjoni.

"L-approċċ tagħna għall-kontenut iġġenerat mill-AI joħroġ minn prinċipju sempliċi: Il-prodotti tagħna qatt m'għandhom jipproduċu tweġibiet li x'aktarx jagħmlu ħsara lill-utenti jew jinkoraġġixxu lill-utenti jagħmlu ħsara lill-oħrajn".

Għall-iskop ta '"ottimizzazzjoni għal reazzjonijiet sikuri," il-korporazzjoni ddikjarat li ħarrġet il-mudelli tagħha b'mod.

Barra minn hekk, iddikjarat li kellha mekkaniżmu ta’ moderazzjoni fis-seħħ, li ppermetta lin-nies jirrappurtaw informazzjoni li kisret ir-regoli tagħha, u li kienet impenjata li tieħu azzjoni malajr kull meta l-kontenut ikun qed jirrapporta ksur.

Kieku kellu jasal fil-poter, il-Partit Laburista tal-oppożizzjoni fir-Renju Unit iddikjara li jkun ksur kriminali li tgħallem l-intelliġenza artifiċjali biex tinstiga l-vjolenza jew tirradikalizza lil dawk li huma suxxettibbli.

"twissija għar-riskji sinifikanti għas-sigurtà nazzjonali u s-sikurezza pubblika" li l-intelliġenza artifiċjali maħluqa, iddikjara l-gvern tar-Renju Unit.

"Se nagħmlu dak kollu li nistgħu biex nipproteġu lill-pubbliku minn din it-theddida billi naħdmu madwar il-gvern u napprofondixxu l-kollaborazzjoni tagħna mal-mexxejja tal-kumpaniji tat-teknoloġija, esperti tal-industrija u nazzjonijiet li jaħsbuha l-istess."

Mitt miljun lira se jiġu investiti f’istitut ta’ sigurtà ta’ intelliġenza artifiċjali mill-gvern fis-sena 2023.

Aqsam dan l-artikolu: