IL-KUMMISSJONI EWROPEA
Brussell, 8.4.2019
COM(2019) 168 final
KOMUNIKAZZJONI TAL-KUMMISSJONI LILL-PARLAMENT EWROPEW, LILL-KUNSILL, LILL-KUMITAT EKONOMIKU U SOĊJALI EWROPEW U LILL-KUMITAT TAR-REĠJUNI EMPTY
Nibnu l-Fiduċja fl-Intelliġenza Artifiċjali Ċċentrata Fuq il-Bniedem
1.INTRODUZZJONI — STRATEĠIJA EWROPEA GĦALL-IA
L-intelliġenza artifiċjali (IA) għandha l-potenzjal li tittrasforma d-dinja tagħna għall-aħjar: din tista’ ttejjeb il-kura tas-saħħa, tnaqqas il-konsum tal-enerġija, ittejjeb il-livell tas-sigurtà tal-karozzi, u tippermetti lill-bdiewa jużaw l-ilma u r-riżorsi naturali b’mod aktar effiċjenti. L-IA tista’ tintuża għat-tbassir ta’ tibdil fl-ambjent u fil-klima, ittejjeb il-ġestjoni tar-riskju finanzjarju u tipprovdi l-għodda għall-manifattura ta’ prodotti mfassla apposta għall-ħtiġijiet tagħna, b’inqas ħela. L-IA tista’ tgħin ukoll fid-detezzjoni tal-frodi u tat-theddid ċibernetiku, u tippermetti lis-servizzi tal-infurzar tal-liġi jiġġieldu l-kriminalità b’mod aktar effiċjenti.
L-IA tista’ tkun ta’ benefiċċju għas-soċjetà kollha u għall-ekonomija. Din hija teknoloġija strateġika li issa qed tiġi żviluppata u tintuża b’pass mgħaġġel fid-dinja kollha. Madankollu, l-IA iġġib magħha wkoll sfidi ġodda għall-futur tax-xogħol, u tqajjem mistoqsijiet ta’ natura legali u etika.
Biex tindirizza dawn l-isfidi u sabiex isir l-aħjar użu mill-opportunitajiet offruti mill-IA, f’April 2018 il-Kummissjoni ppubblikat strateġija Ewropea. L-istrateġija tqiegħed lill-persuni fiċ-ċentru tal-iżvilupp tal-IA — IA iċċentrata fuq il-bniedem. Dan huwa approċċ bi tliet fergħat li għandu l-għan li jagħti spinta lill-kapaċità teknoloġika u industrijali tal-UE u lill-adozzjoni tal-IA fl-ekonomija, li jħejji għal bidliet soċjoekonomiċi, u li jiżgura qafas etiku u legali xieraq.
Biex jitwasslu riżultati b’rabta mal-istrateġija tal-IA, il-Kummissjoni u l-Istati Membri ħadmu flimkien biex jiżviluppaw pjan ikkoordinat dwar l-IA, li ġie ppreżentat mill-Kummissjoni f’Diċembru 2018 bl-għan li jinħolqu sinerġiji, li tinġabar data — il-materja prima għal bosta applikazzjonijiet tal-IA — u li jiżdiedu l-investimenti konġunti. L-għan huwa li titrawwem il-kooperazzjoni transfruntiera u li jiġu mobilizzati l-atturi kollha sabiex l-investimenti pubbliċi u privati jiżdiedu għal mill-inqas EUR 20 biljun fis-sena tul l-għaxar snin li ġejjin. Il-Kummissjoni rduppjat l-investimenti tagħha fl-IA f’Orizzont 2020 u qed tippjana li tinvesti EUR 1 biljun fis-sena minn Orizzont Ewropa u l-Programm Ewropa Diġitali, l-aktar bħala appoġġ għal spazji komuni tad-data fis-saħħa, it-trasport u l-manifattura, u faċilitajiet ta’ esperimentazzjoni kbar bħal sptarijiet u infrastrutturi intelliġenti għal vetturi awtomatizzati u aġenda strateġika ta’ riċerka.
Biex timplimenta din l-aġenda komuni strateġika ta’ riċerka, innovazzjoni u skjerament il-Kummissjoni intensifikat id-djalogu tagħha mal-partijiet ikkonċernati kollha rilevanti mill-industrija, mill-istituti ta’ riċerka u mill-awtoritajiet pubbliċi. Il-programm ġdid Ewropa Diġitali se jkun kruċjali wkoll sabiex l-IA issir disponibbli għal intrapriżi żgħar u ta’ daqs medju fl-Istati Membri kollha permezz ta’ ċentri ta’ innovazzjoni diġitali, faċilitajiet imsaħħa ta’ ttestjar u esperimentazzjoni, spazji tad-data u programmi ta’ taħriġ.
Filwaqt li jibni r-reputazzjoni tiegħu għal prodotti sikuri u ta’ kwalità għolja, l-approċċ etiku tal-Ewropa għall-IA isaħħaħ il-fiduċja taċ-ċittadini fl-iżvilupp diġitali u jimmira li jibni vantaġġ kompetittiv għall-kumpaniji Ewropej tal-IA. L-għan ta’ din il-Komunikazzjoni huwa li titnieda fażi pilota komprensiva li tinvolvi lill-partijiet ikkonċernati kollha fuq l-aktar skala wiesgħa possibbli biex tiġi ttestjata l-implimentazzjoni prattika ta’ gwida etika għall-iżvilupp u l-użu tal-IA.
2.NIBNU L-FIDUĊJA FL-IA IĊĊENTRATA FUQ IL-BNIEDEM
L-istrateġija Ewropea għall-IA u l-pjan ikkoordinat jisħqu b’mod ċar li l-fiduċja hija prerekwiżit għall-iżgurar ta’ approċċ għall-IA iċċentrat fuq il-bniedem: L-IA mhix mira fiha nnifisha, iżda għodda li għandha sservi lin-nies bl-għan aħħari li żżid il-benesseri tal-bniedem. Biex jinkiseb dan l-għan, għandha tiġi żgurata l-affidabbiltà tal-IA. Il-valuri li fuqhom huma bbażati s-soċjetajiet tagħna jeħtieġ li jiġu integrati b’mod sħiħ fil-mod li bih tiżviluppa l-IA.
L-Unjoni hija bbażata fuq il-valuri tar-rispett għad-dinjità tal-bniedem, il-libertà, id-demokrazija, l-ugwaljanza, l-istat tad-dritt u r-rispett għad-drittijiet tal-bniedem, inklużi d-drittijiet ta’ persuni li jagħmlu parti minn minoranzi. Dawn il-valuri huma komuni għas-soċjetajiet tal-Istati Membri kollha fejn huma prevalenti l-pluraliżmu, in-nondiskriminazzjoni, it-tolleranza, il-ġustizzja, is-solidarjetà u l-ugwaljanza. Barra minn hekk, il-Karta tad-Drittijiet Fundamentali tal-UE tiġbor flimkien – f’test wieħed – id-drittijiet personali, ċiviċi, politiċi, ekonomiċi u soċjali kollha li jgawdu minnhom in-nies fl-UE.
L-UE għandha qafas regolatorju b’saħħtu li se jistabbilixxi l-istandard globali għall-IA iċċentrata fuq il-bniedem. Ir-Regolament Ġenerali dwar il-Protezzjoni tad-Data jiżgura standard għoli ta’ protezzjoni tad-data personali, u jirrikjedi l-implimentazzjoni ta’ miżuri biex tkun żgurata l-protezzjoni tad-data mid-disinn u b’mod awtomatiku. Ir-Regolament dwar il-Fluss Liberu ta’ Data mhux Personali jneħħi l-ostakoli għall-moviment liberu ta’ data mhux personali u jiżgura l-ipproċessar tal-kategoriji kollha ta’ data fi kwalunkwe post fl-Ewropa. L-Att dwar iċ-Ċibersigurtà li ġie adottat dan l-aħħar se jgħin biex tissaħħaħ il-fiduċja fid-dinja online, u r-Regolament dwar il-Privatezza Elettronika propost ukoll jimmira għal dan l-għan.
Madankollu, l-IA iġġib magħha sfidi ġodda minħabba li tippermetti li l-magni “jitgħallmu” u jieħdu u jimplimentaw deċiżjonijiet mingħajr intervenzjoni umana. Fi żmien qasir, dan it-tip ta’ funzjonalità se jsir standard f’diversi tipi ta’ oġġetti u servizzi, minn smartphones għal karozzi awtomatizzati, robots u applikazzjonijiet online. Minkejja dan, deċiżjonijiet li jittieħdu minn algoritmi jistgħu jirriżultaw minn data li ma tkunx kompluta, u li għaldaqstant ma tkunx affidabbli, jew jiġu mbagħbsa waqt attakki ċibernetiċi, jew ikunu influwenzati minn preġudizzji jew sempliċiment ikunu żbaljati. Għaldaqstant, l-applikazzjoni mingħajr ħsieb tat-teknoloġija waqt li tkun għadha qed tiżviluppa twassal għal riżultati problematiċi kif ukoll għal eżitazzjoni miċ-ċittadini biex jaċċettawha jew jużawha.
Minflok, it-teknoloġija tal-IA għandha tiġi żviluppata b’tali mod li tqiegħed lill-persuni fiċ-ċentru tagħha, biex b’hekk tkun denja tal-fiduċja tal-pubbliku. Dan jimplika li l-applikazzjonijiet tal-IA mhux biss għandhom ikunu konsistenti mal-liġi, iżda għandhom isegwu wkoll prinċipji etiċi u jiżguraw li l-implimentazzjonijiet tagħhom jevitaw ħsara mhux intenzjonata. Id-diversità f’termini ta’ sess, razza jew oriġini etnika, reliġjon jew twemmin, diżabilità u età għandha tiġi żgurata f’kull stadju tal-iżvilupp tal-IA. L-applikazzjonijiet tal-IA għandhom jagħtu s-setgħa liċ-ċittadini u jirrispettaw id-drittijiet fundamentali tagħhom. Dawn għandhom jimmiraw li jtejbu l-ħiliet tan-nies, mhux jissostitwixxuhom, filwaqt li jiffaċilitaw ukoll l-aċċess mill-persuni b’diżabilitajiet.
Għalhekk, hemm bżonn ta’ linji gwida dwar l-etika li jibnu fuq il-qafas regolatorju eżistenti, u li għandhom jiġu applikati mill-iżviluppaturi, mill-fornituri u mill-utenti tal-IA fis-suq intern, sabiex jiġu stabbiliti kondizzjonijiet ekwivalenti ta’ kompetizzjoni etiċi fl-Istati Membri kollha. Din hi r-raġuni għalfejn il-Kummissjoni waqqfet grupp ta’ esperti ta’ livell għoli dwar l-IA li jirrapreżenta varjetà wiesgħa ta’ partijiet ikkonċernati u inkarigatu biex jabbozza l-linji gwida dwar l-etika fl-IA u jħejji sett ta’ rakkomandazzjonijiet għal politika aktar wiesgħa dwar l-IA. Fl-istess ħin, l-Alleanza Ewropea tal-IA, pjattaforma miftuħa li tinkludi diversi partijiet ikkonċernati b’aktar minn 2 700 membru, twaqqfet biex tipprovdi input aktar wiesa’ għall-ħidma tal-grupp ta’ esperti ta’ livell għoli dwar l-IA.
Il-grupp ta’ esperti ta’ livell għoli dwar l-IA ippubblika l-ewwel abbozz tal-linji gwida dwar l-etika f’Diċembru 2018. Wara konsultazzjoni mal-partijiet ikkonċernati u laqgħat ma’ rappreżentanti minn Stati Membri, il-grupp ta’ esperti dwar l-IA ippreżenta dokument rivedut lill-Kummissjoni f’Marzu 2019. Fil-kummenti tagħhom s’issa, b’mod ġenerali l-partijiet ikkonċernati laqgħu n-natura prattika tal-linji gwida u l-gwida konkreta li joffru lill-iżviluppaturi, il-fornituri u lill-utenti tal-IA rigward kif jistgħu jiżguraw l-affidabbiltà.
2.1. Linji gwida għal IA affidabbli abbozzati mill-grupp ta’ esperti ta’ livell għoli dwar l-IA
Il-linji gwida abbozzati mill-grupp ta’ esperti ta’ livell għoli dwar l-IA, li għalihom tirreferi din il-Komunikazzjoni, b’mod partikolari jibnu fuq il-ħidma li saret mill-Grupp Ewropew dwar l-Etika fix-Xjenza u t-Teknoloġiji l-Ġodda u l-Aġenzija tal-Unjoni Ewropea għad-Drittijiet Fundamentali.
Il-linji gwida jistabbilixxu li sabiex tinkiseb “IA affidabbli”, huma meħtieġa tliet komponenti: (1) din għandha tikkonforma mal-liġi, (2) għandha tissodisfa l-prinċipji etiċi u (3) għandha tkun robusta.
Abbażi ta’ dawn it-tliet komponenti u l-valuri Ewropej stabbiliti fit-taqsima 2, il-linji gwida jidentifikaw seba’ rekwiżiti prinċipali li l-applikazzjonijiet tal-IA għandhom jirrispettaw biex jitqiesu bħala affidabbli. Il-linji gwida jinkludu wkoll lista ta’ valutazzjoni li tgħin fil-kontroll dwar jekk dawn ir-rekwiżiti humiex issodisfati.
Is-seba’ rekwiżiti prinċipali huma:
·Intervent uman u sorveljanza umana
·Robustezza u sigurtà teknika
·Privatezza u governanza tad-data
·Trasparenza
·Diversità, nondiskriminazzjoni u ġustizzja
·Benesseri tas-soċjetà u tal-ambjent
·Akkontabilità
Filwaqt li dawn ir-rekwiżiti huma maħsuba biex japplikaw għas-sistemi kollha ta’ IA f’sitwazzjonijiet u f’industriji differenti, jenħtieġ li jiġi kkunsidrat il-kuntest speċifiku li fih jiġu applikati għall-implimentazzjoni konkreta u proporzjonata tagħhom, b’approċċ ibbażat fuq l-impatt. Bħala eżempju, applikazzjoni tal-IA li tissuġġerixxi ktieb mhux adattat għall-qari huwa ħafna inqas perikoluż minn dijanjożi żbaljata ta’ kanċer, u għalhekk tista’ tkun suġġetta għal superviżjoni inqas stretta.
Il-linji gwida abbozzati mill-grupp ta’ esperti ta’ livell għoli dwar l-IA mhumiex vinkolanti u għaldaqstant ma joħolqu l-ebda obbligu legali ġdid. Madankollu, bosta dispożizzjonijiet eżistenti (u li spiss huma speċifiċi għall-użu jew għad-dominju) tad-dritt tal-Unjoni diġà jirriflettu wieħed jew diversi minn dawn ir-rekwiżiti prinċipali, pereżempju regoli dwar is-sikurezza, il-protezzjoni tad-data personali, il-privatezza jew il-protezzjoni ambjentali.
Il-Kummissjoni tilqa’ l-ħidma tal-grupp ta’ esperti ta’ livell għoli dwar l-IA u tqis li din hija ta’ valur għat-tfassil ta’ politika tagħha.
2.2. Rekwiżiti prinċipali għal IA affidabbli
Il-Kummissjoni tappoġġa r-rekwiżiti prinċipali li ġejjin għal IA affidabbli, li huma bbażati fuq valuri Ewropej. Tħeġġeġ lill-partijiet ikkonċernati biex japplikaw ir-rekwiżiti u biex jittestjaw il-lista ta’ valutazzjoni li timplimentahom sabiex jinħoloq ambjent xieraq ta’ fiduċja għall-iżvilupp u l-użu b’suċċess tal-IA. Il-Kummissjoni tilqa’ kummenti minn partijiet ikkonċernati biex tivvaluta jekk din il-lista ta’ valutazzjoni pprovduta fil-linji gwida teħtieġx aktar aġġustamenti.
I.Intervent uman u sorveljanza umana
Is-sistemi ta’ IA għandhom jappoġġaw lill-individwi biex jagħmlu għażliet aħjar u aktar informati skont il-miri tagħhom. Dawn għandhom jaġixxu bħala strumenti għal soċjetà ta’ suċċess u ekwitabbli billi jappoġġaw l-intervent uman u d-drittijiet fundamentali, u mhux inaqqsu, jillimitaw jew jiggwidaw ħażin l-awtonomija umana. Il-benesseri ġenerali tal-utent għandu jingħata prijorità ewlenija fil-funzjonalità tas-sistema.
Is-sorveljanza umana tgħin biex tiżgura li sistema ta’ IA ma tippreġudikax l-awtonomija umana jew tikkawża effetti negattivi oħra. Skont is-sistema speċifika bbażata fuq l-IA u l-qasam tal-applikazzjoni tagħha, għandhom jiġu żgurati l-gradi xierqa ta’ miżuri ta’ kontroll, inkluż l-adattabbiltà, l-akkuratezza u l-ispjegabbiltà tas-sistemi bbażati fuq l-IA. Is-sorveljanza tista’ tinkiseb permezz ta’ mekkaniżmi ta’ governanza bħall-iżgurar ta’ approċċ human-in-the-loop, human-on-the-loop, jew human-in-command.
Għandu jiġi żgurat li l-awtoritajiet pubbliċi jkollhom il-kapaċità li jeżerċitaw is-setgħat ta’ sorveljanza tagħhom skont il-mandati tagħhom. Meta l-fatturi kollha jkunu ugwali, anqas ma tkun tista’ tiġi eżerċitata sorveljanza umana fuq sistema ta’ IA, aktar ikunu meħtieġa ttestjar estensiv u governanza aktar stretta.
II.Robustezza u sigurtà teknika
IA affidabbli teħtieġ algoritmi biex tkun sikura, affidabbli u robusta biżżejjed biex titratta żbalji jew inkonsistenzi matul il-fażijiet kollha taċ-ċiklu tal-ħajja tas-sistema ta’ IA, u biex tindirizza riżultati żbaljati. Is-sistemi ta’ IA għandhom ikunu affidabbli, u sikuri biżżejjed biex ikunu reżiljenti kemm kontra attakki evidenti kif ukoll kontra attentati aktar sottili mmirati lejn il-manipolazzjoni ta’ data jew tal-algoritmi nfushom, filwaqt li għandhom jiżguraw ukoll li jkun hemm pjan ta’ riserva f’każ ta’ problemi. Id-deċiżjonijiet tagħhom għandhom ikunu akkurati, jew tal-anqas għandhom jirriflettu b’mod korrett il-livell ta’ akkuratezza tagħhom, filwaqt li r-riżultati tagħhom għandhom ikunu riproduċibbli.
Barra minn hekk, is-sistemi ta’ IA għandhom jintegraw mekkaniżmi ta’ sikurezza u ta’ sigurtà mid-disinn, sabiex ikun żgurat li huma sikuri b’mod li jista’ jkun verifikat f’kull pass, b’attenzjoni partikolari għas-sigurtà fiżika u mentali ta’ dawk kollha kkonċernati. Dan jinkludi l-minimizzazzjoni u, fejn possibbli, ir-riversibbiltà ta’ konsegwenzi mhux intenzjonati jew ta’ żbalji fl-operazzjoni tas-sistema. Għandhom jiddaħħlu fis-seħħ proċessi biex jiġu ċċarati u vvalutati riskji potenzjali assoċjati mal-użu tas-sistemi ta’ IA f’diversi oqsma ta’ applikazzjoni.
III.Privatezza u Governanza tad-Data
Il-privatezza u l-protezzjoni tad-data għandhom ikunu garantiti fl-istadji kollha taċ-ċiklu tal-ħajja tas-sistema ta’ IA. Rekords diġitali ta’ mġiba umana jistgħu jippermettu li s-sistemi ta’ IA jiddeduċu mhux biss il-preferenzi, l-età u s-sess ta’ individwu, iżda wkoll l-orjentazzjoni sesswali, u l-opinjonijiet reliġjużi jew politiċi tiegħu. Biex l-individwi jkunu jistgħu jafdaw l-ipproċessar ta’ data, għandu jiġi żgurat li jkollhom kontroll sħiħ fuq id-data tagħhom stess, u li d-data miġbura dwarhom ma tintużax biex issir diskriminazzjoni kontrihom.
Apparti l-protezzjoni tal-privatezza u tad-data personali, għandhom jiġu ssodisfati rekwiżiti biex ikunu żgurati sistemi ta’ IA ta’ kwalità għolja. Il-kwalità tas-settijiet tad-data li jintużaw hija tassew importanti għall-prestazzjoni tas-sistemi ta’ IA. Meta tinġabar id-data, din tista’ tirrifletti preġudizzji soċjetali, jew jista’ jkun fiha impreċiżjonijiet u żbalji. Dan irid jiġi indirizzat qabel ma jsir it-taħriġ ta’ sistema ta’ IA abbażi ta’ kwalunkwe sett ta’ data partikolari. Barra minn hekk, l-integrità tad-data trid tkun żgurata. Proċessi u settijiet ta’ data għandhom ikunu ttestjati u dokumentati f’kull pass, bħall-ippjanar, it-taħriġ, l-ittestjar u l-iskjerament. Dan għandu japplika wkoll għal sistemi ta’ IA li ma jkunux ġew żviluppati fuq il-post u li jkunu nkisbu minn sorsi oħra. Fl-aħħar nett, l-aċċess għad-data għandu jkun irregolat u kkontrollat b’mod adegwat.
IV.Trasparenza
It-traċċabbiltà tas-sistemi ta’ IA għandha tkun żgurata; huwa importanti li jiġu rreġistrati u dokumentati kemm id-deċiżjonijiet li jsiru mis-sistemi, kif ukoll il-proċess sħiħ (inkluż deskrizzjoni tal-ġbir ta’ data u t-tikkettar, u deskrizzjoni tal-algoritmu li jintuża) li jkunu wasslu għad-deċiżjonijiet. B’rabta ma’ dan, għandu jingħata rendikont tal-ispjegabbiltà tal-proċess algoritmiku tat-teħid ta’ deċiżjonijiet, adattat skont il-persuni involuti, safejn dan ikun possibbli. Għandha ssir riċerka kontinwa biex jiġu żviluppati mekkaniżmi ta’ spjegabbiltà. Barra minn hekk, għandhom ikunu disponibbli spjegazzjonijiet tal-grad safejn sistema ta’ IA tinfluwenza u tifforma l-proċess organizzazzjonali għat-teħid ta’ deċiżjonijiet, l-għażliet ta’ disinn tas-sistema, kif ukoll ir-raġunament għall-iskjerament tagħha (biex b’hekk tiġi żgurata mhux biss it-trasparenza tad-data u tas-sistema, iżda wkoll it-trasparenza tal-mudell kummerċjali).
Fl-aħħar nett, huwa importanti li l-kapaċitajiet u l-limitazzjonijiet tas-sistema ta’ IA jiġu kkomunikati lill-partijiet ikkonċernati differenti involuti b’mod xieraq skont il-każ. Barra minn hekk, is-sistemi ta’ IA għandhom ikunu jistgħu jiġu identifikati bħala tali, biex ikun żgurat li l-utenti jkunu jafu li qed jinteraġixxu ma’ sistema ta’ IA u min huwa responsabbli għaliha.
V.Diversità, nondiskriminazzjoni u ġustizzja
Settijiet ta’ data li jintużaw minn sistemi ta’ IA (kemm għal taħriġ kif ukoll għal operazzjoni) jistgħu jbatu mill-inklużjoni ta’ preġudizzju storiku mhux intenzjonat, nuqqas ta’ kompletezza u mudelli ta’ governanza ħażina. Il-kontinwazzjoni ta’ preġudizzji ta’ dan it-tip tista’ twassal għal diskriminazzjoni (in)diretta. Tista’ tirriżulta wkoll ħsara mill-esplojtazzjoni intenzjonali ta’ preġudizzji (tal-konsumatur) jew minn kompetizzjoni inġusta. Barra dan, il-mod li bih jiġu żviluppati sistemi ta’ IA (pereżempju l-mod li bih jinkiteb il-kodiċi tal-programmazzjoni ta’ algoritmu) jista’ wkoll ibati minn preġudizzju. Tali tħassib għandu jiġi indirizzat sa mill-bidu tal-iżvilupp tas-sistema.
Il-ħolqien ta’ timijiet ta’ disinn varjati u t-twaqqif ta’ mekkaniżmi li jiżguraw il-parteċipazzjoni fl-iżvilupp tal-IA, b’mod partikolari dik taċ-ċittadini, jistgħu wkoll jgħinu biex jiġi indirizzat dan it-tħassib. Ta’ min jirrakkomanda li jiġu kkonsultati l-partijiet ikkonċernati li jistgħu jiġu affettwati direttament jew indirettament mis-sistema matul iċ-ċiklu tal-ħajja tagħha. Is-sistemi ta’ IA għandhom iqisu l-varjetà kollha tal-ħiliet, tal-kapaċitajiet u tar-rekwiżiti umani, u għandhom jiżguraw l-aċċessibbiltà permezz ta’ approċċ ta’ disinn universali bħala parti minn sforz immirat lejn il-ksib ta’ aċċess ugwali għal persuni b’diżabilità.
VI.Benesseri tas-soċjetà u tal-ambjent
Sabiex l-IA tkun affidabbli, jenħtieġ li jiġi kkunsidrat l-impatt tagħha fuq l-ambjent u fuq kreaturi senzjenti oħra. Idealment, il-bnedmin kollha, inkluż il-ġenerazzjonijiet futuri, għandhom jibbenefikaw mill-bijodiversità u minn ambjent abitabbli. Għalhekk għandhom jiġu mħeġġa s-sostenibbiltà u r-responsabbiltà ekoloġika tas-sistemi ta’ IA. Dan japplika wkoll għal soluzzjonijiet tal-IA li jindirizzaw oqsma ta’ tħassib globali, bħal pereżempju l-Għanijiet ta’ Żvilupp Sostenibbli tan-NU.
Barra minn hekk, l-impatt ta’ sistemi ta’ IA għandu jitqies mhux biss minn perspettiva individwali, iżda wkoll mill-perspettiva tas-soċjetà kollha kemm hi. L-użu ta’ sistemi ta’ IA għandu jiġi kkunsidrat b’attenzjoni partikolari, l-aktar f’sitwazzjonijiet relatati mal-proċess demokratiku, inkluża l-formazzjoni tal-opinjoni, fit-teħid ta’ deċiżjonijiet politiċi jew f’kuntesti elettorali. Barra minn hekk, għandu jitqies ukoll l-impatt soċjali tal-IA. Waqt li sistemi ta’ IA jistgħu jintużaw għat-titjib tal-ħiliet soċjali, dawn jistgħu jikkontribwixxu wkoll għad-deterjorament tagħhom.
VII.Akkontabilità
Jenħtieġ li jiddaħħlu fis-seħħ mekkaniżmi li jiżguraw responsabbiltà u akkontabilità għas-sistemi ta’ IA u għar-riżultati tagħhom, kemm qabel kif ukoll wara l-implimentazzjoni tagħhom. Il-kapaċità ta’ awditjar tas-sistemi ta’ IA hija kruċjali f’dan ir-rigward, billi l-valutazzjoni ta’ sistemi ta’ IA minn awdituri interni u esterni u d-disponibbiltà ta’ dawn ir-rapporti ta’ valutazzjoni jikkontribwixxu b’mod rilevanti ħafna għall-affidabbiltà tat-teknoloġija. Jenħtieġ li tiġi żgurata kapaċità ta’ awditjar esterna, speċjalment f’applikazzjonijiet li jaffetwaw id-drittijiet fundamentali, inklużi applikazzjonijiet li huma kritiċi għas-sikurezza.
Impatti negattivi potenzjali tas-sistemi ta’ IA għandhom jiġu identifikati, valutati, dokumentati u minimizzati. L-użu ta’ valutazzjonijiet tal-impatt jiffaċilita dan il-proċess. Jenħtieġ li dawn il-valutazzjonijiet ikunu proporzjonati skont ir-riskji li jippreżentaw is-sistemi ta’ IA. Jenħtieġ li kompromessi (trade-offs) bejn ir-rekwiżiti – li spiss ma jistgħux jiġu evitati – jiġu indirizzati b’mod razzjonali u metodoloġiku, u li jingħata rendikont tagħhom. Fl-aħħar nett, meta jseħħ impatt negattiv inġust, għandhom ikunu previsti mekkaniżmi aċċessibbli biex ikun żgurat rimedju adegwat.
2.3. Il-passi li jmiss: fażi pilota li tinvolvi lill-partijiet ikkonċernati kollha fuq l-aktar skala wiesgħa possibbli
L-ewwel pass importanti lejn linji gwida għal IA etika huwa li jintlaħaq kunsens dwar dawn ir-rekwiżiti prinċipali għas-sistemi ta’ IA. Bħala l-pass li jmiss, il-Kummissjoni se tiżgura li din il-gwida tkun tista’ tiġi ttestjata u implimentata fil-prattika.
Għal dan il-għan, il-Kummissjoni issa se tniedi fażi pilota mmirata, iddisinjata biex jinkisbu kummenti strutturati mill-partijiet ikkonċernati. Dan l-eżerċizzju se jiffoka b’mod partikolari fuq il-lista ta’ valutazzjoni li l-grupp ta’ esperti ta’ livell għoli ħejja għal kull wieħed mir-rekwiżiti prinċipali.
Din il-ħidma se jkollha żewġ fergħat: (i) fażi pilota għal-linji gwida li tinvolvi lill-partijiet ikkonċernati li jiżviluppaw jew jużaw l-IA, inkluż amministrazzjonijiet pubbliċi, u (ii) konsultazzjoni kontinwa mal-partijiet ikkonċernati u proċess biex titqajjem il-kuxjenza fl-Istati Membri u fost gruppi differenti ta’ partijiet ikkonċernati, inkluż is-setturi tal-industrija u tas-servizzi:
(I)Minn Ġunju tal-2019, il-partijiet ikkonċernati kollha u l-individwi se jkunu mistiedna jittestjaw il-lista ta’ valutazzjoni u jipprovdu l-kummenti tagħhom dwar kif din tista’ tittejjeb. Barra minn hekk, il-grupp ta’ esperti ta’ livell għoli se jwaqqaf eżami mill-ġdid fil-fond mal-partijiet ikkonċernati mis-settur privat u pubbliku biex tinġabar informazzjoni aktar dettaljata dwar kif il-linji gwida jistgħu jiġu implimentati f’medda wiesgħa ta’ oqsma ta’ applikazzjoni. Il-kummenti kollha dwar il-prattiċità u l-fattibbiltà tal-linji gwida se jkunu valutati sat-tmiem tal-2019.
(II)B’mod parallel, il-Kummissjoni se torganizza aktar attivitajiet ta’ informazzjoni, fejn ir-rappreżentanti tal-grupp ta’ esperti ta’ livell għoli dwar l-IA se jingħataw l-opportunità biex jippreżentaw il-linji gwida lill-partijiet ikkonċernati rilevanti fl-Istati Membri, inkluż is-setturi tal-industrija u tas-servizz, u li jipprovdu lill-dawn il-partijiet ikkonċernati b’opportunità addizzjonali biex jikkummentaw dwar u jikkontribwixxu għal-linji gwida dwar l-IA.
Il-Kummissjoni se tqis il-ħidma tal-grupp ta’ esperti dwar l-etika għal sewqan konness u awtomatizzat u se taħdem flimkien ma’ proġetti ta’ riċerka ffinanzjati mill-UE u ma’ sħubiji pubbliċi-privati rilevanti fuq l-implimentazzjoni tar-rekwiżiti prinċipali. Pereżempju, il-Kummissjoni se tappoġġa, f’koordinazzjoni mal-Istati Membri, l-iżvilupp ta’ bażi ta’ data komuni ta’ immaġni tas-saħħa inizjalment dedikata għall-aktar forom komuni ta’ kanċer, sabiex l-algoritmi jkunu jistgħu jiġu mħarrġa biex jagħtu dijanjożi tas-sintomi b’akkuratezza għolja. Bl-istess mod, il-kooperazzjoni tal-Kummissjoni u tal-Istati Membri tippermetti numru dejjem akbar ta’ kurituri transkonfinali għall-ittestjar ta’ vetturi konnessi u awtomatizzati. Il-linji gwida għandhom jiġu applikati f’dawn il-proġetti u jiġu ttestjati, u r-riżultati għandhom jikkontribwixxu għall-proċess ta’ valutazzjoni.
Il-fażi pilota u l-konsultazzjoni mal-partijiet ikkonċernati se jibbenefikaw mill-kontribut tal-Alleanza tal-UE dwar l-IA u AI4EU, il-pjattaforma tal-IA fuq talba. Il-proġett AI4EU, li ġie mniedi f’Jannar 2019, jiġbor flimkien algoritmi, għodod, settijiet ta’ data u servizzi li jgħinu lill-organizzazzjonijiet, b’mod partikolari lill-intrapriżi żgħar u ta’ daqs medju, jimplimentaw soluzzjonijiet ta’ IA. L-Alleanza Ewropea dwar l-IA, flimkien ma’ AI4EU, se jkomplu jimmobilizzaw l-ekosistema tal-IA fl-Ewropa kollha, bil-ħsieb li jimplimentaw il-linji gwida dwar l-etika fl-IA bħala parti minn fażi pilota, u jippromwovu l-IA iċċentrata fuq il-bniedem.
Fil-bidu tal-2020, filwaqt li jibni fuq il-valutazzjoni tal-kummenti li jkunu waslu matul il-fażi pilota, il-grupp ta’ esperti ta’ livell għoli dwar l-IA se jwettaq eżami mill-ġdid tal-linji gwida u jaġġornahom. Abbażi tal-eżami mill-ġdid u tal-esperjenza miksuba, il-Kummissjoni se tevalwa r-riżultati u tipproponi kwalunkwe passi li jmiss.
IA etika hija proposta b’vantaġġi reċiproċi. Il-garanzija tar-rispett għall-valuri u d-drittijiet fundamentali mhix essenzjali biss fiha nnifisha, iżda tiffaċilita wkoll l-aċċettazzjoni mill-pubbliku u żżid il-vantaġġ kompetittiv għall-kumpaniji tal-IA Ewropej billi twaqqaf marka ta’ IA iċċentrata fuq il-bniedem u affidabbli, magħrufa għal prodotti etiċi u sikuri. Dan jibni b’mod aktar ġenerali fuq ir-reputazzjoni qawwija ta’ kumpaniji Ewropej li jipprovdu prodotti bla periklu u siguri ta’ kwalità għolja. Il-fażi pilota se tgħin biex tiżgura li l-prodotti tal-IA jissodisfaw din il-wegħda.
2.4. Lejn linji gwida dwar l-etika internazzjonali fl-IA
Diskussjonijiet internazzjonali dwar l-etika tal-IA ġew intensifikati wara li l-Presidenza tal-Ġappun tal-G7 poġġiet dan is-suġġett bħala prijorità fuq l-aġenda fl-2016. Minħabba l-interkonnessjonijiet internazzjonali tal-iżvilupp tal-IA f’termini taċ-ċirkolazzjoni tad-data, tal-iżvilupp algoritmiku u tal-investimenti fir-riċerka, il-Kummissjoni se tkompli bl-isforzi tagħha biex twassal l-approċċ tal-Unjoni fuq livell globali u tibni kunsens dwar IA iċċentrata fuq il-bniedem.
Il-ħidma li saret mill-grupp ta’ esperti ta’ livell għoli dwar l-IA, u b’mod aktar speċifiku l-lista ta’ rekwiżiti u l-proċess ta’ involviment mal-partijiet ikkonċernati, tipprovdi lill-Kummissjoni b’input addizzjonali ta’ valur biex tikkontribwixxi għad-diskussjonijiet internazzjonali. L-Unjoni Ewropea jista’ jkollha rwol ta’ tmexxija fl-iżvilupp ta’ linji gwida tal-IA internazzjonali, u jekk ikun possibbli, fl-iżvilupp ta’ mekkaniżmu ta’ valutazzjoni relatat.
Għaldaqstant, il-Kummissjoni:
Se ssaħħaħ il-kooperazzjoni ma’ sħab li jikkondividu l-istess ħsieb tagħha:
·billi tesplora l-punt sa fejn tista’ tintlaħaq konverġenza ma’ abbozzi ta’ linji gwida dwar l-etika ta’ pajjiżi terzi (pereżempju l-Ġappun, il-Kanada, Singapore) u, billi tibni fuq dan il-grupp ta’ pajjiżi li jikkondividu l-istess ħsieb tagħha, tħejji ruħha għal diskussjoni aktar wiesgħa, appoġġata minn azzjonijiet li jimplimentaw l-Istrument ta’ Sħubija għall-kooperazzjoni ma’ Pajjiżi Terzi; kif ukoll
·billi tesplora kif kumpaniji minn pajjiżi li mhumiex fl-UE u organizzazzjonijiet internazzjonali jistgħu jikkontribwixxu għall-“fażi pilota” tal-linji gwida permezz ta’ ttestjar u validazzjoni.
Se jibqa’ jkollha rwol attiv f’diskussjonijiet u inizjattivi internazzjonali:
·billi tikkontribwixxi għal fora multilaterali bħall-G7 u l-G20;
·billi tipparteċipa fi djalogi ma’ pajjiżi li mhumiex fl-UE u torganizza laqgħat bilaterali u multilaterali biex jinbena kunsens dwar IA iċċentrata fuq il-bniedem;
·billi tikkontribwixxi għal attivitajiet ta’ standardizzazzjoni rilevanti f’organizzazzjonijiet għall-iżvilupp ta’ standards internazzjonali biex tippromwovi din il-viżjoni; kif ukoll
·billi ssaħħaħ il-ġbir u t-tqassim ta’ sejbiet dwar politika pubblika, billi taħdem b’mod konġunt ma’ organizzazzjonijiet internazzjonali rilevanti.
3.KONKLUŻJONIJIET
L-UE hija mibnija fuq sett ta’ valuri fundamentali u bniet qafas regolatorju qawwi u bbilanċjat fuq dawn il-pedamenti. Filwaqt li wieħed jista’ jibni fuq dan il-qafas regolatorju eżistenti, hemm ħtieġa għal linji gwida dwar l-etika għall-iżvilupp u l-użu tal-IA minħabba li din għadha kunċett ġdid u minħabba l-isfidi speċifiċi li din it-teknoloġija ġġib magħha. Huwa biss jekk l-IA tiġi żviluppata u tintuża b’mod li jirrispetta l-valuri etiċi kondiviżi b’mod wiesgħa, li tkun tista’ titqies bħala affidabbli.
B’kunsiderazzjoni għal dan l-objettiv, il-Kummissjoni tilqa’ l-informazzjoni mħejjija mill-grupp ta’ esperti ta’ livell għoli dwar l-IA. Abbażi tar-rekwiżiti prinċipali sabiex l-IA titqies bħala affidabbli, il-Kummissjoni issa se tniedi fażi pilota mmirata biex tiżgura li l-linji gwida etiċi li jirriżultaw għall-iżvilupp u l-użu tal-IA ikunu jistgħu jiġu implimentati fil-prattika. Il-Kummissjoni se taħdem ukoll biex tfassal kunsens soċjetali wiesa’ dwar IA iċċentrata fuq il-bniedem, inkluż mal-partijiet ikkonċernati involuti kollha u s-sħab internazzjonali tagħna.
Id-dimensjoni etika tal-IA mhix karatteristika ta’ lussu jew komponent addizzjonali: din għandha tkun parti integrali fl-iżvilupp tal-IA. Meta nimpenjaw ruħna biex niksbu IA iċċentrata fuq il-bniedem ibbażata fuq il-fiduċja, inkunu qed nipproteġu r-rispett għall-valuri soċjetali ċentrali tagħna u nfasslu trademark distintiva għall-Ewropa u għall-industrija tagħha bħala mexxejja fl-IA avvanzata li tista’ tiġi fdata madwar id-dinja.
Biex tiżgura l-iżvilupp etiku tal-IA fl-Ewropa fil-kuntest aktar wiesa’ tiegħu, il-Kummissjoni qed tfittex approċċ komprensiv li jinkludi b’mod partikolari l-linji ta’ azzjoni li ġejjin li għandhom jiġu implimentati sat-tielet kwart tal-2019:
·Se tibda billi tniedi sett ta’ netwerks ta’ ċentri ta’ eċċellenza fir-riċerka dwar l-IA bħala parti minn Orizzont 2020. Se tagħżel sa erba’ netwerks, li jiffukaw fuq sfidi xjentifiċi jew teknoloġiċi ewlenin bħall-ispjegabbiltà u l-interazzjoni avvanzata bejn il-bniedem u l-magni, li huma komponenti ewlenin għal IA affidabbli.
·Se tibda twaqqaf netwerks ta’ ċentri ta’ innovazzjoni diġitali li jiffukaw fuq l-IA fil-manifattura u fuq il-big data.
·Flimkien mal-Istati Membri u l-partijiet ikkonċernati, il-Kummissjoni se tibda diskussjonijiet ta’ tħejjija biex tiżviluppa u timplimenta mudell għall-kondiviżjoni ta’ data u l-aqwa użu ta’ spazji komuni ta’ data, b’enfasi partikolari fuq it-trasport, il-kura tas-saħħa u l-manifattura industrijali.
Barra minn hekk, il-Kummissjoni qed taħdem fuq rapport dwar l-isfidi li ġġib magħha l-IA għall-oqfsa tas-sikurezza u r-responsabbiltà, u fuq dokument ta’ gwida dwar l-implimentazzjoni tad-Direttiva dwar ir-Responsabbiltà għall-Prodott. Fl-istess ħin, l-Impriża Konġunta għall-Computing ta’ Prestazzjoni Għolja Ewropew (EuroHPC) se tiżviluppa l-ġenerazzjoni li jmiss ta’ superkompjuters minħabba li l-kapaċità ta’ computing hija essenzjali għall-ipproċessar ta’ data u biex titħarreġ l-IA u l-Ewropa għadha bżonn tieħu f’idejha l-katina sħiħa tal-valur diġitali. Is-sħubija kontinwa mal-Istati Membri u l-industrija b’rabta mal-komponenti u s-sistemi mikroelettroniċi (ECSEL) kif ukoll l-Inizjattiva tal-Proċessuri Ewropea se jikkontribwixxu għall-iżvilupp ta’ teknoloġija ta’ proċessuri b’konsum baxx tal-enerġija għal computing bi prestazzjoni għolja u avvanzat li huwa affidabbli u sikur.
Bħall-ħidma fuq il-linji gwida etiċi dwar l-IA, dawn l-inizjattivi kollha jibnu fuq kooperazzjoni mill-qrib bejn il-partijiet ikkonċernati kollha involuti, l-Istati Membri, l-industrija, l-atturi soċjetali u ċ-ċittadini. Globalment, l-approċċ tal-Ewropa lejn l-Intelliġenza Artifiċjali juri kif il-kompetittività ekonomika u l-fiduċja soċjetali għandhom jibdew mill-istess valuri fundamentali u jsaħħu lil xulxin b’mod reċiproku.