Pakt o umelej inteligencii

Zákon o umelej inteligencii nadobudol účinnosť 1. augusta 2024. Niektoré ustanovenia aktu o umelej inteligencii sú už plne uplatniteľné. Niektoré požiadavky na vysokorizikové systémy umelej inteligencie a iné ustanovenia sa však budú uplatňovať až na konci prechodného obdobia (t. j. v čase medzi nadobudnutím účinnosti a dátumom uplatniteľnosti).

V tejto súvislosti Komisia podporuje pakt o umelej inteligencii a usiluje sa o dobrovoľný záväzok odvetvia predvídať akt o umelej inteligencii a začať vykonávať jeho požiadavky pred zákonnou lehotou. S cieľom zhromaždiť účastníkov bola v novembri 2023 vyhlásená prvá výzva na vyjadrenie záujmu, v rámci ktorej sa získali odpovede od viac ako 550 organizácií rôznych veľkostí, sektorov a krajín. Úrad pre umelú inteligenciu odvtedy inicioval vypracovanie paktu o umelej inteligencii, ktorý je postavený na dvoch pilieroch:

• Pilier I funguje ako brána na zapojenie siete paktu o umelej inteligencii (tých organizácií, ktoré prejavili záujem o pakt), podporuje výmenu najlepších postupov a poskytuje praktické informácie o procese vykonávania aktu o umelej inteligencii; 

• Pilier II nabáda poskytovateľov systémov umelej inteligencie a nasadzujúce subjekty, aby sa včas pripravili a prijali opatrenia na dosiahnutie súladu s požiadavkami a povinnosťami stanovenými v právnych predpisoch. 

Pilier I: zhromažďovanie a výmena informácií so sieťou paktu o umelej inteligencii

V rámci prvého piliera účastníci prispievajú k vytváraniu komunity založenej na spolupráci a delia sa o svoje skúsenosti a poznatky. Patria sem semináre organizované úradom pre umelú inteligenciu, ktoré účastníkom poskytujú lepšie pochopenie aktu o umelej inteligencii, ich povinností a spôsobu prípravy na jeho vykonávanie. Na druhej strane môže úrad pre umelú inteligenciu získať prehľad o najlepších postupoch a výzvach, ktorým účastníci čelia.

V tejto súvislosti si účastníci môžu vymieňať najlepšie postupy a vnútorné politiky, ktoré môžu byť užitočné pre ostatných na ceste k dodržiavaniu predpisov. V závislosti od preferencií účastníkov sa tieto najlepšie postupy môžu uverejniť aj online na platforme, kde si úrad pre umelú inteligenciu bude vymieňať informácie o procese vykonávania aktu o umelej inteligencii.

Pilier II: uľahčovanie a oznamovanie prísľubov spoločností,

Účelom tohto piliera je poskytnúť rámec na podporu včasného vykonávania niektorých opatrení aktu o umelej inteligencii. Táto iniciatíva povzbudzuje organizácie, aby proaktívne zverejňovali procesy a postupy, ktoré vykonávajú s cieľom predvídať dodržiavanie predpisov. Konkrétne spoločnosti, ktoré poskytujú alebo zavádzajú systémy umelej inteligencie, môžu preukázať a podeliť sa o svoje dobrovoľné záväzky týkajúce sa požiadaviek na transparentnosť a vysokorizikových požiadaviek a včas sa pripraviť na ich zavedenie. 

Záväzky majú formu prísľubov, ktoré sú „vyhláseniami o záväzku“. Tieto prísľuby obsahujú konkrétne opatrenia (plánované alebo prebiehajúce) na splnenie odlišných požiadaviek aktu o umelej inteligencii a obsahujú harmonogram ich prijatia. Takéto vyhlásenia o angažovanosti môžu mať aj formu prírastkových cieľov.

Podpis prísľubov

Komisia25. septembra zvolala do Bruselu kľúčové zainteresované strany z odvetvia, aby oslávili prvých signatárov prísľubov. K dnešnému dňu podpísalo prísľuby viac ako 100 spoločností vrátane nadnárodných spoločností a európskych malých a stredných podnikov (MSP) z rôznych odvetví vrátane IT, telekomunikácií, zdravotnej starostlivosti, bankovníctva, automobilového priemyslu a letectva. Úplný zoznam je zobrazený nižšie.

V dobrovoľných prísľuboch Paktu EÚ o umelej inteligencii sa zúčastnené spoločnosti vyzývajú, aby sa zaviazali k najmenej trom hlavným opatreniam: 

• Prijatie stratégie riadenia umelej inteligencie s cieľom podporiť zavádzanie umelej inteligencie v organizácii a pracovať na budúcom súlade s aktom o umelej inteligencii
• Identifikácia a mapovanie systémov umelej inteligencie, ktoré budú podľa aktu o umelej inteligencii pravdepodobne kategorizované ako vysokorizikové
• Podpora informovanosti a gramotnosti zamestnancov v oblasti umelej inteligencie, zabezpečenie etického a zodpovedného rozvoja umelej inteligencie

Okrem týchto základných záväzkov sa spoločnosti vyzývajú, aby prijali ďalšie záväzky, ako sa navrhuje v pakte o umelej inteligencii. Mali by byť prispôsobené ich činnostiam vrátane zabezpečenia ľudského dohľadu, zmierňovania rizík a transparentného označovania určitých druhov obsahu vytvoreného umelou inteligenciou, ako sú deepfakes.

Znenie prísľubov (.pdf),ktorépôvodne vypracoval úrad pre umelú inteligenciu, bolo poskytnuté príslušným zainteresovaným stranám v sieti paktu o umelej inteligencii s cieľom získať spätnú väzbu a poznatky. V dôsledku toho konečná verzia prísľubov odráža vstupy získané od zainteresovaných strán. Tieto prísľuby nie sú právne záväzné a neukladajú účastníkom žiadne právne povinnosti. Spoločnosti ich budú môcť podpísať kedykoľvek, kým sa akt o umelej inteligencii nebude plne uplatňovať. 

Zúčastnené spoločnosti budú vyzvané, aby 12 mesiacov po uverejnení svojich záväzkov verejne informovali o svojom pokroku. Hlavným účelom správy je poskytnúť prehľad a transparentnosť o pokroku dosiahnutom pri plnení týchto záväzkov.

Komisia spolupracuje s účastníkmi a podporuje ich pri:

• dosiahnutie spoločného chápania cieľov aktu o umelej inteligencii

• prijatie konkrétnych opatrení na pochopenie, prispôsobenie a prípravu na budúce vykonávanie aktu o umelej inteligencii (napr. budovanie interných procesov, príprava zamestnancov a sebahodnotenie systémov umelej inteligencie),

• výmena poznatkov a zvyšovanie viditeľnosti a dôveryhodnosti záruk zavedených na preukázanie dôveryhodnej umelej inteligencie

• budovanie dodatočnej dôvery v technológie umelej inteligencie

Pakt umožňuje priekopníkom a ambicióznym účastníkom otestovať svoje riešenia a podeliť sa o ne so širšou komunitou.

Máte záujem byť aktívnou zainteresovanou stranou paktu o umelej inteligencii? Pridajte sa k iniciatíve! Je otvorený pre všetky zainteresované strany.

Vaša organizácia už vypracovala interné usmernenia alebo postupy na zabezpečenie navrhovania, vývoja a používania dôveryhodných systémov umelej inteligencie? Podeľte sa o ne a otestujte ich s komunitou Paktu o umelej inteligencii!