Etické princípy a UI

Slovenské podniky patria v strednej Európe k lídrom v adopcii umelej inteligencie (UI), pričom ju integrujú do bezpečnosti, bankovníctva aj maloobchodu. 

Vývoj UI

Vývoj UI v praxi prešiel od teoretických konceptov k technológii, ktorá dnes poháňa svetovú ekonomiku. Tento proces možno rozdeliť do niekoľkých kľúčových etáp:

1. Počiatky a symbolická AI (1950–1980): AI sa sústredila na riešenie logických úloh a hranie šachu.

2. Éra "skrytého" využitia (1990–2010): AI sa začala integrovať do priemyslu a služieb.

3. Moderná AI a veľké dáta (2010–2022): Nástup smartfónov a sociálnych sietí; poskytol potrebné dáta na tréning.

4. Demokratizácia a generatívna AI (2023– súčasnosť): S príchodom modelov ako ChatGPT sa AI stala dostupnou pre každého jednotlivca .

Etika UI

Etika umelej inteligencie sa vyvinula z vedecko-fantastických úvah do prísne regulovanej oblasti, ktorej odborníci venujú intenzívnu pozornosť najmä posledné desaťročie.

Kľúčové fázy vývoja etiky AI:

• Teoretické základy (1942 – 1950): Isaac Asimov definoval v roku 1942 známe Tri zákony robotiky, ktoré hoci boli literárnou fikciou, položili základy pre diskusiu o bezpečnosti strojov. V roku 1950 Alan Turing v článku "Computing Machinery and Intelligence" otvoril otázku, či stroje môžu "myslieť" a akú morálnu zodpovednosť to prináša.
• Asilomarské princípy (2017): Zlomový moment nastal na konferencii v Kalifornii, kde vedci a lídri (vrátane Elona Muska či Stephena Hawkinga) sformulovali 23 Asilomarských princípov UI. Tieto zásady zdôrazňujú, že cieľom výskumu by mala byť prospešná inteligencia, nie inteligencia bez kontroly.
• Európske etické usmernenia (2019): Európska komisia zverejnila Etické usmernenia pre dôveryhodnú UI. Definujú, že UI musí byť legálna, etická a robustná, pričom kľúčovými pilármi sú transparentnosť, férovosť a ľudský dohľad.
• Prvá tvrdá regulácia – EU AI Act (2024): Snahy o etiku vyvrcholili prijatím Aktu o UI (EU AI Act), ktorý oficiálne nadobudol platnosť v júli 2024. Ide o prvý zákon na svete, ktorý kategorizuje systémy UI podľa rizika a zakazuje tie, ktoré sú v rozpore s etickými hodnotami (napr. sociálne skóringovanie).

Etika ako zákon a UI

V roku 2019 publikoval Brent Mittelstadt v prestížnom vedeckom časopise Nature Machine Intelligence vplyvný článok s názvom "Principles alone cannot guarantee ethical AI". Mittelstadt (2019) navrhuje, aby sa etika AI vnímala skôr ako nepretržitý proces a prax, než len ako zoznam pravidiel, a presadzuje zavedenie tvrdších regulačných rámcov. 

Myšlienky Brenta Mittelstadta o tom, že "princípy nestačia", sa stali jedným z teoretických pilierov pre Akt EÚ o UI (z ang. AI Act). Zákonodarcovia si uvedomili, že ak nechajú etiku len na dobrovoľných kódexoch firiem, v praxi sa nič nezmení.

Tu je spôsob, akým sa Mittelstadtova kritika pretavila do konkrétnych pravidiel:

Od "sľubov" k tvrdým povinnostiam: Mittelstadt tvrdil, že pojmy ako "férovosť" sú príliš abstraktné. AI Act preto zavádza presné technické požiadavky pre vysokorizikové systémy (napr. tie používané pri nábore ľudí alebo v školstve). Podikny už nemôžu len tvrdiť, že sú etické; musia povinne viesť podrobnú technickú dokumentáciu a logovanie (záznamy) o tom, ako systém dospel k rozhodnutiu.

Riešenie "profesijnej zodpovednosti": Mittelstadt poukazoval na to, že vývojári nemajú "licenciu", ktorú by mohli stratiť. AI Act to rieši systémom zhody (Conformity Assessment). Ak systém nespĺňa bezpečnostné a etické normy, nesmie byť uvedený na trh v EÚ. Za porušenie hrozia drakonické pokuty až do 35 miliónov eur alebo 7 % globálneho obratu, čo nahrádza chýbajúcu "stavovskú česť" finančnou zodpovednosťou.

Zákaz "neetických" cieľov: Keďže v UI chýba spoločný cieľ, zákon jasne definoval, čo je neprijateľné riziko. Ide o priamu odpoveď na obavu, že komerčné záujmy prevážia nad etikou. Zakázané sú:

• Sociálny skóring: Hodnotenie občanov štátom (podobne ako v Číne).
• Biometrická identifikácia v reálnom čase: Na verejných priestranstvách (s prísnymi výnimkami).
• Manipulatívne techniky: Ktoré využívajú zraniteľnosť osôb (napr. detí).

Ľudský dohľad: Algoritmus nemôže byť konečným arbitrom. AI Act preto striktne vyžaduje, aby vysokorizikové systémy mali zabudované rozhranie pre ľudský dozor. Človek musí mať možnosť kedykoľvek systém vypnúť alebo ignorovať jeho odporúčanie.

Tento posun od "etiky ako odporúčania" k "etike ako zákonu" je presne to, čo Mittelstadt predpovedal ako nevyhnutný krok.

Etické princípy v rámcoch a usmerneniach

Existuje niekoľko princípov etiky, pričom sa postupne zjednotili do globálne uznávaných rámcov. Najvýznamnejším a najviac citovaným zoznamom súčasnosti sú Etické usmernenia pre dôveryhodnú AI, ktoré vypracovala expertná skupina pri Európskej komisii. Tento zoznam obsahuje 7 kľúčových požiadaviek, ktoré by mal spĺňať každý systém UI:

• Ľudské vedenie a dohľad: UI nesmie obmedzovať ľudskú autonómiu. Človek musí mať vždy možnosť zasiahnuť.
• Technická robustnosť a bezpečnosť: systémy musia byť odolné voči útokom a spoľahlivé aj v nečakaných situáciách.
• Ochrana súkromia a správa údajov: používatelia musia mať kontrolu nad svojimi dátami, ktoré musia byť chránené podľa noriem ako GDPR.
• Transparentnosť: rozhodnutia UI musia byť vysvetliteľné a používatelia musia vedieť, že komunikujú so strojom.
• Rozmanitosť, nediskriminácia a spravodlivosť: algoritmy nesmú obsahovať predsudky voči rase, pohlaviu či iným skupinám.
• Spoločenský a environmentálny blahobyt: UI by mala podporovať pozitívne sociálne zmeny a byť energeticky udržateľná.
• Zodpovednosť: musia existovať mechanizmy na vyvodenie zodpovednosti za výsledky, ktoré UI vyprodukuje.

Okrem toho sú dôležité aj:

• Odporúčania UNESCO o etike UI: Prvý globálny štandard prijatý 193 štátmi, ktorý kladie dôraz na ľudské práva a dôstojnosť.
• Princípy OECD pre UI: Súbor zásad pre zodpovedné spravovanie dôveryhodnej UI, ku ktorým sa hlási aj Slovensko.

V praxi sa dnes tieto zoznamy stávajú povinnými cez spomínaný AI Act, ktorý ich mení z dobrovoľných rád na zákonné povinnosti.

Tieto usmernenia (z ang. Ethics Guidelines for Trustworthy AI) zverejnila Expertná skupina na vysokej úrovni pre umelú inteligenciu (AI HLEG), ktorú zriadila Európska komisia, v apríli 2019. Ich vzniku predchádzal dôležitý proces:

• Jún 2018: Európska komisia vymenovala 52 odborníkov z akademickej obce, priemyslu a občianskej spoločnosti do skupiny AI HLEG.
• December 2018: Bol zverejnený prvý návrh usmernení na verejnú konzultáciu.
• Apríl 2019: Finálna verzia bola oficiálne predstavená a odvtedy slúži ako kľúčový dokument pre vývoj etického rámca v Európe.

Tento dokument bol zásadný preto, lebo po prvýkrát definoval koncept "dôveryhodnej UI" založený na troch pilieroch: musí byť v súlade so zákonmi, etická a technicky odolná.

Zdroje

• Etické usmernenia pre dôveryhodnú AI (apríl 2019).

• Akt o umelej inteligencii (EU AI Act).
• Asilomarské princípy (2017).