Algoritmická spravodlivosť: Etické hranice AI a dátovej analytiky v riadení ľudí

Využívanie umelej inteligencie (AI) a dátovej analytiky v riadení ľudských zdrojov (HR) už nie je hudbou budúcnosti, ale každodennou realitou. Algoritmy dnes bežne filtrujú tisíce životopisov, predpovedajú fluktúciu, analyzujú výkony a dokonca hodnotia video-pohovory kandidátov. Pre manažérov to znamená radikálne zrýchlenie procesov a úsporu nákladov. Na pozadí tohto technologického optimizmu sa však otvára zásadná téma: algoritmická spravodlivosť. Kde končí efektivita chladných dát a kde začína ľudská dôstojnosť, etika a právo?

Argument 1: Mýtus o objektívnom stroji a skrytá diskriminácia

Najčastejším argumentom pre nasadenie AI v HR je eliminácia ľudských predsudkov (subjektivity, náladovosti či sympatií personalistu). Výskumy a prax však ukazujú opak: algoritmy nie sú zo svojej podstaty neutrálne. Učia sa na historických dátach, ktoré im poskytnú ľudia. Ak boli minulé rozhodnutia firmy zaťažené vedomou či nevedomou diskrimináciou, AI tento vzorec správania prevezme, zautomatizuje a znásobí.

• ⚠️ Príklad z praxe: Spoločnosť Amazon musela kompletne zrušiť svoj interný experimentálny AI nástroj na nábor zamestnancov. Algoritmus trénovali na životopisoch úspešných uchádzačov za uplynulých 10 rokov. Keďže v technologickom sektore dominovali muži, systém sám od seba vyhodnotil, že mužské pohlavie je faktorom úspechu. Začal systematicky penalizovať životopisy, ktoré obsahovali slovo "ženský" (napr. "kapitánka ženského šachového klubu") a uprednostňoval agresívne slovesá typické pre mužské profily.

Argument 2: Problém "čiernej skrinky" a strata ľudskosti

Keď o kariére alebo prijatí človeka rozhoduje komplexné strojové učenie, narážame na takzvaný efekt black-box (čiernej skrinky). Ani samotní vývojári často nedokážu presne spätne zrekonštruovať, prečo algoritmus konkrétneho kandidáta vyradil a iného posunul ďalej. Z etického aj manažérskeho hľadiska ide o nebezpečný precedens. Každý zamestnanec či uchádzač má morálne právo poznať dôvody rozhodnutia, ktoré ovplyvňuje jeho živobytie. Spoliehanie sa na odpoveď "rozhodol tak systém" zbavuje HR manažérov osobnej zodpovednosti, ničí dôveru vo firemnú kultúru a dehonestuje človeka na obyčajný štatistický riadok v databáze.

Argument 3: Sledovanie výkonu verzus strata súkromia

Dátová analytika umožňuje monitorovať aktivitu zamestnancov do najmenších detailov – od počtu kliknutí myšou, cez čas strávený na sociálnych sieťach, až po analýzu tónu hlasu a emócií v korporátnych četoch. Hoci je cieľom optimalizácia produktivity, nepretržitý dohľad vytvára toxické prostredie panoptika. Zamestnanci pod neustálym dohľadom algoritmov trpia vyššou mierou stresu a úzkosti. Etická hranica leží v otázke primeranosti a súhlasu. Zber dát by mal slúžiť na rozvoj zamestnanca, nie na jeho neustále digitálne prenasledovanie.

Legislatívny imperatív: EÚ Akt o AI (EU AI Act)

Prepojenie etiky a HR už nie je len otázkou dobrej vôle, ale aj tvrdých právnych predpisov. Európska únia v rámci svojho prelomového Aktu o AI (EU AI Act) klasifikuje systémy AI používané v oblasti zamestnanosti, náboru, hodnotenia a monitorovania zamestnancov ako vysoko rizikové (High-Risk AI Systems). Pre firmy to znamená prísne povinnosti:

• Povinné testovanie algoritmov na prítomnosť rasových či rodových predsudkov (bias testing).
• Zabezpečenie permanentného ľudského dohľadu nad rozhodnutiami stroja (human oversight).
• Absolútna transparentnosť a vysvetliteľnosť logiky, na základe ktorej AI dospela k výsledku.
• Poznámka: Používanie AI na rozpoznávanie emócií počas pracovných pohovorov bolo na pôde EÚ zakázané.

Kroky zabezpečenia algoritmickej spravodlivosti

Na základe požiadaviek európskej legislatívy (EU AI Act) a etických štandardov by mali manažéri podniknúť nasledujúce konkrétne kroky na zabezpečenie algoritmickej spravodlivosti:

1. Vykonajte audit súčasných technológií

• Preverte dodávateľov: Vyžiadajte si od tvorcov vášho HR softvéru certifikáty o tom, ako testujú algoritmy na prítomnosť rodových, vekových či rasových predsudkov.
• Mapujte využitie AI: Spíšte presný zoznam nástrojov, ktoré vo firme používate na skenovanie životopisov, testovanie zručností alebo monitorovanie produktivity.

2. Zavedte princíp "Človek v slučke" (Human-in-the-Loop)

• Zákaz automatických verdiktov: Žiadne rozhodnutie o neprijatí kandidáta alebo prepustení zamestnanca nesmie vykonať softvér sám bez finálneho schválenia človekom.
• Algoritmus len odporúča: Definujte AI nástroje výhradne ako pomocných poradcov, pričom konečnú zodpovednosť a morálny úsudok si vždy ponecháva personalista.

3. Zabezpečte transparentnosť procesov

• Informujte kandidátov: Jasne a vopred uchádzačov upozornite, ak do výberového konania vstupuje automatizovaný systém (napr. predvýber životopisov).
• Vysvetliteľnosť výsledkov: Zabezpečte, aby systém dokázal personalistom poskytnúť jasné dôvody (napr. chýbajúce kľúčové zručnosti), prečo kandidáta posúdil určitým spôsobom.

4. Vzdelávajte HR tím v oblasti dátovej etiky

• Školenia na predsudky: Naučte personalistov kriticky hodnotiť odporúčania od umelej inteligencie a rozpoznávať takzvanú "zaujatosť voči automatizácii" (slepú dôveru v neomylnosť počítača).
• Sledovanie legislatívy: Pravidelne aktualizujte interné smernice v súlade s pravidlami pre vysoko rizikové systémy podľa EÚ legislatívy.

Záver: Algoritmus ako poradca, človek ako sudca

Umelá inteligencia má v HR obrovský potenciál – dokáže zbaviť personalistov nudnej administratívy a poskytnúť cenné vedomosti z dát. Nesmie sa však stať konečným sudcom. Pre manažérov je táto téma výzvou na budovanie transparentných systémov s jasným ľudským dohľadom. Pre vedcov znamená potrebu vyvíjať metódy pre "zodpovednú AI" (Explainable AI). A pre študentov je mementom, že ani tie najpokročilejšie technológie nikdy nenahradia kľúčové ľudské vlastnosti: empatiu, morálny úsudok a kontextuálne chápanie ľudských osudov.

Zdroje

• AMAZON. 2018. Amazon scraps secret AI recruiting tool that showed bias against women. [online]. New York: Reuters, 2018 [cit. 2026-06-19]. 
• EÚ. 2024. Artificial Intelligence Act (EU AI Act): Rules on High-Risk AI Systems in Employment and HR. [online]. Brusel: Európsky parlament a Rada EÚ, 2024 [cit. 2026-06-19].
• HARVARD BUSINESS REVIEW. 2021. Ethics and Algorithmic Fairness in Human Resource Management. [online]. Boston: Harvard Business Publishing, 2021 [cit. 2026-06-19].
• RESEARCHGATE. 2023. The Ethical Challenges of AI Deployment in Human Resource Management: Privacy, Transparency and Bias. [online]. Berlin: ResearchGate GmbH, 2023 [cit. 2026-06-19].