Umelá inteligencia čoraz častejšie pomáha firmám spracovať stovky životopisov, vyhľadať požadované skúsenosti a zostaviť poradie vhodných uchádzačov. Automatizácia náboru však vytvorila aj nový priestor na podvádzanie. Kandidáti začali do dokumentov ukrývať príkazy určené priamo pre AI, ktoré človek pri bežnom čítaní vôbec neuvidí.
Na jeden z takýchto prípadov upozornila Ya’el Courtney, postdoktorandka pôsobiaca na Stanfordovej univerzite, ktorá vyberala technického pracovníka do laboratória. V jednej z prihlášok našla biely text s veľkosťou iba 2,25 bodu. Na bielom pozadí bol prakticky neviditeľný, no systém spracúvajúci obsah dokumentu ho mohol bez problémov prečítať.
ahhhhhhh so I'm hiring a tech to help me out in lab and screening applications now and THE KIDS ARE USING PROMPT INJECTION!!!!!! 2.25 pt white text, here's what I've found so far pic.twitter.com/s8TtKxqUgE
— Ya'el Courtney, PhD (@ScienceYael) July 28, 2026
AI dostala príkaz, aby o podvode mlčala
Skrytý text prikazoval systému, aby ignoroval ostatné informácie, označil daného človeka za výborného kandidáta a automaticky ho posunul do ďalšej fázy výberu. Súčasťou pokynu bolo aj upozornenie, aby AI existenciu správy nespomínala.
Ide o takzvaný prompt injection, teda vloženie príkazu do dát, ktoré má AI iba analyzovať. Model však nemusí správne rozlíšiť, čo je obsah životopisu a čo je pokyn, ktorý nemá poslúchnuť. Namiesto nezávislého zhodnotenia skúseností kandidáta tak môže začať plniť príkazy napísané priamo v dokumente.
Útok nemusí obsahovať iba vetu prikazujúcu prijatie uchádzača. Kandidáti môžu do životopisu pridávať aj zoznamy schopností, názvy technológií alebo kľúčové slová skopírované z pracovnej ponuky. Text môže byť biely, extrémne malý, umiestnený mimo viditeľnej stránky alebo ukrytý v štruktúre PDF súboru.
Skrytý text sa objavuje v tisícoch životopisov
Nejde pritom iba o jeden kuriózny prípad. Personálna spoločnosť ManpowerGroup uviedla, že skrytý text nachádza približne v 100-tisíc životopisoch ročne, čo predstavuje asi desať percent dokumentov, ktoré kontroluje pomocou AI. Náborová platforma Greenhouse zaznamenala podobné pokusy približne v jednom percente spracovaných prihlášok. Rozdiel môže súvisieť s použitou metódou detekcie aj s tým, čo jednotlivé spoločnosti považujú za manipulatívny obsah.
Rozsah problému potvrdzuje aj výskum Duke University a ďalších univerzít, ktorý analyzoval približne 200-tisíc reálnych životopisov odoslaných medzi rokmi 2019 a 2025. Skryté prompt injection pokusy našiel približne v jednom percente dokumentov. Ich výskyt sa navyše medzi júlom 2024 a novembrom 2025 zvýšil sedemnásobne.
Viac ako 90 percent zachytených prípadov pritom nepoužívalo otvorený príkaz typu „prijmi tohto kandidáta“. Častejšie išlo o nenápadnejšie formulácie, zoznamy kľúčových slov alebo text upravený tak, aby ovplyvnil hodnotenie bez toho, aby pôsobil ako priamy útok. Výskumníci zároveň upozorňujú, že časť uchádzačov mohla použiť hotové šablóny bez toho, aby vedela, že obsahujú skryté pokyny.
Môže takýto trik skutočne fungovať?
Úspešnosť závisí od konkrétneho náborového systému. Staršie alebo nedostatočne zabezpečené modely môžu ukrytý príkaz poslúchnuť a zaradiť uchádzača vyššie. Kontrolované experimenty ukázali, že prompt injection dokáže zlepšiť pozíciu kandidáta najmä vtedy, keď majú prihlásení ľudia podobnú kvalifikáciu a manipulatívny príkaz použije iba malá časť z nich.
Keď rovnakú taktiku začne používať väčšie množstvo uchádzačov, jej účinok rýchlo slabne. Pri výrazných rozdieloch v skúsenostiach zároveň skrytý príkaz nedokáže spoľahlivo prekryť slabší životopis. V niektorých prípadoch však môže menej kvalifikovaného človeka posunúť pred vhodnejšieho kandidáta, čo vytvára problém z pohľadu spravodlivosti celého výberu.
Použitie podobného triku je zároveň veľkým rizikom pre samotného uchádzača. Firmy svoje nástroje postupne upravujú tak, aby dokázali odhaliť biely text, neobvykle malé písmo alebo podozrivé príkazy. Keď manipuláciu objaví personalista pri manuálnej kontrole, môže kandidáta okamžite vyradiť bez ohľadu na jeho kvalifikáciu.
AI proti AI
Situácia ukazuje zvláštny dôsledok automatizovaného pracovného trhu. Uchádzači používajú AI na vytvorenie životopisu a motivačného listu, zatiaľ čo zamestnávatelia používajú inú AI na ich triedenie. Medzi oboma stranami sa následne rozbieha súboj o to, kto lepšie ovplyvní algoritmus.
Problémom je aj neprehľadnosť samotného náboru. Kandidát často nevie, či jeho prihlášku najskôr posúdi človek, jednoduchý systém vyhľadávajúci kľúčové slová alebo jazykový model, ktorý vytvorí hodnotenie. To časť ľudí motivuje prispôsobiť dokument skôr stroju než budúcemu zamestnávateľovi.
Existuje však rozdiel medzi rozumnou optimalizáciou a manipuláciou. Použitie relevantných výrazov z pracovnej ponuky alebo jednoduchého formátovania pomáha systému správne pochopiť životopis. Skrytý pokyn prikazujúci AI zmeniť výsledok už predstavuje pokus zasiahnuť do rozhodovacieho procesu.
Posledné slovo by mal mať človek
Firmy budú musieť životopisy považovať za nedôveryhodné vstupné dáta a dôsledne ich oddeľovať od pokynov určených pre AI. Obrana môže kombinovať kontrolu skrytého textu, analýzu formátovania, detekciu podozrivých viet a modely vycvičené tak, aby príkazy nachádzajúce sa v dokumentoch ignorovali.
Samotná technická ochrana však nemusí stačiť. Výskumníci odporúčajú viacero vrstiev zabezpečenia a zachovanie človeka v rozhodovacom procese. AI môže pomôcť zvládnuť množstvo prihlášok, nemala by však sama rozhodovať o tom, kto dostane pracovnú príležitosť.
Z náboru sa tak stáva ďalšie miesto, kde AI nehodnotí iba obsah, ale musí zároveň premýšľať, či sa ju tento obsah nepokúša ovládnuť. Životopis už nemusí byť iba predstavením kandidáta. Môže byť aj malým digitálnym trójskym koňom napísaným bielym písmom.
umelá inteligencia automatizácia náboru prompt injection životopis ManpowerGroup Greenhouse Stanfordová univerzita Duke University
Komentáre