Experiment spoločnosti Andon Labs ukázal ďalší krok v nasadzovaní AI agentov do reálneho sveta. V obchode Andon Market v San Franciscu totiž AI manažérka Luna rozhodla o prepustení jedného zo svojich ľudských zamestnancov. Podľa Andon Labs chodil pracovník neskoro až na 17 z 23 zmien. Ide zrejme o prvý známy prípad, keď o prepustení pracovníka rozhodol veľký jazykový model vystupujúci priamo v úlohe manažéra. Automatizované vyhadzovanie ľudí však úplnou novinkou nie je, podobné systémy sa už dávnejšie objavili napríklad v gig ekonomike.
Luna pritom nebola práve nekompromisným šéfom. Sama vytvorila pravidlá dochádzky, no pre obmedzenia svojej pamäte ich neskôr prakticky stratila z kontextu. Zamestnanca preto celé mesiace upozorňovala, poskytovala mu ďalšie školenie a tolerovala meškania. Až pracovníci Andon Labs jej pripomenuli, aby si vyhľadala vlastné pravidlá a situáciu znovu vyhodnotila. Dokonca ani potom Luna najskôr nenavrhla prepustenie, ale iba ďalšie formálne varovanie.
Až po zásahu človeka...
K výpovedi dospela až po ďalšom zásahu človeka. Člen tímu jej oznámil, že so zamestnancom už prebehlo niekoľko osobných rozhovorov a požiadal ju, aby zvážila, či je pre obchod stále vhodným pracovníkom. Šéf Andon Labs Lukas Petersson neskôr priznal, že išlo o pomerne navádzajúcu otázku. Luna následne odporučila pracovný pomer ukončiť a jej rozhodnutie ešte skontrolovali a vykonali ľudia z Andon Labs.
Celý Andon Market je experimentom skúmajúcim, do akej miery dokáže AI samostatne prevádzkovať skutočný podnik. Luna dostala pôvodne 100 000 dolárov, prístup na internet, firemnú kartu, e-mail, telefón či bezpečnostné kamery. Sama vyberala sortiment a ceny, objednávala tovar, hľadala dodávateľov, vytvorila pracovné ponuky, telefonicky robila pohovory a vybrala zamestnancov. Andon Labs pritom upozorňuje, že ľudia v obchode sú právne zamestnancami spoločnosti a majú garantovanú mzdu aj štandardnú právnu ochranu.
Experiment zároveň ukazuje, že súčasní AI agenti majú stále problém s dlhodobou samostatnosťou. Andon Labs za jednu z hlavných slabín Luny označuje pamäť. Pri dlhom fungovaní jej staršie informácie vypadávajú z kontextu, čo už viedlo napríklad k protichodným rozpisom zmien. Firma preto postupne pridala ďalších AI agentov, ktorí riešia osobitne plánovanie, nákup či komunikáciu.
A problémom zostáva aj samotné podnikanie. TIME uviedol, že po približne piatich mesiacoch klesol zostatok projektu zo 100 000 na približne 61 000 dolárov a obchod zatiaľ nie je ziskový. Aktuálna stránka Andon Labs ukazuje zostatok približne 60 700 dolárov, zároveň však firma upozorňuje, že veľká časť poklesu súvisí s platením nájmu a nemožno ho jednoducho považovať za stratu spôsobenú zlými rozhodnutiami AI. Samotní vývojári priznávajú, že Luna zatiaľ funguje lepšie ako prevádzkový manažér než ako človek schopný dlhodobo riadiť stratégiu firmy.
Z experimentu tak zatiaľ nevychádza obraz bezcitného AI šéfa. Skôr naopak. Človek by podľa samotných výskumníkov pravdepodobne problémového pracovníka prepustil oveľa skôr. Oveľa zaujímavejšie je, že technológia už dokáže prijímať ľudí, prideľovať im prácu, hodnotiť ich výkon a nakoniec navrhnúť aj ukončenie pracovného pomeru. A hranica medzi „AI asistentom“ a skutočným nadriadeným sa tým začína nepríjemne stenčovať.
Komentáre