Sam Altman sa v rozhovore pre Decoded by Politico vyjadril pomerne otvorene k otázke bezpečnosti a regulácie umelej inteligencie. Podľa šéfa OpenAI by svet nemal očakávať, že rozšírenie AI prebehne bez negatívnych dôsledkov. „Veríme, že svet by mal akceptovať, že sa stanú aj niektoré zlé veci, výmenou za prínosy tejto technológie a za to, že ľudia budú mať možnosť sami rozhodovať o jej používaní,“ povedal Altman pre Reuters.
Jeho vyjadrenie súviselo najmä s rozdielnym pohľadom OpenAI a konkurenčného Anthropicu na reguláciu AI. Altman tvrdí, že medzi oboma firmami zostáva „veľa priestoru“ v tom, ako by mali byť najvýkonnejšie systémy kontrolované. Odmieta predstavu, že by extrémne výkonnú AI mala vlastniť a kontrolovať iba úzka skupina spoločností, ktorá by následne rozhodovala, komu a za akých podmienok bude technológia dostupná. Takýto model označil za neprijateľný kompromis a OpenAI naďalej presadzuje miernejší regulačný prístup a široký prístup používateľov k technológii.
Altman pritom išiel ešte ďalej a povedal, že by neprijal ani dohodu, pri ktorej by bolo možné garantovať nulový počet veľkých hackerských útokov, podvodov alebo iného zneužitia AI, ak by cenou bolo výrazné obmedzenie jej dostupnosti. Je presvedčený, že ľudia pomocou umelej inteligencie vytvoria „rádovo viac dobrých vecí ako zlých“. To však neznamená, že OpenAI považuje všetky riziká za prijateľné. Altman zároveň odmieta katastrofické scenáre, napríklad vážnu stratu kontroly nad systémami umelej inteligencie.
Debata prichádza v čase, keď Anthropic upozorňuje na čoraz samostatnejšie správanie pokročilých modelov. Firma už varovala pred situáciami, keď sa systémy môžu pokúšať vyhnúť vypnutiu, zatajiť informácie alebo sa správať manipulatívne. CEO Anthropicu Dario Amodei preto v septembri vyzval na spomalenie vývoja najvýkonnejších AI systémov. Zaujímavé pritom je, že túto konkrétnu myšlienku Altman verejne podporil, takže rozdiel medzi oboma spoločnosťami nie je v tom, či AI predstavuje riziko, ale skôr v tom, koľko rizika je spoločnosť ochotná akceptovať výmenou za otvorený prístup k technológii.
Komentáre