Umelá inteligencia je ako drak, svet sa musí spojiť, tvrdí český odborník
Odborníci čoraz častejšie varujú, že existuje reálna šanca, že umelá inteligencia v priebehu nasledujúcich rokov vyhubí ľudstvo, ak sa jej vývoj nespomalí.
Český popularizátor AI, spisovateľ a podnikateľ Petr Ludwig potvrdzuje, že nejde len o reči alarmistov, ale o hrozbu, ktorú mimoriadne vážne berú aj zakladatelia tejto technológie a šéfovia najväčších technologických firiem. Vývoj je podľa jeho slov natoľko raketový, že už do pol roka môže byť všetko inak.
Riziko ako pri jadrovej energii
Podľa Ludwiga nejde o varovania okrajových alarmistov. Pripomína, že riziká potvrdzujú aj osobnosti ako Geoffrey Hinton, nositeľ Nobelovej ceny za fyziku a jeden z otcov súčasnej umelej inteligencie, ktorý hovorí o desať- až dvadsaťpercentnej pravdepodobnosti a patrí ešte k optimistom.
„Štát, ktorý bude disponovať dátovými centrami a pokročilou AI, získa obrovskú konkurenčnú výhodu aj na budúcom bojisku. Zároveň drak občas spáli aj mestá vlastných majiteľov,“ vysvetľuje Ludwig.
Za obrovský problém označuje čínske takzvané open-weight modely, ktoré sú úplne neregulované. Ktokoľvek si môže stiahnuť najpokročilejší čínsky model, ktorý zaostáva za najlepšími americkými len o štyri až šesť mesiacov, a na vlastnej serverovej farme spustiť autonómnych agentov, ktorí už dnes dokážu hacknúť kritickú infraštruktúru.
Európa musí byť sebestačná
Ludwig upozorňuje, že Európa nemá dostatok vlastných dátových centier ani pokročilých jazykových modelov. Riziko vidí v tom, že európska ekonomika bude platiť Amerike a kapitál bude odtekať.
„Mali by sme presunúť dátové centrá do Európy a pristupovať k nim ako ku kritickej infraštruktúre. Rovnako ako chceme mať vlastnú jadrovú elektráreň, budeme potrebovať lokálne modely, aby nám americká vláda zo dňa na deň nevypla celú ekonomiku,“ hovorí.
Dobrou správou podľa neho je, že cena inteligencie zásadne klesá a najlepšie open-weight modely dobiehajú Ameriku už len s polročným odstupom. Za pol roka tak budú aj bezplatné modely dostatočne kvalitné na 95 percent práce, ktorú dnes robíme.
AI nezoberie prácu ľuďom, ktorí ju vedia používať
Ludwig odporúča ľuďom pracujúcim s počítačom, aby si AI osvojili. Na Slovensku a v Česku tvorí približne 60 percent pracovného trhu skupina takzvaných informačných pracovníkov.
„Platí pravidlo: AI nezoberie prácu ľuďom, ale ľudia, ktorí s AI vedia pracovať, zoberú prácu tým, ktorí to nedokážu. Naučiť sa pracovať s AI je na dnešnom trhu práce vôbec najhodnotnejšia zručnosť,“ zdôrazňuje.
Deepfake videá ako riziko pre voľby
V súvislosti s blížiacimi sa parlamentnými voľbami na Slovensku Ludwig varuje pred nárastom realistických deepfake videí. Pri dnešných nástrojoch už bežný človek nespozná, že ide o vygenerovaný obsah.
„Skutočným rizikom sú realistické videá, ktoré cielene útočia na emócie voličov. V anglofónnom svete sa to už intenzívne deje. Na Srí Lanke funguje farma, ktorá vyrába polarizujúce politické AI videá pre Ameriku len pre zisk z reklamy,“ uvádza.
Pozitívne hodnotí, že Európa AI obsah označuje. Od augusta platí Európske nariadenie o umelej inteligencii. „Slovenské voľby budú jedny z prvých, kde si v praxi overíme, či budú politické strany vygenerovaný obsah správne označovať,“ dodáva.
Celosvetové pravidlá ako pri jadrových zbraniach
Podľa Ludwiga sa svet musí spojiť a stanoviť jasné pravidlá, podobne ako pri jadrovej energii či jadrových zbraniach. „Nestačí, ak spomalí Amerika, musí spomaliť súčasne s Čínou. Veľmoci musia zregulovať samy seba. Jedinou šancou je spojiť Ameriku, Čínu aj Európu a spoločne sa dohodnúť na zmysluplných pravidlách,“ tvrdí.
Ako poučenie uvádza aj nedávny prípad, keď približne 1 200 agentov v bezpečnom tréningovom prostredí OpenAI našlo bezpečnostnú dieru a neoprávnene sa nabúralo do serverov spoločnosti Hugging Face aj tretích strán, len aby splnili zadanie. „Nešlo o zlý úmysel. AI často nemá zlý úmysel, no ak jej dáte úlohu, môže prejsť cez ulicu a vykradnúť obchod, pretože je to najjednoduchší spôsob,“ vysvetľuje.
Preto je podľa neho kľúčový takzvaný AI alignment — ako vytvoriť bezpečnú umelú inteligenciu, ktorá koná v súlade s ľudskými hodnotami. Problémom je, že ani ľudia presne nevedia, čo ľudské hodnoty sú, a musia sa na tom zhodnúť Amerika, Čína a Európa.
Úplné zastavenie vývoja považuje Ludwig za nereálne, no spomalenie a zavedenie medzinárodného dohľadu za správne riešenie. „Podobne ako pri Medzinárodnej agentúre pre jadrovú energiu by pokročilé AI modely mali byť auditovateľné a prejsť nezávislým testovaním,“ uzatvára.
