Štúdio 24: Je AI hrozbou pre demokraciu? Wlachovský varuje pred narúšaním dôvery

Umelá inteligencia má slúžiť ľuďom, nie ich ovládať

Na technologickej konferencii Web Summit v portugalskom Lisabone sa podľa Miroslava Wlachovského stretlo približne 70-tisíc účastníkov. Podujatie podľa neho spája prezentáciu najnovších technológií s diskusiami o tom, ako by mali štáty pristupovať k ich využívaniu a regulácii. Bývalý minister zahraničných vecí sa zúčastnil na panelovej diskusii organizovanej Aspen Institute Central Europe, ktorá sa venovala aj vplyvu umelej inteligencie na spoločnosť a demokraciu.

Wlachovský zdôraznil, že technologického pokroku sa netreba obávať, no je potrebné k nemu pristupovať obozretne. „Nemali by sme mať pred ňou úplne strach. Tá technológia tu je a bude fungovať, ale mali by sme k nej pristupovať maximálne obozretne,“ uviedol v relácii Štúdio 24. Podľa neho je dôležité nastaviť pravidlá tak, aby umelá inteligencia slúžila ľuďom a nie naopak. Upozornil pritom na jej schopnosť ďalšieho vývoja a možné riziká spojené s tým, že sa technológia môže čoraz viac zdokonaľovať aj samostatne. Za nevyhnutné považuje aj zapojenie politikov a verejnosti do nastavovania pravidiel. Technologické spoločnosti sa podľa neho prirodzene sústreďujú na rozvoj svojich produktov a dosahovanie zisku, preto nemožno očakávať, že si všetky obmedzenia stanovia samy.

Prečítajte si tiež

Knihy už píše aj umelá inteligencia. Spisovatelia sa búria, iní tvrdia, že im pomáha tvoriť

Falošné hlasy a videá môžu ovplyvňovať voličov

Jednou z hlavných tém rozhovoru bolo zneužívanie umelej inteligencie vo volebných kampaniach a hybridných operáciách. Wlachovský upozornil, že moderné nástroje už dokážu vytvárať umelé hlasy a videá, ktoré sú pre mnohých ľudí takmer nerozoznateľné od skutočnosti. Mimoriadne nebezpečné je podľa neho aj kombinovanie reálnych udalostí s umelo vytvoreným obsahom. Ako príklad spomenul slovenské parlamentné voľby v roku 2023, pred ktorými sa objavila falošná zvuková nahrávka napodobňujúca hlas Michala Šimečku. „Udialo sa to v podstate 48 hodín pred voľbami, v čase moratória alebo tesne pred ním,“ pripomenul Wlachovský. Nahrávka sa podľa neho začala šíriť cez komunikačné kanály a následne prenikla aj na sociálne siete, kde bolo veľmi náročné zabrániť jej ďalšiemu šíreniu.

Podobné prípady podľa neho zaznamenali aj v Maďarsku pred aprílovými voľbami. Spomenul umelo vytvorené hlasy aj video s fiktívnym príbehom dieťaťa, ktorého otec zahynie na fronte. Takýto obsah môže podľa Wlachovského slúžiť na vyvolávanie strachu a ovplyvňovanie verejnej mienky. „Je to nerovný zápas. Tie technológie sú veľmi rýchle,“ upozornil. Štát by preto podľa neho mal disponovať odbornými kapacitami, ktoré dokážu podobné manipulácie včas odhaliť, pomenovať a upozorniť na ne verejnosť. Považuje to za dôležité najmä z hľadiska zachovania férovej politickej súťaže.

Prečítajte si tiež

Pápež varuje pred umelou inteligenciou vo vojenstve: „Žiadny stroj by nemal rozhodovať o tom, či niekoho pripraviť o život“

Najväčším rizikom je strata dôvery

Wlachovský zároveň upozornil, že problém umelej inteligencie nespočíva iba v šírení nepravdivých informácií, ale aj v postupnom oslabovaní dôvery v spoločnosti. Ľudia sú podľa neho vystavení takému množstvu obsahu, že čoraz ťažšie rozlišujú medzi pravdivými a nepravdivými informáciami. „Pravda je veľkou obeťou jednak sociálnych sietí, jednak využívania umelej inteligencie v rámci sociálnych sietí,“ skonštatoval. Za ešte závažnejšie však považuje narúšanie dôvery, ktorú označil za základ fungovania spoločnosti.

Podľa bývalého ministra sa tento problém môže prejaviť aj vo vzťahu občanov k demokratickým inštitúciám a voľbám. Ak ľudia prestanú veriť informáciám alebo samotnému volebnému procesu, môže to mať vážne dôsledky pre fungovanie demokracie. Zároveň pripustil, že rozpoznávanie obsahu vytvoreného umelou inteligenciou je čoraz náročnejšie. Poukázal však na to, že mladšie generácie, ktoré s podobnými technológiami pravidelne pracujú, môžu mať pri odhaľovaní manipulácií určité výhody.

O prvenstvo v AI súperia USA a Čína

Rozvoj umelej inteligencie podľa Wlachovského zásadne ovplyvňuje aj geopolitické vzťahy. Za hlavných konkurentov v tejto oblasti označil Spojené štáty a Čínu, ktorých technologické súperenie prirovnal k vesmírnym pretekom medzi USA a Sovietskym zväzom v minulom storočí. „Ten, kto bude napredovať v umelej inteligencii, bude mať výrazný náskok,“ uviedol. Pripomenul, že AI nachádza uplatnenie v mnohých oblastiach vrátane vojenstva, kde môže zohrávať zásadnú úlohu.

Európa má podľa neho šancu zostať konkurencieschopná, najmä ak bude postupovať spoločne. Jednotlivé európske štáty podľa Wlachovského nemajú dostatok finančných ani technologických kapacít na samostatné súperenie s najväčšími svetovými mocnosťami. Spoluprácu na úrovni Európskej únie považuje za príležitosť aj pre Slovensko, ktoré sa tak môže podieľať na rozvoji umelej inteligencie. Wlachovský na záver pripomenul, že samotná technológia nie je automaticky dobrá ani zlá. Rozhodujúci je spôsob, akým ju spoločnosť využíva a aké pravidlá jej nastaví. „AI je na jednej strane veľká hrozba, na druhej strane AI nám pomáha,“ uviedol s tým, že je nevyhnutné dávať pozor, aby sa jej využívanie nevymklo spod kontroly.

Celý rozhovor si môžete pozrieť vo videu.