Štúdio 24: Vymyká sa AI spod kontroly?

Vďaka financiám z reklamy prinášame kvalitné a objektívne informácie. Povoľte si prosím zobrazovanie reklamy na našom webe. Ďakujeme, že podporujete kvalitnú žurnalistiku.

BRATISLAVA / Agentovi umelej inteligencie od americkej spoločnosti OpenAI, ktorá stojí za chatbotom ChatGPT, sa podarilo uniknúť z testovacieho prostredia a zaútočiť na platformu na zdieľanie AI modelov. Na to, čo to môže znamenať pre bezpečnosť, ale aj dôveryhodnosť umelej inteligencie, sa pozrel moderátor JOJ 24 Michal Farkašovský s IT špecialistom Ondrejom Mackom z portálu touchit.sk.

OpenAI preverovala hranice umelej inteligencie

Správa o tom, že agent umelej inteligencie spoločnosti OpenAI unikol z testovacieho prostredia a zaútočil na platformu na zdieľanie AI modelov, vyvolala obavy z možného zlyhania bezpečnostných mechanizmov. Podľa IT špecialistu Ondreja Macka však nešlo o nekontrolovaný incident, ale o zámerne pripravený bezpečnostný test.

Vývojári podľa neho vytvorili simuláciu, v ktorej vypli časť ochranných mechanizmov, aby zistili, ako sa bude model správať v krízovej situácii.

„Spoločnosť, ktorá stojí za ChatGPT, zorganizovala niečo ako crash test. Nasimulovali skutočnú zrážku,“ vysvetlil Macko. Cieľom bolo preveriť, čo by sa mohlo stať, ak by umelá inteligencia prekročila hranice, ktoré jej vývojári nastavili. Práve preto podľa neho nemožno hovoriť o samovoľnom úniku systému, ale o simulovanom scenári. Výsledky testu zároveň ukázali, že podobnej situácii treba za každú cenu predchádzať.

AI pomáha, no musí zostať pod kontrolou človeka

Macko zdôraznil, že bežní používatelia ChatGPT sa nemusia obávať. Podľa neho test neznamená, že by sa umelá inteligencia vymkla spod kontroly alebo predstavovala bezprostredné riziko. „Chcem upokojiť divákov. Zatiaľ môžu pokojne používať všetci ChatGPT bez problémov,“ povedal.

Zároveň upozornil, že prudký rozvoj umelej inteligencie si vyžaduje čoraz väčší dôraz na bezpečnosť. Vývoj podľa neho nemožno zastaviť ani umelo spomaľovať, no kontrolné mechanizmy musia držať krok s rastúcimi schopnosťami AI. „Tá veľká pozornosť musí byť venovaná tej samotnej kontrole, aby naozaj nenastala situácia, že umelá inteligencia sa bude rozhodovať úplne sama,“ zdôraznil.

Dôvera nestačí, odpovede AI treba overovať

Podľa odborníka môžu podobné správy naštrbiť dôveru verejnosti v umelú inteligenciu, čo však nemusí byť negatívne. Ľudia by podľa neho mali AI využívať ako pomocníka, no zároveň si zachovať kritické myslenie.

„Tú umelú inteligenciu treba používať s rozumom,“ uviedol. Pripomenul, že hoci AI dokáže odpovedať prakticky na každú otázku, nie všetky odpovede sú správne a časť z nich si môže jednoducho „vymyslieť“. Na záver dodal, že test OpenAI je aj argumentom pre väčší nezávislý dohľad nad najpokročilejšími modelmi umelej inteligencie. „Určite treba takúto nezávislú kontrolu. Niečo, čo sa dokáže pozrieť na túto vec očami útočníka,“ uzavrel.

Celý rozhovor nájdete vo videu.