AI mala „utiecť“ z testovacieho prostredia. Expert vysvetlil, čo sa naozaj stalo

BRATISLAVA / Správy o tom, že agent umelej inteligencie spoločnosti OpenAI unikol z testovacieho prostredia a zaútočil na platformu na zdieľanie AI modelov, vyvolali obavy z nekontrolovateľného správania AI. Podľa IT špecialistu Ondreja Macka z portálu touchit.sk však nešlo o reálny únik, ale o zámerne pripravený bezpečnostný test. V relácii Štúdio 24 vysvetlil, že cieľom bolo preveriť, ako by sa systém zachoval v simulovaných krízových podmienkach.

OpenAI pripravila „crash test“ umelej inteligencie

Macko prirovnal celý experiment k nárazovým skúškam automobilov. Vývojári podľa neho zámerne vytvorili situáciu, v ktorej boli vypnuté niektoré bezpečnostné mechanizmy, aby zistili, ako sa bude model správať v extrémnych podmienkach.

„V skutočnosti zorganizovala spoločnosť, ktorá stojí za ChatGPT, niečo ako crash test. Nasimulovali skutočnú zrážku,“ vysvetlil.

Prečítajte si tiež

AI sa pri bezpečnostnom teste vymkla kontrole. Kyberneticky napadla inú firmu

​V simulovanom prostredí sa podľa neho umelá inteligencia dostala za hranice, ktoré jej vývojári stanovili. Práve to však bolo cieľom testu – ukázať, čo by sa mohlo stať, ak by ochranné mechanizmy zlyhali. „Nasimulovali ten stav, čo by sa mohlo stať, keby sme si na umelú inteligenciu nedali poriadny pozor,“ dodal.

Dôvod na paniku podľa experta nie je

IT špecialista zdôraznil, že bežní používatelia ChatGPT sa nemusia obávať. Podľa neho incident neznamená, že umelá inteligencia sa vymkla spod kontroly alebo predstavuje bezprostredné riziko.

„Chcem upokojiť divákov. Zatiaľ môžu pokojne používať všetci ChatGPT bez problémov,“ povedal. Výsledky testu podľa neho skôr upozorňujú na potrebu dôsledne kontrolovať vývoj čoraz výkonnejších modelov umelej inteligencie. Ak by totiž AI niekedy dokázala samostatne preberať kontrolu nad ďalšími systémami bez zásahu človeka, išlo by podľa neho o veľmi vážny problém.

Prečítajte si tiež

Umelá inteligencia pomáha predátorom zneužívať deti. Štatistiky varujú pred novými praktikami

​Potrebná je väčšia kontrola aj zdravá opatrnosť

Macko upozornil, že umelá inteligencia napreduje mimoriadne rýchlo a jej vývoj nie je možné jednoducho zastaviť. Namiesto spomaľovania technologického pokroku preto podľa neho treba posilňovať bezpečnostné mechanizmy a nezávislú kontrolu nových modelov.

„Toto je jasný dôkaz o tom, že tá veľká pozornosť musí byť venovaná tej samotnej kontrole,“ zdôraznil. Podľa neho môžu podobné správy krátkodobo naštrbiť dôveru verejnosti v umelú inteligenciu, čo však nemusí byť negatívne. Ľudia by podľa neho mali AI využívať, no zároveň si zachovať kritické myslenie a overovať si informácie, ktoré poskytuje.

Na záver dodal, že test ukazuje aj potrebu nezávislého dohľadu nad najpokročilejšími modelmi umelej inteligencie. „Určite treba takúto nezávislú kontrolu,“ uzavrel.

Záznam z celej relácie si môžete pozrieť vo videu.