Štúdio 24: Kauza Grok - AI a nahota

Vďaka financiám z reklamy prinášame kvalitné a objektívne informácie. Povoľte si prosím zobrazovanie reklamy na našom webe. Ďakujeme, že podporujete kvalitnú žurnalistiku.

BRATISLAVA / Verejnosť aj politikov pobúrili nedávne prípady, keď nástroj umelej inteligencie Grok integrovaný do sociálnej siete X Elona Muska odstraňoval oblečenie ženám a deťom na obrázkoch zverejnených na sieti. Viac o tomto prípade, aj o tom, či sa možno voči vyzliekaniu na internete nejako brániť sme si povedali s Jurajom Podroužkom, ktorý v Kempelenovom inštitúte inteligentných technológií vedie výskumný tím pre etiku a reguláciu umelej inteligencie.

Môže byť každý chatbot nebezpečný?

Na otázku, či existujú chatboti, ktorí by mohli generovať takéto obsah, Podroužek odpovedal, že technicky áno, ale väčšina renomovaných modelov má nastavené ochranné mechanizmy, aby zabránila generovaniu nevhodného obsahu. Tieto mechanizmy sú navrhnuté tak, aby zablokovali požiadavky, ktoré by mohli byť problematické, vrátane tých, ktoré sa týkajú násilia či pornografie.

Kto nesie zodpovednosť?

Podroužek sa zamyslel nad otázkou zodpovednosti za generovanie nevhodného obsahu. Uviedol, že zodpovednosť leží nielen na vývojároch, ale aj na užívateľoch, ktorí sa snažia obísť pravidlá. Z pohľadu legislatívy je zodpovednosť rozdelená medzi národné a európske regulácie, pričom prevádzkovatelia online platforiem majú povinnosť dodržiavať stanovené pravidlá.

Etické hranice a právne aspekty

Diskusia sa posunula k etickým otázkam, týkajúcim sa generovania obrázkov. Podroužek zdôraznil, že generovanie nahých detí je jednoznačne za čiarou a môže byť považované za trestný čin. V tejto súvislosti je dôležité rozlišovať medzi nevinným humorom a obsahom, ktorý môže vážne narušiť súkromie jednotlivca.

Ako sa brániť pred zneužitím?

Juraj Podroužek potvrdil, že pre bežných užívateľov existujú obmedzené možnosti, ako sa brániť pred zneužitím ich obrazov. Odporučil, aby sa užívatelia zamysleli nad tým, aký obsah zverejňujú na sociálnych sieťach, a vyhýbali sa zdieľaniu osobných fotografií, ktoré by mohli byť neskôr zneužité.