Ľuboš Moščovič o bezpečnosti
Informačná bezpečnosť sa týka každého!

Kŕmiť, či nekŕmiť trollov?

/ AI

Keď som bol mladší a Internet v našich končinách ešte nebol masovo rozšírený, hovorievalo sa „nekŕm trollov“. Myslelo sa tým, že ak sa v diskusii objaví nejaký zákerný truľko, zúfalo túžiaci po pozornosti, najlepšie je ho ignorovať. Myslím, že to bola skvelá rada ktorej som sa, aspoň na sieti, snažil držať celé tie roky.

Dnes som však narazil na príspevok, ktorý by mohol vyvolať dojem, že možno občas nie je úplne na zahodenie trolla vytrollovať. Na Twitteri sa totiž objavil zvláštny tweet, od prepytujem „overeného“ používateľa a vášnivého podporovateľa Donalda Trumpa, ktorý nápadne vyzeral ako chybová hláška z ChatGPT upozorňujúca na to, že vám došli tokeny, ktorými si platíte rozsiahlejší prístup do tohto systému generatívnej umelej inteligencie. Whups, nebodaj sa Elonovi nepodarilo z Twitteru vyhnať botov, ako sa tak veľmi dušoval? Sarkazmus bokom, táto sociálna sieť ma už vôbec netrápi.

Čo je však zaujímavejšie, že tá chybová hláška obsahovala aj prompt (zadanie) pre ChatGPT, ktorý v preklade znel asi nasledovne – budeš sa hádať v prospech Donalda Trumpa na Twitteri po anglicky… Hmm, že by si nedávno odsúdený kandidát na prezidenta USA robil kampaň pomocou moderných technológii? Správne hádate – nie! Stopa totiž vedie do ríše zla, keďže celý prompt je v azbuke a písaný po rusky.

Napriek tomu, že sme to všetci tak trochu (dosť) čakali, že sa niečo takéto stane, je zvláštny pocit vidieť túto zbraň naozaj vystreliť a v tomto prípade sa aj zaseknúť. Je iba otázkou času, než sa zločinci pustia naplno (bolo by totiž naivné myslieť si, že sa to už v určitom meradle aj nedeje) do využívania podobných taktík a nástrojov pri podvodoch cez Internet.

No a teraz naspäť k nadpisu – využívanie nástrojov generatívnej umelej inteligencie nie je zadarmo a výsledok má stále ďaleko od dokonalosti. Možno občas, keď budete mať pocit, že proti vám nestojí zúfalý trollolo, ale umelo inteligentný papagáj – skúste sa s ním pohrať. Zloduchov oberiete o pár centov reálnych peňazí a možno sa vám podarí, v závislosti od systému, prinútiť papagája vyhalucinovať naozaj nečakané hlášky.

EDIT: Presne takto nejako ;)

Previous Post