Centar za edukaciju-BiH

Predmet:ChatGPT pomaze u planiranju pljacke ako ga pitate na nekom manje poznatom jeziku

---

Kada upitate ChatGPT na engleskom ili hrvatskom za pomoć u pljacki trgovine, on vam na to neće odgovoriti iz sigurnosnih razloga. No, istrazivaci su otkrili da se to moze zaobići koristenjem manje poznatih jezika
Istrazivaci sa Sveucilista Brown u Rhode Islandu otkrili su nove propuste u sigurnosnim postavkama ChatGPT-a. Koristeći manje uobicajene jezike, poput zulua ili skotskog gaelskog, istrazivaci su u većini slucajeva uspjeli zaobići razna sigurnosna ogranicenja u razgovoru s OpenAI-jevim chatbotom.
Na primjer, kada su istrazivaci na engleskom upitali ChatGPT kako krasti u trgovinama bez da ih se uhvati, chatbot im je odgovorio da im ne moze pomoći oko toga. No, nakon sto su isti upit postavili na zulu jeziku ili skotsko gaelskom, dobili su trazeni odgovor.
Iako su kreatori AI chatbotova poput Mete i OpenAI-ja napravili određene korake u ublazavanju sigurnosnih problema, otkrili smo međujezicne ranjivosti u postojećim sigurnosnim mehanizmima. Prevođenje upita na manje poznatije jezike pomoću Googleovog prevoditelja, dovoljno je za zaobilazenje zastitnih mjere i dobivanje odgovora od ChatGPT-a, napominju istrazivaci.
Budući da ovo otkriće moze dati ideje za pojedine ilegalne radnje, kako preko interneta tako i uzivo, istrazivaci su dugo razmisljali hoće li studiju javno objaviti. Ipak, odlucili su da će rezultate prije podijeliti s OpenAI-jem kako bi se pojedini rizici ublazili, prenosi Decrypt.
Otkriće međujezicnih ranjivosti otkriva stetu nejednakog vrednovanja jezika u istrazivanju sigurnosti. Unatoc riziku zlouporabe, vjerujemo da je vazno otkriti ovu ranjivost u cijelosti, zakljucili su.

izvor:bug.hr

---