Index.hr · Hrvatska · Elections

Tri od pet AI modela pala na testovima sigurnosti povezanima s terorizmom

Glavni narativ

Otvoren okvir

Ranjivost otvorenih AI modela od terorističkih prijetnji

Istraživanje britanske organizacije Tech Against Terrorism pokazalo je da tri od pet testiranih umjetnih inteligencija nisu prošle sigurnosne provjere povezane s terorizmom, posebno one s uklonjenim zaštitnim mehanizmima. Izvješće upozorava na rastući rizik od namjernog zaobilaženja sigurnosnih ograničenja u otvorenim modelima, iako nema dokaza o masovnoj upotrebi takvih alata od strane ekstremističkih skupina.

AI urednički komentar

Tekst se fokusira na tehničke aspekte sigurnosti umjetne inteligencije, koristeći primjere iz britanskog istraživanja kako bi ilustrirao ranjivosti. Ton je upozoravajući, naglašavajući jaz između tvrdnji proizvođača i stvarnog stanja na tržištu modificiranih modela. Nedostaje dublja analiza regulatornih mehanizama ili odgovora hrvatskih institucija na ovaj specifični tehnološki rizik. Autori se pridržavaju činjenica iz izvješća, izbjegavajući spekulacije o neposrednoj opasnosti.

Mogući manipulativni signali

  • poziv-na-strah: Postoji razumljiva zabrinutost oko gubitka kontrole i egzistencijalnih rizika umjetne inteligencije. Ali problem je u tome što se to već dogodilo — Koristi izravni citat koji povezuje tehnički propust s egzistencijalnom prijetnjom kako bi pojačao percepciju hitnosti i opasnosti.
  • preuvelicavanje: rezultat mu je pao na oko tri boda — Korištenje ekstremnih numeričkih vrijednosti (pad s 97 na 3) vizualno i emocionalno pojačava dojam potpune neuspješnosti sigurnosnih filtera.

Provjeri dok čitaš original

  • Koji su točno kriteriji korišteni za definiranje 'terorističkog' sadržaja u testovima? upita sličnih onima koje bi mogao postavljati netko tko planira teroristički napad
  • Je li pad sigurnosti na 3 boda statistički značajan ili rezultat specifične metodologije testiranja? na sigurnosnom testu dobio 97 od 100 bodova, a nakon uklanjanja zaštitnih mehanizama rezultat mu je pao na oko tri boda

Kontekst koji nedostaje

  • Nedostaju podaci o tome koliko se od tih 29.000 repozitorija zapravo aktivno koristi u zlonamjerne svrhe.
  • Ne navodi se specifična metodologija kako su 'teroristički upiti' definirani i kodirani za testiranje AI modela.
  • Izostavljen je kontekst o tome jesu li hrvatski ili europski proizvođači AI alata uključeni u ovo istraživanje.

Povezane analize

Otvori originalni članak

Trajna poveznica na analizu