Një tjetër incident me inteligjencën artificiale ka ngritur shqetësime për sigurinë e modeleve të avancuara. Kompania Anthropic ka zbuluar se modeli i saj Claude ka arritur të hyjë pa autorizim në sistemet e tre organizatave gjatë një procesi testimi për sigurinë kibernetike.

Sipas kompanisë, incidenti ndodhi për shkak të një gabimi konfigurimi, i cili i dha modeleve Claude akses në internet nga ambiente testimi që duhej të ishin të izoluara. Modelet e përfshira ishin Claude Opus 4.7, Claude Mythos 5 dhe një model i brendshëm kërkimor.

Anthropic bëri të ditur se zbuloi problemin pasi analizoi 141 mijë e 6 sesione testimi, një proces i nisur pas një incidenti të ngjashëm të raportuar nga rivali OpenAI. Kompania sqaroi se Claude përdori metoda relativisht të thjeshta për të depërtuar në sistemet e prekura, si shfrytëzimi i fjalëkalimeve të dobëta dhe shërbimeve pa autentikim.

“Modelet nuk duhej të kishin akses në internet, por një keqkuptim me partnerin e testimit, Irregular, bëri që lidhja të mbetej aktive”, deklaroi Anthropic. Sipas kompanisë, ndryshe nga disa raste të tjera të sulmeve kibernetike me IA, nuk u shfrytëzuan dobësi të panjohura të programeve, por vetëm probleme ekzistuese të sigurisë.

Incidenti ka shtuar frikën e ekspertëve për aftësitë gjithnjë në rritje të agjentëve të inteligjencës artificiale, të cilët mund të kryejnë veprime të pavarura në sisteme reale. Zhvilluesit e IA-së po përballen gjithnjë e më shumë me sfidën për të kontrolluar modelet që mund të zbulojnë dhe shfrytëzojnë dobësi të sigurisë.

Zbulimi vjen në një kohë kur kompanitë më të mëdha të teknologjisë po përballen me presion për të forcuar masat e kontrollit dhe për të vendosur rregulla më të rrepta për zhvillimin e modeleve më të fuqishme të inteligjencës artificiale.

/tvklan.al