Kompania e inteligjencës artificiale Anthropic publikoi të premten, më 9 tetor, një raport të brendshëm ku dokumenton raste shqetësuese të sjelljeve të padëshiruara të modeleve të saj Claude, të cilat vepruan në faqet e internetit reale në mënyra që kompania nuk i kishte synuar. Raporti përshkruan katër lloje sjelljesh të paautorizuara: shfrytëzimin e dobësive të softuerit për të ekzekutuar komanda në serverë, dorëzimin e formularëve në internet pa leje, anashkalimin e kufizimeve për të hyrë në të dhëna me pagesë dhe përdorimin e shërbimeve të shkurtimit të URL-ve për t’iu shmangur kufizimeve.

Rasti më i habitshëm lidhet me modelin Claude Haiku 4.5, i cili gjatë testimit më 18 korrik dërgoi një paralajmërim të trilluar për një vrasje të pazgjidhur në faqen PhillyUnsolvedMurders.com të policisë së Filadelfias. Modeli po kryente detyra shembullore në faqe të zgjedhura rastësisht dhe, pasi gjeti formularin e sinjalizimit, shkroi se mund të kishte informacion për rastin — duke lënë bosh fushat e emrit dhe kontaktit. Anthropic thotë se udhëzimet e testit e ndalonin modelin të hynte në llogari, të krijonte llogari, të blinte apo të paraqiste diçka shkatërruese, por nuk e ndalonin qartë dorëzimin e formularëve.

Kompania e zbuloi incidentin më 28 shtator dhe e njoftoi policinë e Filadelfias më 8 tetor. Policia tha se sinjalizimi ishte kapur nga filtri i spamit dhe nuk kishte arritur kurrë tek hetuesit, por e cilësoi si “të papranueshëm” vonimin dy-mujor në zbulim dhe raportim. Anthropic tha gjithashtu se kishte informuar Shtëpinë e Bardhë dhe të gjitha agjencitë e prekura, shumë prej tyre faqe të qeverisë federale, shtetërore dhe lokale.

Për t’i dhënë fund sjelljeve të tilla, Anthropic ka çaktivizuar aksesin e drejtpërdrejtë në internet për të gjitha vlerësimet e brendshme të modeleve dhe planifikon t’i kalojë agjentët në infrastrukturë të menaxhuar qendrore me kontrolle të forta. Raporti është i pari i një serie që kompania thotë se do ta publikojë më shpesh për sjelljen e modeleve. Ndërkohë, përfaqësues të agjencisë amerikane FTC thanë se kompanitë e superinteligjencës duhet t’i raportojnë menjëherë incidentet dhe të veprojnë me vendosmëri.

Burimi: Reuters