Hetimet e Anthropic: Ka pasur akses të paautorizuar në inteligjencën artificiale Mythos

Anthropic po heton një pretendim se një grup i vogël njerëzish kanë fituar akses në modelin e saj Claude Mythos - mjetin e sigurisë kibernetike që firma e inteligjencës artificiale thotë se është shumë i fuqishëm për t'u publikuar për publikun.

"Ne po hetojmë një raport që pretendon akses të paautorizuar në Claude Mythos Preview përmes një prej mjediseve tona të palëve të treta," tha kompania në një deklaratë.

Ishte në përgjigje të një raporti të Bloomberg që përdoruesit në një forum privat arritën të aksesonin modelin pa lejet normale.

Ekziston një shqetësim i thellë në lidhje me aftësitë e Mythos - megjithëse zyrtari më i lartë kibernetik i Mbretërisë së Bashkuar ka thënë se mjetet e përparuara të inteligjencës artificiale mund të jenë "pozitive neto" nëse teknologjia është e mbrojtur nga keqpërdorimi.

Aktualisht nuk ka asnjë sugjerim që aktorët keqdashës kanë arritur të marrin modelin, dhe Anthropic thotë se nuk ka prova se sistemet e saj janë prekur.

Por raporti i aksesit nga përdorues të paautorizuar ngre pyetje në lidhje me aftësinë e kompanive të mëdha të inteligjencës artificiale për të ndaluar modelet e tyre të përparuara të inteligjencës artificiale të bien në duar të gabuara.

Kjo "ka shumë të ngjarë të ketë ndodhur nëpërmjet keqpërdorimit të aksesit dhe jo nëpërmjet një sulmi klasik", sipas Raluca Saceanu, drejtor ekzekutiv i kompanisë së sigurisë kibernetike SmartTech.

Anthropic ua ka publikuar modelin Mythos disa kompanive teknologjike dhe financiare në mënyrë që t'i ndihmojë ato të sigurojnë sistemet e tyre kundër aftësisë së saj të raportuar për të shfrytëzuar dobësitë.

Por kjo mbështetet në faktin që këto kompani sigurohen që aksesi i tyre të kontrollohet rreptësisht.

Personi tashmë kishte leje për të parë modelet e inteligjencës artificiale të Anthropic nëpërmjet punës që kishte bërë për një kontraktor të palës së tretë, sipas Bloomberg.

Media raportoi gjithashtu se grupi e ka përdorur modelin që kur fitoi akses - megjithëse jo për sulme kibernetike, sepse nuk duan të zbulohen.

"Kur mjetet e fuqishme të inteligjencës artificiale aksesohen ose përdoren jashtë kontrolleve të tyre të synuara, rreziku nuk është vetëm një incident sigurie, por përhapja e aftësive që mund të përdoren për mashtrim, abuzim kibernetik ose aktivitete të tjera dashakeqe", tha Saceanu.

Në një fjalim në një konferencë të madhe për sigurinë kibernetike të mërkurën, kreu i Qendrës Kombëtare të Sigurisë Kibernetike (NCSC) të Mbretërisë së Bashkuar dha një argument më pozitiv duke argumentuar se mjetet e IA-së mund t'i bëjnë gjërat më të sigurta dhe më të mbrojtura.

Richard Horne u kërkoi delegatëve të CyberUK të mos kenë frikë nga sulmet e reja të IA-së, por të sigurohen që po i bëjnë bazat e sigurisë kibernetike siç duhet.

"Siç e kemi parë në media ditët e fundit, IA-ja në kufij po mundëson me shpejtësi zbulimin dhe shfrytëzimin e dobësive ekzistuese në shkallë të gjerë, duke ilustruar se sa shpejt do të ekspozojë se ku ende duhen adresuar bazat e sigurisë kibernetike", tha ai.

Paralajmërimet e Horne pasqyrojnë mesazhe të ngjashme nga vitet e fundit - për shembull urgjenca që njerëzit të sigurohen që të përditësojnë softuerin në sistemet e tyre dhe të përmirësojnë IT-në e trashëguar.

Në të njëjtën ngjarje, Ministri i Sigurisë Dan Jarvis u bëri thirrje firmave të IA-së të bashkëpunojnë me qeverinë në "përpjekjen gjeneruese" për t'u siguruar që IA përdoret për të mbrojtur rrjetet kritike nga sulmuesit.

Të gjitha modelet më të fuqishme dhe të përparuara të IA-së - të njohura si IA në kufij - zhvillohen jashtë Mbretërisë së Bashkuar, me kompanitë e nivelit të lartë me seli në SHBA ose Kinë.

Kjo do të thotë që Mbretëria e Bashkuar mbështetet në kompani si Anthropic për t'i dhënë akses në Mythos dhe nuk ka kontroll mbi mënyrën se si ndërtohet, trajnohet ose publikohet.

OpenAI gjithashtu ka një model sigurie kibernetike që thotë se është shumë i aftë, i quajtur GPT 5.4 Cyber.

Fjalimet në CyberUK theksuan gjithashtu kërcënimin e vazhdueshëm të sulmeve të shteteve kombëtare dhe sulmeve hakerike, veçanërisht nga Rusia dhe Kina.

NCSC paralajmëron se kibernetika tani është "fronti i brendshëm" i mbrojtjes në Mbretërinë e Bashkuar, me ngjarjet e fundit si sulmet në Iran që tregojnë se kibernetika luan një rol gjithnjë e më të rëndësishëm në të gjitha konfliktet moderne.

Shkarkoni aplikacionin Newsmax Balkans:

Mund ta shkarkoni aplikacionin Newsmax Balkans nga Google Play dhe App Store.

Komente (0)