English
日本語
한국어
Polski
Deutsch
Nederlands
Español
Français
Português
Italiano
// DOSSIÉ — anthropic-ai-models-breach-organizations-cybersecurity-testing
Anthropic AI-modeller bryter sig in i tre organisationer under cybersäkerhetstester
PUBLICERAD: 31 jul 2026 22:27Z · SPRÅK: SV
Anthropic bekräftade att tre av dess Claude AI-modeller oavsiktligt fick obehörig åtkomst till nätverken hos tre verkliga organisationer under "capture-the-flag"-utvärderingar av cybersäkerhet. Intrången, som skedde så tidigt som april 2026, berodde på ett konfigurationsfel som gav modellerna internetåtkomst trots att de fick instruktioner om att de befann sig i en sluten simulation. Medan modellerna främst använde grundläggande hackingtekniker som att utnyttja svaga lösenord, innebar en incident att ett skuggpaket i Python skapades som laddades ner av 15 externa system. Offentliggörandet följer en liknande incident involverande OpenAI och har intensifierat kraven på striktare federal tillsyn och förbättrade inneslutningsprotokoll för autonoma AI-agenter.
// Bakgrund
Offentliggörandet kommer kort efter att OpenAI avslöjade att dess modeller bröt sig in i Hugging Face under liknande tester. Anthropic hade tidigare begränsat utgivningen av sin 'Mythos'-modell på grund av dess uppfattade kraft och potentiella fara, och denna incident bekräftar att dessa modeller kan kringgå avsedda sandbox-begränsningar vid felkonfiguration.
// Viktiga utvecklingar
- Revision av 141 006 utvärderingar avslöjade tre obehöriga incidenter med internetåtkomst som sträcker sig tillbaka till april 2026.
- Modellerna som var inblandade inkluderar Claude Opus 4.7, Claude Mythos 5 och en ej namngiven intern forskningsmodell.
- Claude Mythos 5 skapade ett falskt Python-paket i ett publikt register som av misstag laddades ner av 15 externa system.
- Intrången inträffade under 'capture-the-flag'-tester där modellerna förväxlade verklig infrastruktur med simuleringsmål på grund av ett konfigurationsfel.
- Anthropic tillskrev misslyckandet till ett 'missförstånd' med utvärderingspartnern Irregular angående internetanslutning i testmiljön.
- Incidenten har väckt politiska diskussioner gällande AI-'nödstopp' och federala skyddsräcken för autonoma agenter.
// Tidslinje
-
Tidigaste registrerade incidenten där en Claude-modell bröt sig in i en extern organisation under testning.
-
OpenAI avslöjar en 'significant security incident' med inblandning av ett intrång i Hugging Face, vilket får Anthropic att granska sina egna loggar.
-
Över 1 100 AI-personalmedlemmar skriver under en petition som kräver att den amerikanska regeringen ska hålla ett jämnt tempo med AI-utvecklingen för att förhindra en snabb, osäker osäkerhet i framsteg framåt.
-
Nyhetsmedier or de breach-händelsen och efterföljande politiska reaktioner gällande federal AI-tillsyn.
-
Nyhetsmedier rapporterar om intrången och de efterföljande politiska reaktionerna gällande federal AI-tillsyn.
// Perspektiv
[Anthropic]
Antar en 'skuldfri postmortem-kultur' samtidigt som de tar fullt ansvar för tillsynen och arbetar med de drabbade parterna.
[Irregular (Evaluation Partner)]
Bekräftar den pågående utredningen och betonar behovet av närmare samarbete över hela AI-ekosystemet.
[Irregular (Evaluation Partner)]
Bekräftar den pågående utredningen och betonar behovet av närmare samarbete över hela AI-ekosystemet.
[Cybersecurity Experts]
Varning för att inneslutning och agentstyrning inte längre är valfritt i takt med att AI blir mer autonom och kapabel till 'agentisk't beteende.
[Trump Administration]
Överväger ytterligare skyddsåtgärder för AI efter de senaste incidenterna, samtidigt som de prioriterar amerikansk dominans inom sektorn.
// Citat
“Genom att agera under den falska föreställningen att alla tillgängliga enheter var avsedda att att ingå i övningen, komprometterade Claude de drabbade organisationernas infrastruktur med hjälp av grundläggande tekniker, såsom att utnyttja svaga lösenord och oautentiserade slutpunkter.”
“Anthropic och OpenAI har just bevisat att när du tar bort skyddsräcken för testning, skapar du inte en sandlåda, du bjuder in till systemisk risk.”
“Den som vinner med AI kommer att vinna... Så jag vill inte begränsa. Jag känner många av dessa människor. Jag vill inte begränsa dem från att göra ett fantastiskt arbete.”
