Tre Claude-modeller bröt sig in hos tre riktiga företag under säkerhetstester som skulle ha varit helt avskärmade från nätet. Ett konfigurationsfel hos en partner lämnade uppkopplingen öppen, och modellerna behandlade allt de hittade som en del av övningen. Anthropic hittade fallen först efter att ha gått igenom 141 006 testkörningar.
Det mest oroande är inte att modellerna tog sig in, utan att de drabbade företagen inte märkte något. Det äldsta intrånget låg gömt sedan april. När de mest kapabla modellerna kan hacka riktiga system med svaga lösenord och öppna felsökningssidor, utan att avsändare eller mottagare upptäcker det på tre månader, säger det minst lika mycket om grundläggande IT-säkerhet som om vad AI är kapabel att göra.
I dagens nyhetsbrev:
Claude hackade tre riktiga företag under säkerhetstester utan att veta att de var riktiga
EU:s AI-kontor får rätt att bötfälla från och med 2 augusti
Google stängde av AI-genererade satellitbilder i Earth efter bara ett dygn
Företagens rekrytering av AI-chefer har tredubblats på nio månader
Claude hackade tre företag utan att veta att de var riktiga
(Källa: Bleeping Computer)
Anthropic har berättat att tre Claude-modeller nådde ut på det öppna nätet under cybersäkerhetstester och bröt sig in hos tre organisationer som inte hade med testerna att göra. Modellerna fick veta att miljön var en simulering utan uppkoppling, men ett konfigurationsfel hos utvärderingspartnern Irregular lämnade nätet öppet. Bolaget hittade fallen först efter att ha gått igenom 141 006 testkörningar, en granskning som startade när OpenAI berättade om sitt eget haveri hos Hugging Face. Det äldsta intrånget skedde i april.
Quick points:
Claude Opus 4.7 kom över inloggningsuppgifter och läste flera hundra rader verkliga företagsuppgifter ur en databas. Modellen fastnade på sitt påhittade mål och hittade i stället ett riktigt företag med samma namn, rapporterar BleepingComputer.
Claude Mythos 5 byggde ett skadligt Python-paket och lade upp det på PyPI, där det låg ute i ungefär en timme. Femton riktiga system hann köra koden, bland dem ett säkerhetsföretag vars automatiska kontroll installerade paketet och läckte företagets inloggningsuppgifter.
En intern forskningsmodell skannade runt 9 000 mål innan den tog sig in i en webbapplikation via en öppen felsökningssida. Modellen avbröt attacken på eget initiativ när den förstod att servern låg utanför övningen, enligt CNBC.
Quick take: Inget av de drabbade företagen hade upptäckt intrången. Det äldsta skedde i april och hittades först tre månader senare, när Anthropic gick igenom sina egna loggar efter OpenAIs haveri hos Hugging Face. Frågan nu är hur många liknande incidenter som ligger begravda i andra AI-bolags testarkiv.
Quick number | AI-chefen uppfinns just nu
Platsannonser för AI-chef per 100 000 annonser:
Sep–dec 2025 ▓▓▓▓░░░░░░ 5,6
Jan–mar 2026 ▓▓▓▓▓▓▓▓▓░ 13,6
Apr–jun 2026 ▓▓▓▓▓▓▓▓▓▓ 16,01 142 bolag har just nu en aktiv platsannons för en AI-chef, alltså en Head, VP, Director eller Chief of AI. Nio månader tidigare var siffran en tredjedel så stor.
95 procent av dem hade aldrig utlyst en sådan roll tidigare. Tjänsten existerade inte för ett år sedan.
De vanligaste titlarna handlar om att införa AI, inte om att forska på den. "AI Enablement" och "AI Transformation" är nu vanligare än "AI Engineering".
Coca-Cola söker en Director of AI Implementation. Pfizer söker en VP of AI. Citi söker en Head of AI Risk. Det är inte techbolag som experimenterar, det är världens största konsumentvarumärken som
budgeterar.Bolag som anställer en AI-chef är nästan fem gånger mer benägna att samtidigt bygga med agentramverk som AutoGen och CrewAI. AI-chefen och AI-agenten är samma våg.
Analysen bygger på 4,8 miljoner aktiva platsannonser, genomsökta med en konservativ titelfiltrering som utesluter konsultbolag, säljroller och kreativa roller som bara nämner AI i titeln
EU kan bötfälla AI-bolag från och med söndag
(Källa: EU AI Office)
EU-kommissionens AI-kontor får från och med andra augusti rätt att utreda, kräva dokumentation och bötfälla leverantörer av stora AI-modeller, enligt kommissionen. Reglerna för modellerna har gällt sedan augusti 2025, men hittills har kontoret saknat verktyg att straffa den som bryter mot dem. Böterna kan nå 15 miljoner euro, motsvarande drygt 170 miljoner kronor, eller 3 procent av leverantörens globala omsättning. Samma dag börjar nya krav på att AI-genererat innehåll ska kunna spåras med maskinläsbara tekniska markörer, rapporterar Tech Policy Press.
Quick points:
AI-kontoret har i dag 145 anställda och kommissionen har föreslagit 38 tjänster till, men pengarna hänger på EU:s budget för 2027. Forskare varnar för att resurserna bör riktas mot de fåtal företag som bygger de mest kapabla modellerna.
Kontoret kan kräva intern dokumentation, intervjua personal och i sista hand dra tillbaka en modell från EU-marknaden. Den frivilliga uppförandekoden har skrivits under av bland andra OpenAI, Anthropic, Google och Microsoft, men varken Meta eller X har skrivit under alla delar.
Tidpunkten sammanfaller med att både OpenAI och Anthropic de senaste veckorna har berättat att deras AI-modeller tog sig in i riktiga system under säkerhetstester, enligt NBC News.
Quick take: Ett bötesverktyg är bara så skarpt som viljan att använda det. Kommissionen har fått sitt vapen samma vecka som OpenAI och Anthropic gav dem ammunitionen, men 145 anställda mot en bransch som spenderar hundratals miljarder per kvartal gör styrkeförhållandet tydligt. Å andra sidan räckte det med en enda EU-dom för att tvinga Google att ändra sin sökmotor i hela Europa.
Quick click | Seedance
Quick prompt | Nano Banana Pro
REFERENCE: [uploaded image of person]
The person as a Golden Age superhero
comic cover, 1940s. Ben Day dots, primary colors,
crude printing on newsprint.
CRITICAL LIKENESS: RECOGNIZABLE, drawn in
period comic style. Features, glasses,
headwear kept. USE LIKENESS ONLY, NOT pose.
ENTIRELY ILLUSTRATED.
ONE SINGLE IMAGE. EXACTLY ONE PERSON.
HEADWEAR AND GLASSES: Beanie KEPT in flat ochre,
bold period linework. Glasses KEPT,
thick black frames, drawn simply. No mask, no cowl.
GOLDEN AGE STYLE:
- 1940s comic illustration, before modern polish
- Bold simple black outlines, slightly uneven,
hand-inked
- Heavy brushwork, not fine detail
- Flat primary color fills
- Anatomy heroic but slightly stiff and awkward
- Simple crosshatching for shadow
PRINT QUALITY:
- Visible Ben Day dot patterns in colored areas
- Color registration slightly OFF, plates misaligned
- Color bleeding past the black outlines
- Cheap yellowed newsprint texture
- Faded, aged, slightly stained
THE HERO:
- Classic heroic pose, chest out, fists ready,
or mid-leap
- Simple bold costume: solid primary colors,
chest emblem, cape
- Muscular but stiffly drawn, period anatomy
- Determined jaw, confident expression
- Facial hair as bold simple shapes
COVER LAYOUT: Comic cover composition.
Bold title banner in period lettering.
Price corner box reading ten cents.
Small caption box with a dramatic line.
ACTION: Something dramatic behind, a collapsing
building or fleeing villain. Simple and readable.
Crude bold motion lines.
COLORS: Red, blue, yellow, plus black.
Flat fills, no blending. Faded and slightly
muddy from age. Four-color printing limitation.
COMPOSITION: Figure dominant and central.
Title space at top. Bold, direct, designed
for a newsstand.
MOOD: "Tio cent, och världen räddas."
Bad printing, good intentions.
Format: 2:3 verticalGoogle stängde av AI-verktyg i Google Earth efter ett dygn
(Källa: Google Earth)
Google lanserade på torsdagen en funktion som lät vem som helst skapa AI-genererade bilder ovanpå riktiga satellitbilder i Google Earth. Mindre än ett dygn senare stängde bolaget av den. OSINT-forskare som Henk van Ess och Bellingcats Jake Godin visade att det räckte med en enda textrad för att lägga in ett påhittat kärnkraftverk i Iran eller flyktingar vid mexikanska gränsen.
Quick points:
Funktionen byggde på Googles bildmodell Nano Banana 2 och var öppen för alla utan väntelista. Användare skapade bland annat en krater i Los Angeles och ett översvämmat Capitol, rapporterar NPR.
Google använde digitala vattenstämplar, men forskare påpekade att skydden försvinner så fort någon tar en skärmbild och delar den vidare, enligt The National.
Google skrev på X att bolaget "pausar" funktionen för att bygga starkare skydd, men gav inget datum för när den kan komma tillbaka, enligt Futurism.
Quick take: Funktionen höll ett dygn, men det grundläggande problemet försvinner inte med en paus. Google Earth är ett av de verktyg som journalister och OSINT-forskare använder för att skilja sant från falskt i konfliktzoner. Att samma plattform nu har visat hur enkelt det är att förfalska den typen av bilder gör jobbet svårare oavsett om verktyget kommer tillbaka eller inte.
Quick Decode | “OSINT”
En förkortning för Open Source Intelligence, alltså underrättelsearbete som bygger på öppet tillgänglig information. I stället för hemliga agenter och avlyssning handlar det om att systematiskt samla, korsreferera och analysera material som vem som helst kan komma åt: satellitbilder, sociala medier, fartygsdata, domstolshandlingar och företagsregister.
Bellingcat är det mest kända exemplet. Gruppen har bland annat kartlagt nedskjutningen av flyg MH17 över Ukraina genom att kombinera Google Earth-bilder, sociala medier-inlägg och ryska militärfordon synliga i YouTube-videor.
Traditionell underrättelsetjänst kräver säkerhetsklassade databaser och hemlig tillgång. OSINT-metoden fungerar tvärtom. Styrkan ligger i att materialet är öppet och kan verifieras av andra. Svagheten är att det kräver att källorna faktiskt går att lita på, vilket blir svårare när verktyg som Google Earths Nano Banana kan skapa realistiska men helt falska satellitbilder.
1 142 företag söker sin första AI-chef
Drygt tusen företag har just nu en öppen chefsroll för AI, enligt en genomgång av 4,8 miljoner jobbannonser från plattformen Echoloc. Andelen AI-ledarroller av alla annonser har tredubblats på nio månader, och 95 procent av företagen hade ingen sådan tjänst alls före i år. Bland dem som rekryterar finns Coca-Cola, Pfizer, Citi och GE HealthCare.
Quick points:
69 procent av företagen ligger utanför tekniksektorn. Finans leder med 130 bolag, följt av sjukvård och läkemedel, visar Echolocs data.
De vanligaste titlarna handlar om förändringsledning och införande, inte forskning. "AI Enablement" och "AI Transformation" är nu vanligare än "AI Engineering", enligt samma rapport.
Företag som anställer en AI-chef bygger också agentlösningar. AutoGen, CrewAI och MCP förekommer nästan fem gånger oftare hos dessa företag än i övriga jobbannonser, visar Echolocs jämförelse.
Quick take: Titeln "Head of AI" har funnits länge på teknikbolag, men en AI-chef på Coca-Cola eller Pfizer fyller en helt annan funktion. Den personen ska göra AI till en del av affären, inte bygga modeller. Att samma företag samtidigt söker folk som kan AutoGen och CrewAI visar att chefen inte anställs för att skriva strategidokument utan för att godkänna att agenter sätts i produktion.
Prompt Agency kombinerar strategisk rådgivning med AI-baserad produktion, utbildning och arbetsflöden. Vi hjälper företag att automatisera, effektivisera och skala sin content- och kommunikationsproduktion utan att kompromissa med kvalitet. Vi är din produktionspartner med byråkvalitet i AI-hastighet.
Vårt bästa tips är att börja med en AI Discovery. Kontakta oss så berättar vi mer.
Läs mer på promptagency.se
Quick links
Fortune har rapporterat att ett företag med koppling till Kina försökte köpa 3 000 fysiska böcker av en holländsk antikvariatshandlare, troligen för att skanna och använda som träningsdata till AI-modeller.
Snapchat har slutat betala för helt AI-genererat innehåll i sitt Spotlight-flöde och prioriterar i stället mänskligt skapat material.
DeepSeek har släppt den officiella versionen av V4-Flash, en omtränad variant som enligt bolagets egna tester slår den dyrare V4-Pro på nio agentrelaterade prestandamått.
Hugging Face har via VD:n Clément Delangue krävt att AI-bolag ska hållas juridiskt ansvariga när deras agenter tar sig in i andra företags system.
St. Louis Fed har i en ny studie konstaterat att AI:s produktivitetseffekt ännu inte syns i aggregerad data, trots att företagen själva talar alltmer positivt om tekniken i sina kvartalsrapporter.
Apple anses ha goda chanser att klara sig väl om AI-bubblan spricker. Analytikern Horace Dediu menar att bolagets försiktiga strategi gör att de undviker de största riskerna.
