En autonom AI-agent tog sig in i Hugging Face:s produktionsmiljö under en helg, körde över 17 000 automatiserade åtgärder och spred sig mellan interna kluster utan att en enda människa styrde attacken. Hugging Face kallar det det första dokumenterade intrånget som drivits helt av ett AI-system.
När säkerhetsteamet försökte analysera attacken blockerade de kommersiella modellerna från OpenAI och Anthropic förfrågningarna, eftersom deras säkerhetsfilter inte kunde skilja forensisk analys från en pågående attack. Lösningen blev en öppen modell på egen hårdvara. Exakt samma typ av modell som angriparen troligen använde för att ta sig in.
I dagens nyhetsbrev:
En AI-agent hackade Hugging Face utan mänsklig hjälp och försvaret stoppades av sina egna verktyg
Öppna AI-modeller bara månader efter de slutna i cyberförmåga enligt brittiskt institut
Netflix halverade kostnaden för dokumentärscener med AI och 300 titlar använder redan verktygen
Databricks värt 2 000 miljarder kronor efter fjärde rundan på knappt två år
Hugging Face utsatt för intrång av autonom AI-agent
Hugging Face avslöjade den 16 juli att en autonom AI-agent tog sig in i delar av företagets produktionsmiljö under en helg. Angriparen utnyttjade två sårbarheter i den pipeline som läser in och bearbetar dataset från externa användare, tog sig därifrån vidare till interna kluster och körde över 17 000 automatiserade åtgärder via kortlivade sandlådor. Publika modeller, dataset och Spaces klarade sig, men angriparen kom åt interna dataset och lösenord som Hugging Face:s tjänster använder. Hugging Face kallar det det första dokumenterade nätverksintrånget som drivits helt av ett autonomt AI-agentsystem.
Quick points:
Angriparen laddade upp ett manipulerat dataset som fick Hugging Face:s system att köra dold kod när det bearbetades. Därifrån eskalerade agenten behörigheter, stal molnnycklar och spred sig till flera interna kluster automatiskt utan mänsklig styrning.
Hugging Face försökte först analysera de 17 000 loggade händelserna med kommersiella modeller som GPT och Claude, men säkerhetsfiltren blockerade förfrågningarna eftersom de inte kunde skilja mellan forensisk analys och en pågående attack.
Säkerhetsteamet körde till slut analysen på GLM 5.2, en öppen modell med 744 miljarder parametrar, på egen infrastruktur. Till skillnad från de kommersiella modellerna kunde GLM 5.2 bearbeta attackloggar och skadlig kod utan att vägra, och ingen känslig data behövde lämna företagets nätverk.
Quick take: Angriparen använde en AI-modell helt utan säkerhetsspärrar, medan Hugging Face:s eget försvar bromsades av säkerhetsfilter. Ironiskt nog var det en öppen modell som räddade situationen. Dock har de flesta företag har varken hårdvaran eller beredskapen att så snabbt byta försvar under pågående attack.
Quick number | AI i varannan ny e-bok
Andel nya e-böcker på Amazon med spår av AI:
2022 ░░░░░░░░░░ > 1%
2023 ▓▓▓▓▓▓░░░░ 30%
2024 ▓▓▓▓▓▓▓▓▓░ 45%
2025 ▓▓▓▓▓▓▓▓▓▓ över 50%Antalet nya e-böcker per månad har gått från runt 100 000 till över 300 000 sedan ChatGPT kom. Nästan hela ökningen kommer från författare som debuterat sedan dess.
Forskarna mätte inte om en maskin skrivit hela boken, utan om det gick att upptäcka AI i texten. Både den helautomatiska skräpboken och romanen där författaren tagit hjälp hamnar i samma hög.
Böcker med AI-spår får sämre betyg av läsarna. Men skillnaden krymper år för år, och forskarna menar att den framför allt beror på vem som använder verktyget. Det är ofta debutanter som ännu inte lärt sig hantverket.
Trots översvämningen har de författare som fanns före ChatGPT inte tappat sin publik. De drunknar inte, de syns bara sämre.
Siffrorna gäller vad som ges ut, inte vad som säljs. För flera år sedan slutade Amazon berätta hur stor hela katalogen är.
Öppna AI-modeller bara månader efter de slutna i cyberförmåga
(Källa: AI Security Institute)
Brittiska AI Security Institute (AISI) har för första gången mätt hur långt öppna AI-modeller ligger efter de slutna i cyberförmåga. Resultatet ändrar bilden av vem som har tillgång till de farligaste verktygen. GLM-5.2 och DeepSeek V4-Pro, som vem som helst kan ladda ner och köra, klarar nu cybersäkerhetsuppgifter på samma nivå som de bästa slutna modellerna gjorde för fyra till sju månader sedan. Under 2025 var gapet sex till tio månader, så det krymper snabbt.
Quick points:
GLM-5.2 presterar i nivå med Claude Opus 4.6 på kortare cyberuppgifter och Opus 4.5 på längre attackscenarier. Det är samma modell som Hugging Face använde för att analysera sitt eget intrång förra veckan, just för att de kommersiella alternativen blockerade forensisk analys.
Att köra en cyberattack med en öppen modell kostar en bråkdel. AISI:s tester visar att DeepSeek V4-Pro klarade samma uppgifter som Opus 4.5 till en fyrtiofemtedel av priset: 3 kronor per uppgift mot 137 kronor.
Öppna modeller saknar de kontroller som slutna leverantörer har: möjligheten att övervaka användning, stänga av konton och uppdatera skydd i efterhand. När vikterna väl är nedladdade går det inte att ta tillbaka dem.
Quick take: AISI:s rapport visar att öppna modeller snart är lika farliga som de slutna, men till en bråkdel av priset. Försvaret har hittills utgått från att de kraftfullaste verktygen bara finns bakom API-nycklar och säkerhetsfilter. Glappet minskar snabbt och angripare har en klar fördel på kort sikt.
Quick click | Runway
Quick prompt | Nano Banana Pro
REFERENCE: [uploaded image of person]
The person alone on an escalator in an empty
shopping mall at night. Liminal, eerie, melancholic.
CRITICAL LIKENESS: RECOGNIZABLE. Features, headwear,
clothing identifiable. USE LIKENESS ONLY, NOT pose.
ONE SINGLE IMAGE. EXACTLY ONE PERSON, no duplicates.
THE PERSON:
- Alone on the escalator, riding up
- Small in frame, dwarfed by the space
- One hand on the moving handrail
- Still, patient, unbothered
- Clothing and headwear recognizable
- The only living thing in the building
THE ESCALATOR: Long, rising through the mall.
Metal steps, rubber handrails.
Moving though no one else rides it.
Lit softly from within.
Strong diagonal through the frame.
THE EMPTY MALL:
- Multi-level, completely deserted
- Shuttered shopfronts, metal grilles down
- Dark storefront windows, mannequins in shadow
- Polished floors reflecting light
- Empty benches, silent fountains
- Nobody, not one other person
NIGHT LIGHTING: Only night lights on,
most of the mall dark. Cold fluorescent strips.
A few signs faintly glowing. Green exit signs.
Pools of light and long shadow.
Escalator glowing from beneath.
COLORS: Cold fluorescent white and blue.
Deep shadows. Faint green from exit signs.
Headwear as the one warm note.
COMPOSITION: Wide shot showing the empty scale.
Escalator as strong diagonal.
Person small, riding up. Levels receding into darkness.
STYLE: Cinematic, still, atmospheric.
Deep focus. Liminal space photography.
MOOD: "Trappan gick, fast ingen annan var kvar."
Riding up through the silence.
Format: 16:9 horizontalNetflix använde AI för att halvera kostnaden för dokumentärscener
(Källa: Netflix)
Netflix avslöjade i sin kvartalsrapport att 300 titlar i år redan har använt generativ AI i produktionen, framför allt i efterarbetet. Bolaget satte också en konkret siffra på besparingen och visade att 17 minuter AI-förstärkt material i dokumentären The American Experiment tog hälften så lång tid och kostade hälften så mycket som traditionella metoder. Totalt väntas Netflix lägga runt 220 miljarder kronor på innehåll i år.
Quick points:
AI-verktygen används framför allt i efterarbete: folkmassor, historiska miljöer och stridsscener som produktionerna annars inte hade haft råd eller tid att göra. Netflix vd Ted Sarandos var tydlig med att filmer fortfarande görs av människor som gör film.
I mars köpte Netflix Ben Afflecks filmteknikbolag InterPositive för drygt 6,4 miljarder kronor. Bolaget bygger verktyg som arbetar med befintligt filmmaterial, inte text-till-video-generatorer.
Trots AI-satsningen och en omsättning på 138 miljarder kronor i kvartalet föll aktien nio procent efter rapporten. Intäktstillväxten bromsade från 16 till 13 procent.
Quick take: Netflix är det första stora filmbolaget som sätter en siffra på hur mycket AI sparar i enskilda produktioner. Att 300 titlar redan använder verktygen visar att det inte längre handlar om experiment, men investerarna var inte imponerade. Aktien föll nio procent, och att spara hälften på 17 dokumentärminuter syns knappt i en årsbudget på 220 miljarder kronor.
Quick Decode | “Open-weight-modell”
En typ av AI-modell där vikterna, alltså de miljontals siffror som styr hur modellen tänker, är fritt nedladdningsbara. Vem som helst kan köra modellen på egen hårdvara, anpassa den efter sina behov och bestämma vilka regler som gäller.
Metas Llama och kinesiska DeepSeek är bland de mest kända. Företag väljer dem för att slippa skicka känslig data till en extern leverantör och för att kostnaden ofta är en bråkdel av vad slutna API-tjänster tar betalt.
Skillnaden mot en sluten modell är som skillnaden mellan att äga och att hyra. Du får mer frihet, men du står själv för säkerheten. Ingen leverantör kan stänga av din åtkomst, men ingen kan heller hindra en angripare från att använda samma modell.
Databricks värderas till 2 000 miljarder kronor efter fjärde rundan på knappt två år
(Källa: Databricks)
Databricks har skrivit avtal om en ny finansieringsrunda som värderar bolaget till 2 068 miljarder kronor, ledd av Coatue. Rundan väntas stängas under sommaren och uppgår till omkring 33 miljarder kronor enligt Wall Street Journal. Sedan december 2024 har Databricks tagit in kapital fyra gånger och tredubblat sin värdering från 680 miljarder kronor.
Quick points:
Databricks började som ett bolag för dataanalys och molnlagring men säljer sig nu som AI-bolag. De senaste produkterna, databasen Lakebase och agentverktyget Omnigent, är byggda för att köra AI-agenter på företagsdata.
Bolaget har blivit en av de tydligaste förespråkarna för öppna modeller i stället för slutna API-tjänster. Interna tester visar att GLM 5.2 klarar Databricks egna koduppgifter lika bra som slutna alternativ till en bråkdel av priset.
Vd Ali Ghodsi sammanfattade strategin på ett sätt som spred sig som memes: företag vill inte längre betala för den smartaste modellen till varje uppgift, utan välja rätt modell för pengarna.
Quick take: Databricks sitter redan på den data som företag behöver för att träna och köra AI. Att de dessutom visar att öppna modeller fungerar lika bra som de slutna, men billigare, gör dem till den naturliga plattformen för företag som vill slippa vara beroende av OpenAI eller Anthropic för varje API-anrop.
A quick tool | Campus
Campus är en macOS-app från FlutterFlow som samlar alla dina utvecklarverktyg på en oändlig yta. Terminaler, webbläsare, anteckningar, designfiler och AI-agenter ligger som fristående rutor som du drar runt och ordnar fritt. Claude Code och Codex körs som egna rutor på ytan, och via ett inbyggt CLI-verktyg kan agenterna själva flytta rutor, skriva kommandon och klicka i webbvyer åt dig. Varje terminal är en riktig process som fortsätter köra även om du startar om appen, med fullständig historik bevarad. Appen är byggd med en egen Flutter-motor, sparar allt lokalt som vanliga filer och kräver ingen inloggning.
Campus är helt gratis.
Prompt Agency kombinerar strategisk rådgivning med AI-baserad produktion, utbildning och arbetsflöden. Vi hjälper företag att automatisera, effektivisera och skala sin content- och kommunikationsproduktion utan att kompromissa med kvalitet. Vi är din produktionspartner med byråkvalitet i AI-hastighet.
Vårt bästa tips är att börja med en AI Discovery. Kontakta oss så berättar vi mer.
Läs mer på promptagency.se
Quick links
Apple har stämt OpenAI och tidigare anställda för påstådd stöld av företagshemligheter kopplade till Apples konfidentiella projekt för AI-hårdvara.
Suno har tagit in 4,4 miljarder kronor till en värdering på 59 miljarder kronor. Investerarna satsar på kommersiell framgång trots pågående upphovsrättsliga tvister med musikindustrin.
Metas tillsynsråd har konstaterat att ledande AI-modeller vägrar kritisera förtryckande regimer dubbelt så ofta som demokratiska, vilket rådet kallar censur genom ombud.
PrismML har släppt Bonsai-27B, en modell med 27 miljarder parametrar som komprimerats till 3,9 GB. Modellen kan köras lokalt på en Iphone i stället för i molnet.
StupidLLM har analyserat 60 dokumenterade misslyckanden hos AI-agenter för kodning. Nästan hälften rörde kritiska fel som främst berodde på brister i agenternas verktyg snarare än i själva modellerna.
Kaiser Permanente har mött hårt motstånd från sjuksköterskor som menar att AI-baserad övervakning försämrar patientvården och skapar en bestraffande arbetsmiljö.
