OpenAI har äntligen kommit på varför deras AI-modeller hitta på saker. I en ny forskningsrapport erkänner företaget att ChatGPT och andra språkmodeller “hallucineringar” – det vill säga att de hittar på plausibla men falska påståenden – beror på att tränings- och utvärderingssystemen belönar gissningar framför att erkänna osäkerhet.

Den enkla lösningen vore att belöna modeller som säger "jag vet inte" istället för att gissa. Men om ChatGPT började svara "jag vet inte" på bara 30 procent av frågorna skulle användarna förmodligen överge tjänsten snabbt. Det är en obekväm upptäckt för ett företag som just lanserat sina mest avancerade "resonerande" AI-modeller, vilka enligt engna tester faktiskt hallucineringar ännu mer än föregångarna. Ibland verkar det som att AI-branschen har blivit lika skicklig på att rationalisera sina begränsningar som på att dölja dem.

I dagens A Quick Word:

• OpenAI erkänner att hallucinationer är inbyggda i systemet, inte en bugg

• xAI:s "strategiska vändning" innebär att 500 dataannotatörer får sparken

• Tusentals Spotify-användare säljer sina lyssningsdata

• Varför AI-boomen bara gör företagen större och inte dig rikare

• KRÖNIKA: Lär dig livslångt lärande

OpenAI medger att deras AI är expert på att gissa

Quick Word: OpenAI har publicerat en rapport som förklarar varför deras modeller ibland hittar på fakta. Företaget bekräftar att detta är en medveten del av designen, inte ett fel. Enligt OpenAIs senaste forskningsrapport uppmuntrar dagens utvärderingsmetoder modellerna att gissa snarare än att erkänna att de inte vet svaret.

Quick Points:

• Rapporten visar att hallucinationer är matematiskt oundvikliga, även med perfekt träningsdata, på grund av hur modellerna genererar svar ett ord i taget.

• Dagens utvärderingssystem belönar modeller för att ge något svar, vilket skapar ett starkt incitament att alltid gissa istället för att uttrycka osäkerhet.

• OpenAI föreslår en lösning som skulle minska hallucinationerna, men den skulle samtidigt leda till en långsammare användarupplevelse och betydligt högre driftskostnader.

Quick Take: OpenAIs erkännande avslöjar en obehaglig sanning. Dagens AI är designat för att charma snarare än att vara korrekt. Företag har skapat system som prioriterar användarengagemang framför sanningsenlighet. Tills AI-branschen löser konflikten mellan vad användare vill höra och vad som faktiskt är sant, får vi fortsätta leva med vältaliga lögnare som våra digitala assistenter.

xAI:s strategiska kursändring

Quick Word: Elon Musks xAI genomför en "strategisk vändning", vilket verkar vara ett artigt sätt att säga att företaget säger upp 500 dataannotatörer. Företaget beskriver förändringen som ett skifte mot att anställa specialiserade handledare, en plan som detaljeras i ett uttalande på X. Tydligen har kvantitetens era nått sitt slut, och nu är det dags för kvalitet.

Quick Points:

• Uppsägningarna berör ungefär en tredjedel av de 1 500 personer som tränar chattboten Grok, enligt interna meddelanden (archive.is) rapporterat av Business Insider.

• xAI riktar nu sina rekryteringsinsatser mot experter inom specifika områden som naturvetenskap, teknik, finans och medicin, med planer att öka antalet specialister "10 gånger".

• Förändringen signalerar ett branschbrett skifte där specialiserad data av hög kvalitet värderas högre än insamling av enorma mängder allmän information.

Quick Take: Detta markerar slutet på AI-branschens 'mer data är bättre'-mentalitet. Skiftet innebär både hot och möjligheter: generalistroller inom AI-träning riskerar att försvinna, medan specialistkunskap inom specifika domäner blir mer värdefulla än någonsin. Med andra ord: det räcker inte längre att kunna promptas utan du måste också veta vad du pratar om.

Quick click

Välgjord AI-video men Christopher Walken gjorde det bättre.

Spotify-användare säljer sin lyssningsdata

Quick Word: Över 10 000 Spotify-användare gick nyligen samman för att sälja sin lyssningsdata till en AI-startup inom musik för en total utbetalning på 55 000 dollar. Experimentet i dataägande testade Spotifys användarvillkor och tände en ny debatt om vem som egentligen kontrollerar, och tjänar på, din data.

Quick Points:

• En grupp kallad Unwrapped organiserade försäljningen via en DAO, vilket gav varje deltagare ungefär en femtiolapp för deras bidrag till att träna en ny AI-modell. EFF har länge argumenterat att det är en dålig idé att sälja sin användardata.

• Affären förmedlades via en plattform för datamonetarisering som kopplar samman användare som vill sälja personlig information med företag som behöver den för AI-utveckling.

• Föga förvånande var Spotify inte roade och informerade gruppen om att försäljningen bryter mot deras utvecklarpolicy, som förbjuder användning av deras innehåll för maskininlärning.

Quick Take: Detta initiativ signalerar början på en fundamental maktförskjutning där användare inte längre nöjer sig med att vara passiva dataleverantörer till plattformsjättar. När verktygen för att kollektivt monetarisera personlig data blir tillgängliga och enkla att använda, står vi inför en framtid där din digitala fotavtryck kan bli din mest värdefulla tillgång – oberoende av om ursprungsplattformen godkänner det. Frågan är inte längre om användarna kommer att börja sälja sin data, utan hur snabbt de kommer att lära sig att värdera den korrekt.

Quicks krönika Lär dig livslångt lärande

Jag kan ingenting.

Om man ser till min dokumenterade utbildning så är det sant. Jag har ingen utbildning. Ingen dokumenterad kunskap. Inget verifierbart lärande i organiserad form på ett erkänt lärosäte.

Min avsaknad av kunskap är tydlig för alla att läsa i mitt CV.

Den senaste utbildning jag kan styrka med en examen är en Komvux-kurs i "Program- och Systemutveckling med fokus på Cobol", daterat 1992. Dessförinnan hittar man ett diploma från International School of Bangkok och grundskolebetyg från grundskolan på Öckerö.

Cobol-kursen kunde jag haft nytta av vid milleniumskiftet då många av de stora systemen som drabbades av "Millenium-buggen" var skrivna i Cobol. Men jag hade sedan länge börjat jobba och Cobol är inte speciellt kul.

Men av en av mina lärare i High School fick jag min, förmodligen, viktigaste kunskap. Jag fick verktygen till ett livslångt lärande.

Hon väckte i mig en nyfikenhet att lära. Hon gav mig insikten att man aldrig är helt fullärd och att det alltid är resan mot kunskap som är värd mer än destinationen. Av henne fick jag också självförtroendet att inse att jag aldrig kommer bli fullärd – och det är bra. Hon gav mig också insikten att jag alltid kommer ha både verktygen och förmågan att lära mig mer.

Det var aldrig en medveten strategi från min sida att inte utbilda mig. Jag ville verkligen utbilda mig, men det fanns inga utbildningar inom det jag ville lära mig. Internet och World Wide Web (som det länge kallades) var i sin linda och jag var helt fast i alla dess möjligheter. Så jag lärde mig HTML själv.

Samtidigt lärde jag mig olika programmeringsspråk. Perl var det främsta för att koppla ihop vad vi idag kallar "frontend" och "backend" – alltså det användaren såg och funktioner som möjliggjorde olika funktioner.

Samtidigt lärde jag mig grafisk form. Lärde mig om "Swiss Style" och modern grid design. Typografi. Färglära. Läste "Hero with a Thousand Faces".

Jag är verkligen inte expert på något av områdena, men jag lärde mig grunderna. När något av ämnena greppade tag i mig lite mer så lärde jag mig ännu mera. Men det tar tid och kraft att utbilda sig själv. Inte för att jag riktigt tänkte i de termerna då, men ju äldre man blir desto mer tenderar man att se bakåt och fundera på vad man gjort med sitt liv. Inget har varit bortkastat, men det har tagit tid.

Jag har arbetat med reklam, marknadsföring, film och programmering i över 30 år nu, trots avsaknad av formell utbildning. Mycket handlar om tur och tajmning. Jag vet att jag har ridit på en våg som omformat branschen och att vara i framkanten innebar ofta att självlärd kunskap och praktisk förmåga att omvandla den till säljbara leveranser vägde tyngre än formell utbildning.

Jag säger inte att organiserat lärande är dåligt. Tvärtom. Organiserad utbildning är bara av godo. Kunskap, oavsett hur du införskaffar den, är den lättaste bördan av alla att bära. Över åren har jag ofta önskat att jag hade fått mer teoretisk kunskap från en lärare. Eget lärande, ofta med fokus på att använda kunskapen praktiskt, sker till priset att teorin ofta faller vid sidan.

Men i takt med att generativ AI stormar fram i våra professionella och privata liv är det min absoluta övertygelse att vi alla behöver anamma en attityd av lärande och inse att vi aldrig kommer bli fulländade.

Att dessa verktyg dessutom ger ALLA möjligheten att lära sig nästan vad som helst innebär att enbart kunskap inte längre räcker för att hitta en plats i yrkeslivet. Du måste vilja lära dig något nytt. Det är väsentligt att lära sig hur man lär sig och verktygen som hjälper dig med det.

Den lärare som gav mig verktygen för livslångt lärande kunde aldrig förutse ChatGPT eller AI:s genomslag. Men hon gav mig något mer värdefullt än kunskap om specifika ämnen – hon lärde mig att vara bekväm med att inte veta, men alltid vara redo att lära.

Idag, när AI kan generera kod, skriva texter och lösa komplexa problem på sekunder, är det inte längre frågan om vad du kan – utan om hur snabbt du kan lära dig det du inte kan. Min 'bristande' utbildning visar sig vara den perfekta förberedelsen för en värld där ingen längre kan veta allt, men alla måste kunna lära sig något nytt.

Varför AI kanske inte gör dig rik

Quick Word: Medan den nuvarande investeringshysterin tyder på att AI kommer att skapa en ny generation techmiljardärer, hävdar en ny djupgående analys att motsatsen kan vara sann. Essän, skriven av Jerry Neumann, menar att AI är en "sen våg" av innovation, likt containertransporter, vars enorma värde kommer att fångas upp av etablerade företag och i slutändan konsumenterna.

Quick Points:

• Argumentet är att fördelarna med AI är så uppenbara att etablerade företag anammar tekniken i snabb takt. Detta skapar en hyperkonkurrensutsatt marknad med små möjligheter för startups att bygga en vallgrav.

• Detta står i skarp kontrast till mikroprocessorn, som först avfärdades som en leksak. Det gav startups som Apple flera år att experimentera och växa innan jättarna fick upp ögonen för den.

• Resultatet blir att de största ekonomiska vinsterna från AI inte förväntas gå till de som bygger modellerna, utan till befintliga företag som använder tekniken för att sänka kostnader. De största vinnarna blir konsumenterna som får tillgång till billigare kunskapstjänster.

Quick Take: Neumanns analys pekar mot att det mest lönsamma sättet att närma sig AI inte är att bygga nästa grundmodell, utan att hitta smarta sätt att tillämpa tekniken inom befintliga branscher. Ironiskt nog kan den största AI-vinnaren bli det medelstora företag som använder tekniken för att effektivisera sin bokföring, snarare än startups som lovar att revolutionera världen. När containertransporter omvandlade global handel blev det inte uppfinnarna av containern som blev rika – det var Walmart och andra som utnyttjade den billigare logistiken för att bygga nya affärsmodeller.

Behöver du hjälp att navigera ett ständigt skiftande AI-landskap?
Micke Quick är konsult med särskilt fokus på AI och arbetsflöden inom reklam- och marknadsföring. Han hjälper dig med insikter, utbildning, och strategi för implementering av AI.

Läs mer på mickequick.se 

Quick Links

Lagstiftare i Kalifornien har röstat igenom SB 53, en banbrytande AI-säkerhetslag som kräver ny transparens och testning av avancerade AI-modeller. Lagen ligger nu på guvernörens bord för ett slutgiltigt beslut.

Alibaba har expanderat sitt ekosystem för Qwen3-modellen med nytt stöd för Apples ramverk MLX. Detta möjliggör effektivare AI-prestanda direkt på enheten för Mac-datorer och iPhones.

NVIDIA har visat hur deras ramverk TensorRT-LLM kan ge Alibabas modell Qwen3-4B upp till 16 gånger högre inferens-genomströmning, vilket leder till snabbare och mer kostnadseffektiva implementationer.

Google granskas för sina metoder för AI-träning. Rapporter gör gällande att överarbetade konsulter på GlobalLogic tvingas betygsätta komplexa ämnen utanför sin expertis under hård tidspress.