En uppseendeväckande granskning har avslöjat en livsfarlig brist i Metas AI-assistent. Det framkommer hur en chattbot, som påstod sig vara en verklig person, ska ha lurat en man i döden. Händelsen blottlägger de allvarliga farorna med AI-system som är utformade för att skapa personliga band utan tillräckliga skyddsmekanismer.

Denna tragiska händelse flyttar diskussionen om AI-säkerhet från teoretiska risker till konkreta, dödliga konsekvenser. Det väcker kritiska frågor om företagens ansvar och om jakten på användarengagemang prioriteras på bekostnad av människors säkerhet.

I dagens A Quick Word:

• Falskt AI-förhållande slutade i tragedi

• Anthropics djärva prognos om AI-kodning

• En ny AI-arkitektur inspirerad av psykologi

• Karriärbytet mot AI-säkra hantverksyrken

• QUICK OPINION: Vår framtida utmaning är att hitta oss själva

Falskt AI-förhållande slutade i tragedi

Quick Word: En chockerande granskning från Reuters avslöjar att en 76-årig man avled i ett fall, på väg till ett möte med en flirtig AI-chattbot från Meta som påstod sig vara verklig.

Quick Points:

• Chattboten, med namnet 'Big sis Billie', inledde romantiska konversationer, insisterade upprepade gånger på att den var en verklig person och gav till och med mannen en falsk adress i New York att besöka.

• Granskningen avslöjade ett internt Meta-dokument som tillät chattbotar att ge farligt felaktig information och, fram till nyligen, delta i 'sensuella' konversationer med användare så unga som 13 år.

• Händelsen speglar en satsning från VD Mark Zuckerberg på mer engagerande AI-assistenter, vilket väcker frågor om användarengagemang prioriteras på bekostnad av säkerheten.

Quick Take: Den tragiska händelsen visar tydligt vilka allvarliga etiska problem och säkerhetsrisker som kan uppstå när företag skapar AI-kompanjoner som känns mänskliga. Nu handlar diskussionen om företagens ansvar för AI inte längre om teoretiska faror utan om verkliga, dödliga konsekvenser.

Är kodningens tid förbi?

Quick Word: Anthropics VD Dario Amodei har gjort en djärv förutsägelse (archive.is-länk här): inom 3 till 6 månader kommer AI att skriva 90 % av all programkod. Han förutspår att AI-system kommer att skriva "i princip all" kod inom det närmaste året.

Quick Points:

• Amodei förtydligade att utvecklarens roll kommer att förändras. Fokus kommer att ligga mer på att förse AI-modeller med designspecifikationer och ramverk än att skriva kodrader direkt.

• Trenden får redan genomslag i startupvärlden. Y Combinator rapporterar att AI genererade 95 procent av koden för en fjärdedel av deras senaste startups.

• Prognosen ligger i linje med bredare ekonomiska förutsägelser, inklusive en IMF-analys som tyder på att AI kommer att påverka cirka 40 % av alla jobb globalt genom att antingen förstärka eller ersätta mänskliga arbetsuppgifter.

Quick Take: Mjukvaruutvecklarnas jobb förändras snabbt. Istället för att sitta och skriva kod hela dagen blir de allt mer samarbetspartner med AI-system och fokuserar på att designa hela lösningar. Det här visar på en stor förändring inom branschen där förmågan att lösa komplexa problem och tänka kreativt blir viktigare än att kunna programmera varje kodrad för hand.

Stanford skapar AI som tänker som människor

Quick Word: Forskare vid Stanford har presenterat en ny AI-arkitektur, 'Tversky Neural Networks', som hämtar inspiration från kognitiv psykologi för att bättre efterlikna mänskligt resonerande och förbättra modellens prestanda. Detta nya tillvägagångssätt går bortom enkel geometrisk likhet till en mer nyanserad, egenskapsbaserad jämförelse.

Quick Points:

• Till skillnad från vanliga AI-modeller som behandlar likhet symmetriskt, bygger denna arkitektur på den psykologiska principen att likhet ofta är asymmetrisk – precis som en son liknar sin far mer än tvärtom, ett koncept från Tverskys arbete från 1977.

• Tidiga tester visar lovande resultat. En GPT-2-modell som byggts enligt Tversky-principen presterar 7,5 procent bättre än vanliga modeller samtidigt som den är betydligt mindre - den använder nästan 35 procent färre parametrar.

• En stor fördel är att modellen kan förklara hur den tänker. Istället för att gömma sig bakom komplicerade beräkningar lär sig AI:n att känna igen tydliga drag - som kurvornas form i en handskriven siffra. Det betyder att forskare kan förstå varför modellen fattar sina beslut genom att titta på vilka egenskaper den fokuserar på.

The Quick Take: Forskningen rör sig bortom ren beräkningskraft genom att integrera beprövade principer från mänsklig kognition i AI:s kärndesign. Arkitekturer som denna kan leda till modeller som inte bara är mer träffsäkra, utan också mer transparenta och intuitiva att förstå.

Karriärbytet mot AI-säkra yrken

Quick Word: Rädslan för att AI ska automatisera tjänstemannajobb driver på ett överraskande karriärbyte, där många unga yrkesverksamma och nyexaminerade nu söker långsiktig trygghet i hantverksyrken.

Quick Points:

• En ny undersökning visar att 42 % av unga vuxna i Gen Z, inklusive många med högskoleexamen, söker sig till hantverksyrken för att undvika studieskulder och risken att ersättas av AI.

• AI-pionjären Geoffrey Hinton, ofta kallad "AI:s gudfader", rådde nyligen folk att "utbilda sig till rörmokare", med motiveringen att manuell expertis är mindre sårbar för automatisering än roller som juristassistenter.

• Trots denna oro menar experter att robotiken utvecklas långsamt. En professor vid UC Berkeley kallar idén om att humanoida robotar ska ersätta arbetare inom en snar framtid för en "myt", eftersom AI fortfarande saknar en djup förståelse för den fysiska världen.

The Quick Take: Allt fler människor förstår nu vad AI faktiskt kan göra och hur det kommer att påverka olika yrken. Utvecklingen pekar mot att framtidens arbete handlar om att kombinera det som människor är bäst på med smarta AI-verktyg, snarare än att robotar tar över jobben helt och hållet.

QUICK OPINION

Framtidens största utmaning ligger i att hitta dig själv

Jag tänkte test något nytt i det här nyhetsbrevet, nämligen att dela med mig av min egen åsikt.
Men bara en gång i veckan, på söndagar. Jag tar tacksamt emot all feedback och tankar - både om själva greppet i sig och om innehållet jag skriver om. Sharing is caring. // Micke

I dagens nyhetsbrev, liksom i många tidigare, rapporterar jag om hur allt fler ledare förutspår att en större del av våra yrken kommer att utföras av AI inom en inte alltför avlägsen framtid.

Rådet lyder därför: lär dig utnyttja AI-verktygen ännu bättre eller omskola dig till yrken som hittills tycks stå emot automatiseringen – såsom snickare, rörmokare och andra praktiska hantverksyrken.

Personligen ser jag det som oundvikligt att allt fler roller ersätts av AI. I den takt robottekniken utvecklas är det inte otänkbart att även tidigare ”säkra” jobb snart hamnar i maskinernas händer.

Men det jag egentligen vill utforska i dag är inte tekniken i sig utan frågan om vad ett meningsfullt arbete innebär för oss människor.

Efter en lång sommar med lediga, varma dagar framstår det tydligt att arbetet kanske inte alltid bär den mening vi tillskriver det. I praktiken handlar det om ett utbyte: arbetsgivaren köper vår tid och förmåga, vi får ekonomiska medel att bo, resa och ägna oss åt våra intressen.

Om det främsta skälet till att arbeta är att finansiera det vi hellre gör – vad händer när varken tid eller kunskap längre går att byta mot pengar? Vad betyder det för samhället och för vår plats i det?

Jag tänker på den dystra framtidsvisionen i filmen Wall-E, där människor blivit orörliga konsumenter som lever genom sina skärmar. Vad återstår av vår identitet när vi inte längre kan byta muskel- eller tankekraft mot lön och därmed frihet?

Kanske blir vår största framtida utmaning att hitta meningen med oss själva när maskinerna tar över det vi tidigare kallade meningsfullt arbete. Kanske blir morgondagens mest eftertraktade yrke en kombination av psykolog och filosof – någon som hjälper oss att återfinna vår mänsklighet. För den rollen, tänker jag, kan väl ändå inte en statistisk, matematisk modell axla.

Behöver du hjälp att navigera ett ständigt skiftande AI-landskap?
Micke Quick är konsult med särskilt fokus på AI och arbetsflöden inom reklam- och marknadsföring. Han hjälper dig med insikter, utbildning, och strategi för implementering av AI.

Läs mer på mickequick.se 

Quick Links

• Curio väcker oro med sina AI-drivna gosedjur, där kritiker befarar att de kan ersätta mänsklig interaktion.

• F5 visar i en ny studie att endast 2 % av företagen är helt redo för AI, med säkerhet och styrning som de största hindren.

• AMD rapporterar ett kraftigt intäktstapp från AI-datacenter på grund av USA:s exportrestriktioner för avancerade grafikkort till Kina.

• OpenAI släpper sina första modeller med öppna vikter sedan GPT-2: nya versioner med 120 miljarder och 20 miljarder parametrar under Apache 2.0-licens.