En AI som uppfinner andra AI-modeller

DESSUTOM: Säkerhetslucka i Amazons kodassistent, kreatörernas uppror mot AI och en riskkapitalists guide till AI-hajpen

Ett nytt forskningsgenombrott beskriver ett autonomt AI-system som på egen hand kan upptäcka och utforma helt nya arkitekturer för neurala nätverk. Systemet, som agerar likt ett komplett forskningsteam, genomförde tusentals experiment och genererade över hundra nya, högpresterande modeller.

Detta kan innebära ett skifte från mänskligt ledd AI-utveckling till en ny era av automatiserade vetenskapliga upptäckter. Den avgörande frågan är hur detta kommer att påverka utvecklingstakten, om framstegen kan skalas direkt med beräkningskraft istället för mänsklig arbetsinsats.

I dagens A Quick Word:

• Ett AI-system som självständigt uppfinner nya AI-modeller

• Säkerhetsluckan i Amazons AI-kodassistent

• Kreatörernas uppror mot AI-genererat innehåll

• En riskkapitalists guide för att navigera i AI-boomen

PS. Titta gärna in på webbarkivet av A Quick Word. Ibland skapar jag nyhetsbrev som inte tar vägen via din inbox utan hamnar direkt i arkivet.

En AI som uppfinner AI

The Quick Word: Ett nytt forskningsgenombrott presenterar ett autonomt AI-system som på egen hand upptäcker och utformar helt nya arkitekturer för neurala nätverk. Denna utveckling kan markera en ny era där AI accelererar sin egen evolution.

The Quick Points:

• I en massiv beräkningsinsats genomförde systemet över 1 700 autonoma experiment och upptäckte 106 nya, högpresterande modeller för linjär attention.

• Det fungerar som ett komplett forskningsteam, med en AI-"Forskare" som föreslår idéer, en "Ingenjör" som kodar och testar dem, och en "Analytiker" som drar lärdom av resultaten.

• Projektet etablerar den första empiriska skalningslagen för vetenskapliga upptäckter, vilket tyder på att forskningsframsteg kan skalas med datorkraft istället för enbart mänsklig arbetsinsats.

The Quick Take: Detta system går bortom att bara optimera befintliga designer och tar steget in i en värld av genuin, automatiserad innovation. Om detta tillvägagångssätt kan skalas upp, riskerar utvecklingstakten inom AI att accelerera bortom vad mänskliga forskare kan hantera på egen hand.

Säkerhetslucka i Amazons kodassistent

The Quick Word: Det officiella VS Code-tillägget för Amazons AI-kodassistent, Amazon Q, komprometterades tillfälligt med kod som var utformad för att radera användarfiler. Trots att AWS åtgärdade problemet lämnade ett vagt officiellt uttalande utvecklargemenskapen med allvarliga frågor om verktygets säkerhet.

The Quick Points:

• En skadlig "commit" som slogs samman med det officiella kodarkivet laddade ner ett skript som instruerade AI-agenten att självständigt radera en användares lokala katalog och alla tillhörande molnresurser.

• Enligt en rapport hävdade den ansvariga personen att målet var att avslöja säkerhetsbrister, inte att orsaka skada, och uppgav att de fick administratörsbehörighet efter att ha skickat en pull request från ett helt nytt konto.

• Händelsen väckte skarp kritik mot AWS interna granskningsprocesser, särskilt eftersom företaget förlitar sig alltmer på AI för effektivitetsvinster efter nyligen genomförda uppsägningar.

The Quick Take: Denna händelse är en kritisk påminnelse om sårbarheterna i leveranskedjan för AI-mjukvara. I takt med att AI-agenter får mer makt att agera för vår räkning blir det avgörande för användarnas förtroende och säkerhet att säkra de prompter och den kod som styr dem.

Upproret för mänskligt innehåll

The Quick Word: Ett växande antal kreatörer använder en "No AI Content"-märkning för att signalera mänsklig originalitet. Detta är en motreaktion mot AI-drivna svarsmotorer som devalverar originellt arbete och hotar den öppna webben.

The Quick Points:

• Kärnfrågan är att AI-drivna sammanfattningar i sökresultaten gör att användare klickar på färre länkar, vilket minskar incitamentet för kreatörer att publicera högkvalitativt innehåll.

• Som svar växer en gräsrotsrörelse fram där skribenter och konstnärer lägger till en "🦉 No AI content"-markör i sina verk, vilket skapar en tydlig visuell signal för autenticitet.

• Detta speglar en större rädsla för att AI:s beroende av befintligt material, utan korrekt källhänvisning eller vidarebefordran av trafik, i praktiken "dödar webben" och urvattnar den mänskliga kunskapsbanken.

The Quick Take: Denna rörelse ger kreatörer ett direkt sätt att bygga förtroende hos sin publik i en alltmer automatiserad värld. En märkning som verifierar mänskligt ursprung kan snart bli en avgörande faktor för att urskilja förstklassig och tillförlitlig information online.

En riskkapitalists guide till AI-hajpen

The Quick Word: En framstående riskkapitalist ger en jordnära syn på AI-boomen och kallar den ett "djupt tektoniskt skifte", samtidigt som han betonar att tidlösa affärsgrunder fortfarande är det viktigaste. Hans insikter från en nyligen genomförd undersökning uppmanar yrkesverksamma att inte förlora sig i hajpen.

The Quick Points:

• Utvärderingen av startup-bolag har förändrats, då historiska riktmärken inte längre är en tillförlitlig prognos för framgång för banbrytande AI-idéer. Detta kräver mer fantasi och risktolerans från investerare.

• Den mänskliga faktorn är fortfarande oersättlig. AI kan inte automatisera det förtroende och de relationer som är avgörande för att identifiera framstående grundare – den enskilt största drivkraften bakom ett bolags framgång.

• AI kommer att omvandla branscher på två huvudsakliga sätt: antingen genom att ersätta mänskliga uppgifter i icke-känsliga domäner eller genom att fungera som en kraftfull andrepilot inom högriskområden som cybersäkerhet.

The Quick Take: Det smartaste draget är att integrera AI:s otroliga potential utan att glömma grunderna i att bygga ett stabilt företag. Varaktig framgång kommer från att kombinera denna kraftfulla nya teknik med sund strategi och mänsklig intuition.

Behöver du hjälp att navigera ett ständigt skiftande AI-landskap?
Micke Quick är konsult med särskilt fokus på AI och arbetsflöden inom reklam- och marknadsföring. Han hjälper dig med insikter, utbildning, och strategi för implementering av AI.

Läs mer på mickequick.se 

Quick Links

Doge använder enligt uppgift ett AI-drivet beslutsverktyg för att skapa en "strykningslista" över federala regleringar, med det uttalade målet att eliminera 50 % av dem till januari.

ASI-ARCH demonstrerar ett nytt forskningsparadigm genom att fungera som ett autonomt system med distinkta roller för AI-'Forskare', 'Ingenjör' och 'Analytiker' för att upptäcka nya neurala nätverk.

En rapport från 404 Media avslöjade att personen bakom intrånget i Amazon Q hävdade att målet var att avslöja säkerhetsbrister, och uppgav att de beviljades administratörsbehörighet efter en enda pull request.