Krav på totalstopp för kraftfull AI – svenska professorn ser luckor i branschens plan

En enkel faktisk påstående om en publicerad handling. Kan verifieras genom att söka efter blogginlägget från Dario Amodei.

Faktapåstående om offentligt uttryckta ståndpunkter. Kan verifieras genom att söka efter uttalanden eller reaktioner från dessa personer på blogginlägget.

Biografisk faktapåstående som enkelt kan verifieras genom Chalmers personalregister eller officiella webbsida.

Biografisk faktapåstående som kan verifieras genom Linköpings universitets webbsida eller akademisk databas.

Medan Evan Hubingers anställning på Anthropic är verifierbar, är bedömningen 'högt uppsatt' vag och subjektiv och beror på tolkning.

Påstår en specifik trend men begreppet 'växande förmåga att utveckla sig självt' är tolkningsöppet och debatterat bland experter.

Ett värderingspåstående blandad med faktapåstående. Huruvida bolagens planer är tillräckliga är en omtvistad bedömning.

Detta är en prognosbedömning om en framtida, hypotetisk händelse. Det finns ingen objektiv grund för att fastställa sådan sannolikhet och påståendet är formulerat för att inte kunna falsifieras innan tidsgränsen passerar.

Motsatt bedömning från föregående, men lika oprecis och oprovbar. 'Ganska osannolik' är subjektiv värdering som inte går att empiriskt verificera.

Ett normativt påstående om hur ansvar bör fördelas. Det är en värdering och politisk ståndpunkt, inte ett påstående som kan verifieras mot verkligheten.

Artikeln låter Häggström kräva ett fullständigt stopp utan att utmana om detta är praktiskt möjligt. Vad händer med kinesisk, rysk och andra statligt finansierade AI-program om västerländska företag stoppar? Om ett ensidigt stopp bara förskjuter ledningen till aktörer med lägre säkerhetsfokus, kan det faktiskt öka den risk det sägs minska. Artikeln behandlar aldrig denna invändning.

”Vi behöver ett fullständigt stopp för frontier-modellerna”

Artikeln är helt strukturerad kring frågan om AI kan utplåna mänskligheten. Därigenom marginaliseras en bred klass av faktiska, omedelbara AI-risker (diskriminering via algoritmer, massövervakning, ekonomisk koncentration, desinformation, arbetsmarknadsomvandling). Artikeln tar för givet att superintelligens-scenariot är den relevanta analysnivån, vilket är en omtvistad premiss inom AI-forskning.

”IMPLICIT — artiklens hela struktur utgår från frågan om AI som 'existentiellt hot mot mänskligheten' utan att motivera varför detta är den mest angelägna risknivån.”

Alla tre leder organisationer som aktivt utvecklar de kraftfullaste AI-systemen. Att förespråka reglering som 'inbromsning' medan man själv fortsätter kan vara ett sätt att höja inträdesbarriärer för konkurrenter (regulatory capture) eller att bygga ett ansvarsfullt varumärke utan att faktiskt bromsa. Artikeln presenterar deras stöd som om det var ett trovärdigt åtagande att sakta ner, utan att notera den uppenbara intressekonflikten.

”I inlägget, som fått stöd av både Open AI:s vd Sam Altman och techmiljardären Elon Musk”

Probabilistiska riskbedömningar för händelser utan historiska analogier (superintelligens som utplånar mänskligheten) är inte mätbara på samma sätt som försäkringsmatematiska risker. Siffran '10 procent' framstår i artikeln som ett kvantitativt expertutlåtande men är i grunden ett personligt konfidensintervall hos en enskild forskare med ett eget professionellt intresse i att AI-säkerhet tas på allvar.

”Risken är 'större än tio procent' att det sker inom de kommande tio åren”

Artikeln inleds med Häggström som 'den svenska expert som profilerat sig i frågan' och ger mer utrymme åt stoppargumentet. Heintz presenteras mer kortfattat och som representant för dem som 'avfärdar domedagsprofetiorna'. Ramingen skapar en asymmetri där varnings-positionen ges legitimitet som norm och skeptikerna framstår som avfärdande snarare än som lika seriösa vetenskapliga röster.

”Olle Häggström är den svenska expert som profilerat sig i frågan om att AI måste regleras”