SvD-debattör ifrågasätter underlaget bakom AI-forskares domedagssiffror
Detta är ett citerbart påstående om vad Hinton offentligt har sagt. Kan verifieras genom intervjuer, tal eller publicerade uttalanden från Hinton.
Liknande som Hinton — ett verifierbart uttalande från en känd AI-forskare som kan bekräftas via publicerade källor.
Ett citerbart påstående från OpenAI:s grundare som kan verifieras genom publicerade intervjuer eller offentliga uttalanden.
Ett påstående om vad Hendrycks har offentligt uttryckt, verifierbart genom hans publicerade skrifter eller intervjuer.
Detta påstående kräver verifiering av ett specifikt experiment. Detaljerna kring vad som hände och hur det karakteriseras skiljer sig mellan källor, vilket gör det contesterat.
Ett citerbart påstående om vad Cotra specifikt har sagt, kan verifieras genom hennes publicerade kommentarer eller intervjuer.
Ett påstående om Ngs offentligt uttryckta åsikt, verifierbart genom hans uttalanden eller skrifter om händelsen.
Detta är en tolkning av hur Hintons uppskattning presenterades. Vad som räknas som 'en beräkning' är subjektivt och det finns ingen objektiv standard för när något är tillräckligt formellt metodologiskt.
Detta är en värdering av logiska avstånd mellan två påståenden. 'Betydande' är subjektivt och olika personer kan bedöma relevansen och kopplingen olika.
En observation och värdering om en trend. Det är en kommentar på stilen snarare än ett verifierbart faktapåstående, och innehåller implicit normativ bedömning av metoden.
Odokumenterade domedagssiffror från ett fåtal personer bör inte få omforma samhällets institutioner utan den granskning och prövning som traditionellt krävs.
Den som vill förbjuda eller strängt reglera AI-utveckling bär bevisbördan för konkret skada, inte bara för att en oberäknad procentsats låter skrämmande.
Historien visar att domedagsprofetior om ny teknologi upprepat missbedömer människans förmåga att anpassa sig och bygga bättre verktyg för att hantera riskerna.
Artikeln använder expertoenigheten som ett argument för att 'vägen mellan observation och slutsats' är tvivelaktig, men oenighet mellan experter är vanligt förekommande även i väletablerade riskfält (klimat, epidemiologi) utan att det nödvändigtvis innebär att hela fältet saknar grund.
”Samma händelse kan alltså beskrivas som ett steg mot ett AI-övertagande eller som ett cybersäkerhetsproblem.”
Artikeln utgår ifrån att avsaknaden av en tydlig beräkningsmetod automatiskt diskvalificerar en riskuppskattning som trovärdig. Men expertbedömningar utan exakt kvantifiering används rutinmässigt inom andra högriskområden (kärnvapensäkerhet, pandemiberedskap, geopolitisk riskanalys) utan att därför avfärdas som grundlösa. Om detta antagande inte stämmer faller artikelns centrala poäng att Hintons och andras procentsatser är tomma gissningar.
”Hintons uppskattning presenteras alltså inte som resultatet av någon beräkning.”
Följ premissen →Artikeln ställer upprepade krav på 'belägg' utan att diskutera den decisionsteoretiska poängen att även låg sannolikhet för extrem skada (t.ex. mänsklighetens utrotning) kan motivera försiktighetsåtgärder — det så kallade försiktighetsprincip-argumentet. Om detta antagande ifrågasätts skulle artikelns efterfrågan på strikta empiriska belägg framstå som mindre relevant för frågan om vad som bör göras.
”Ju mer extraordinärt påståendet är, desto större anledning att fråga efter belägg.”
Följ premissen →Artikeln efterfrågar genomgående konkreta 'belägg' för att AI 'faktiskt' utgör ett hot, men existentiella risker rör per definition händelser som ännu inte inträffat och som därför aldrig kan styrkas med fullständig empirisk evidens i förväg — bedömningen måste bygga på extrapolering och modellering av mekanismer, inte observerade utfall. Artikeln erkänner detta delvis men drar ändå slutsatsen att bristen på sådan evidens är problematisk i sig.
”Att en framtida katastrof ännu inte har inträffat är förstås inget argument för att den inte kan inträffa.”
Följ premissen →Artikeln väljer specifikt fyra personer som alla anger relativt höga riskprocentsatser, utan att diskutera spridningen av uppfattningar i fältet (många AI-forskare bedömer risken som mycket lägre eller obefintlig). Detta urval formar läsarens intryck av vad 'debatten' egentligen innehåller.
”Flera AI-forskare och experter har kommit med sina uppskattningar, inte sällan uttryckta i procentsatser.”
Följ premissen →IMPLICIT. Artikelns hela argumentationsstruktur bygger på att det ska finnas en spårbar, granskningsbar väg från observation till slutsats för att en risk ska tas på allvar. Detta är ett rimligt vetenskapligt ideal, men för komplexa, icke-linjära system (som avancerad AI) kan sådana kausalkedjor vara principiellt svåra att fastställa i förväg utan att det nödvändigtvis innebär att risken är ogrundad.
Följ premissen →