Det hävdas i denna podcast med professor Runciman. Hans argument är enkelt: stater och företag är artificiella varelser som fattar beslut och gör det utan att vi har kontroll över dem. Det är en tes som tycks som gjord för att greppa tanken, med sensationella övertoner. Men det är intressant att översätta en del av de problem som möter oss i AI in i den analogin — kanske särskilt tanken på “explainable AI”.
Hur god insyn har vi i hur staten eller företagen faktiskt fattar sina beslut? Hur skulle det fungera ut om vi började kräva att en organisation bara fick vara så komplex att det gick att i detalj förklara hur den fattat ett givet beslut, och på detta vis kunna utesluta att fördomar inverkat på beslutet? Har vi sådan insyn idag? Har vi “explainable organizations”?
Runcimans medvetet sensationssökande analogi är användbar för att fundera kring alla olika typer av kognition som sker runtom oss — och borde leda till att vi kanske återintroducerar den gamla termen “funktionell ekvivalens” — att vi inte skall kräva särreglering av nya fenomen så mycket som att vi relativt dem har samma förmåga att ingripa som vi har haft hitintills. Kanske.
Den andra läsningen jag tenderar till är att området nu nått en sådan hypenivå att de olika idéerna och analogierna blir djupt spekulativa i syfte att rida på den våg av uppmärksamhet som ämnet får. Det i sin tur är emellertid också en användbar insikt — och tycks rekommendera att sluta läsa om AI ett litet tag tills det lägger sig.
