Johan Fredrikzon om dynamiken hos AI och dess samhällspåverkan
Vid två konferenser under november höll Johan Fredrikzon, internationell postdoktor vid avdelningen, föredrag med fokus på de dolda aspekterna av AI-utveckling och dess historiska sammanhang.
4S – Society for Social Studies of Science: Sea, Land, Endangered Ecologies, Solidarities
Vid den stora STS-konferensen som i år hölls i Honolulu, Hawaii presenterade Johan Fredrikzon på t emat: “The invisible work of AI alignment and its historical foundations”. Presentation handlade om hur arbetet med att göra AI mer förutsägbart och säkert för användare, i praktiken utförs av tusentals lågavlönade arbetare i den globala södern, framförallt Afrika och Sydamerika. Samtidigt osynliggörs det arbetet för allmänheten, där AI istället presenteras som smarta algoritmer. Det manuella och mänskliga arbetet hålls dolt för att hypen om AI ska kunna hållas levande (myten om teknik som automatisk och autonom). Johan visade hur det finns en längre historia här, med exempel på precis samma typ av dolt arbete som underbyggde mytbildning om automatisk teknik under den tidiga digitaliseringen under 1960- och 70-talen.
Den årliga konferensen för Stiftelsen för Rättsinformation
Vidare öppnade Johan den årliga konferensen för Stiftelsen för Rättsinformation den 14 november. Temat i år var AI som rättskälla? Johans keynote-föreläsning hade titeln “Från drömmen om automatik till omdöme som arbete” och behandlade dynamiken mellan arbete och maskiner ur ett historiskt perspektiv, med nedslag i ett antal kriser i samband med teknikskiften. Argumentet var att AI tvingar oss att ställa djupa frågor om hur vi vill arbeta. Istället för att formulera vårt eget arbete utifrån vad maskiner inte kan göra, borde vi ha ett synsätt där tekniken ses som ett verktyg. Tillsammans med våra verktyg blir vi intelligenta och vi måste på rätt sätt värdera vår egen insats.
För juristyrkets vidkommande specifikt, visade Johan att de stora språkmodellerna vi har nu är oförmögna till det vi menar med kunskap, eftersom att de inte är konstruerade för att skilja mellan sant och falskt. De är enbart byggda för att ge sannolikheter för statistiska förekomster av ordkombinationer (något Johan diskuterar som epistemologisk indifferens i en kommande artikel i tidskriften Critical AI). Därför måste AI-användning inom intellektuella verksamheter – i synnerhet inom juridiken där frågor om rätt och fel är centrala – se nyktert och kritiskt på tekniken och hålla kvar vid det som är kärnan i verksamheten (detta blir särskilt viktigt nu när vi får teknik som ytligt sett kan utföra kvalificerat arbete). I sin föreläsning kallar Johan det för omdöme som arbete.