AI pressar demokratin
Tema: Teknik och demokrati
AI gör det enklare än någonsin att skapa trovärdigt, men falskt innehåll – och det märks i politiken. Anders Hedman, forskare inom medieteknik, varnar för ökande polarisering, svagare tillit och en demokrati som pressas av teknikens snabba utveckling.
Anders Hedman ger en kritisk bild av hur AI-verktyg på sociala medieplattformar har utvecklats – och menar att det har skapat problem för både politiken och valen:
Sedan 2010-talet har juridiskt skyddade sociala medier, genom teknik designad för att påverka vårt beteende, bidragit till ökad polarisering och påverkat valdebatter. Med AI har det blivit ännu kraftfullare – i dag är det lätt att skapa trovärdigt men manipulerat innehåll i stor skala.
Algoritmer driver också polarisering som en konsekvens av att vara designade för att maximera vår tid på medieplattformar med innehåll som blir känslomässigt laddat och uppseendeväckande. Resultatet är att högljudda politiska åsikter sprids snabbare än sansade och faktabaserade, med hot mot demokratin, menar Anders Hedman.
– Företagen bakom plattformarna försöker inte i någon större utsträckning stoppa det här, utan fokuserar på att stärka sina positioner i medievärlden. Samtidigt sprids mer osanningar som om det vore fakta, vilket knappast är bra för demokratin.
Ansvar för innehållet
Anders Hedman forskar och undervisar om AI, människa–datorinteraktion och teknikens påverkan på samhälle och mänskligt tänkande. Han har tillsammans med Journalistfonden, utvecklat och hållit en KTH-utbildning för journalister om AI.
– AI har snabbt blivit en del av hur nyheter produceras, sprids och tas emot. Men det handlar inte bara om att förstå nya verktyg och arbetssätt. Journalister behöver också förstå de tekniska och ekonomiska maktstrukturerna som AI-systemen ingår i samt möjligheterna och begränsningarna i själva tekniken, säger han.
En annan sak som lyfts i kursen är skillnaden mellan sociala och traditionella medier. Sociala medieplattformar skyddas av yttrandefrihetslagar, men utan samma ansvar för innehållet som traditionella medier med ansvariga utgivare.
– Samtidigt ger AI-stödd påverkansdesign i sociala medier stora möjligheter för politiska och andra aktörer att vilseleda och manipulera åsikter.
Anders Hedman menar att en viktig poäng med utbildningen är att ge journalister bättre förståelse för AI, så att de kan rapportera om ämnet på ett trovärdigt sätt och inte svepas med i all hype.
AI och mänsklig intelligens
Han efterlyser också en bredare och friare diskussion om vart AI egentligen är på väg, gärna med ett mer filosofiskt perspektiv. I dag tycker han att debatten ofta styrs inifrån AI-världen själv, där man till exempel jämför AI med mänsklig intelligens.
Enligt Anders Hedman finns det en “AI-elit” som ser människans tänkande som rena beräkningsprocesser och intelligens som att nå mål på effektiva sätt. Det tycker han är både förenklat och missvisande. Han varnar för att det teknokratiska synsättet kan bli farligt.
– Om vi börjar se AI som måttstock för intelligens och kreativitet riskerar vi att tappa vår egen förmåga att tänka nytt och se saker ur andra perspektiv.
Samtidigt ser han stora möjligheter för AI, inte minst inom journalistiken. Men det bygger på att man har ordentlig kunskap inom sitt område.
– Då kan AI bli ett verktyg för att vässa analysen, hitta nya vinklar och göra smartare kopplingar – något som i grunden gäller oss alla.
Text: Christer Gummeson ( gummeson@kth.se )