”Bygg AI som stödjer kollektivt välbefinnande”
Tema: Teknik för vem?
På jakt efter mer inkluderande AI-system analyserar KTH-forskaren Amir H. Payberah rättvisa och jämlikhet i utvecklingen av stora språkmodeller. Hans mål är att utmana de strukturella utelämnanden som är djupt inbäddade i dessa system.
Amir H. Payberah är lektor i datavetenskap vid KTH med en bakgrund inom teknik, distribuerade algoritmer och AI-system. Han har efter hand alltmer börjat ifrågasätta hur AI och i synnerhet stora språkmodeller (LLM:er) utvecklas. Det är datorprogram som lär sig mönster i text och använder dem för att skapa nytt innehåll.
– Med tiden såg jag en stor klyfta mellan arbetet jag gjorde och dess verkliga påverkan på samhället och miljön. Därför bytte jag fokus och började betrakta teknikutveckling utifrån kritiskt medvetande och intersektionell* feminism. Det handlar inte bara om vad vi bygger – utan vem som gynnas av det, vem som exkluderas och vilka samhällskostnader det genererar, säger han.
För Amir H. Payberah är inte frågan om vi bör använda AI-system, utan hur de kan byggas och användas annorlunda, tillsammans med de samhällen som påverkas av dem.
– Jag är intresserad av alternativa sätt att arbeta med AI som utgår från värden som rättvisa, gemensam frigörelse, omsorg och jämlikhet, så att teknikutveckling kan stödja kollektivt välbefinnande i stället för att reproducera existerande ojämlikheter, säger han.
Strukturella utelämnanden
I projektet ”The Missing Data” samarbetar Amir H. Payberah med KTH-forskaren Lina Rahm, specialiserad på artificiell intelligens och autonoma system.
Projektnamnet syftar på strukturellt frånvarande data som påverkar utveckling, implementering och utvärdering av AI-system och samtidigt förstärker bredare mönster av ojämlikhet. Projektet fokuserar på tre ofta förbisedda områden: marginaliserade erfarenheter, osynligt arbete och miljöpåverkan.
– Ett exempel är hur data om könsbaserat våld eller obetalt omsorgsarbete ofta saknas i offentliga datamängder. Denna osynlighet formar politiska beslut och resursfördelning på sätt som förstärker ojämlikhet. Ett liknande bortfall syns i system för katastrofhantering, som ofta kartlägger vägar och byggnader men saknar data om personer utan bil eller med omsorgsansvar. Resultatet blir att evakueringsverktyg riskerar att förbise dem som är mest utsatta.
I projektet ingår att bygga ett första testverktyg, så kallat proof-of-concept, som använder LLM:er för att identifiera ”förväntade-men-saknade”-relationer i datamängder.
– Genom att sätta erfarenheter i centrum, kombinera tekniska och kvalitativa metoder och arbeta nära samhällsaktörer kan vi utveckla verktyg och ramverk som gör AI-system mer ansvarstagande, inkluderande och socialt förankrade, säger Amir H. Payberah.
Andra aktiviteter
Även insamlandet av mer data, i stället för mindre, kan göra skada. Detaljerade användardata kan exempelvis möjliggöra övervakning eller kontroll av redan utsatta grupper. Samtidigt har AI-utvecklingen potential att bidra till delaktighet och frigörelse. Förra året startade Amir Co-liberative Computing, en forskargrupp vid KTH som arbetar för att stärka kritiskt medvetande inom utbildning och forskning i datavetenskap.
– Jag ville skapa ett forum där vi bygger ett kritiskt medvetande och placerar rättvisa i centrum för datavetenskapen – inte som ett tillägg, utan som en grundprincip. Det gemensamma i ”Co-liberative” är avgörande, eftersom rättvisa och frigörelse bara fungerar om de gäller alla, säger Amir H. Payberah.
Du undervisar i en doktorandkurs om datafeminism, vilken respons får du?
– Jag har fått väldigt positiv feedback. Vi diskuterar ämnen som ofta saknas på tekniska universitet. Det ökande antalet doktorander som söker sig till kursen från universitet runt om i Sverige visar hur mycket ett sammanhang för den här typen av samtal har behövts.
Text: Alexandra von Kern