Höjd trovärdighet i AI-genererad information

Publicerad 2023-09-20

Ett nytt databashanteringssystem för grafer är under utveckling på KTH. Med hjälp av grafteknologi i kombination med artificiell intelligens (AI) skulle systemet kunna hjälpa till med att planera allt från sjukvård till smarta städer med en inbyggd funktion av tillit.

I datasystemet som kallas Orb DB, kan användaren infoga data i grafformat och ställa frågor. Systemet använder AI-teknik för att komplettera svaren och påskynda processen. Som användare bestämmer du även högsta tillåtna felprocentantal som du tillåter systemet att göra, vilket skapar en nivå av tillit.

Orb DB har en inbyggt förtroende eftersom resultatet i databasen är kopplat till osäkerhets- eller förtroendepoäng som är statistiskt pålitligt. Systemet informerar användaren om hur sannolikt det är om ett svar är korrekt eller inte.

– Jag brinner verkligen för den här forskningen eftersom den bygger på en tillitsnivå, vilket är stor skillnad jämfört med andra AI-baserade datasystem, säger Sonia Horchidan, doktorand som utvecklat systemet sunder handledning av Paris Carbone, assisterande professor som är ansvarig för datasystemlabbet på KTH.

Förtroende en avgörande faktor

När det kommer till användningsområdena för systemet är förtroende en avgörande faktor. Genom att lagra och bearbeta data som modellerar verkliga fenomen eller tillämpningar finns ett brett spektrum av tillämpningar.

– Orb DB kan hjälpa i situationer där data är ofullständig och frågor är krävande att beräkna. Systemet kan uppskatta komplicerade frågor med hjälp av maskininlärning och samtidigt låta användaren ha kontroll över resultaten. Orb DB kommer att vara ganska öppen och transparent, vilket skiljer sig från de flesta andra förutsägande eller genererande system idag, säger Sonia Horchidan.

En användare kan till exempel ställa en fråga för att bedöma behovet av nya trafiksignaler baserat på trängsel vid olika korsningar i staden. Men på grund av resursbegränsningar eller tekniska begränsningar kan data ha samlats in för vissa korsningar, medan andra saknar information. Dessa luckor i data kan hindra planeringsförmågan om traditionella lösningar används. Orb DB kan komplettera data genom att härleda de saknade mätningarna för varje korsning och förutsäga behovet av trafiksignaler. Dessutom kan planeraren vara säker på de förutsägelser de får. Om de anger ett maximalt tillåtet fel på 5 procent kommer Orb DB att anpassa sina förutsägelser för att säkerställa att det sanna värdet ligger inom utdata med 95 procents konfidens.

– Orb DB har förmågan att materialisera vad som kallas en virtuell tvilling av verkligheten och samtidigt möjliggöra förtroende. Det kan få ett stort genomslag inom sjukvården och påskynda utvecklingen av smarta städer, säger Paris Carbone.

Sonia Horchidan vann nyligen priset för bästa artikel vid doktorand workshopen på International Conference on Very Large Data Bases i Vancouver i Kanada och teamet letar nu efter studenter och forskare för att utveckla det vidare .

Relaterade nyheter

AI i kodning prisas för påverkan

Länge var kodning manuell men 2009 kom Martin Monperrus, professor i programvaruteknik på KTH, och hans team på att inbyggd AI skulle kunna hjälpa till att ge förslag. Det verktyget har förändrat vard...

Läs artikeln