Kategoriarkiv: artificiell intelligens

Dödsolycka med självkörande bil väcker frågor

För några dagar sedan nåddes vi av den tragiska nyheten att en kvinna mist livet efter att blivit påkörd av en självkörande bil.

Detta var den andra olyckan i ordningen, och väcker förstås en diskussion om hur vi ska förhålla oss till tekniken.

Vem ska bära ansvaret för olyckor i framtiden? Hur förhindrar vi bäst att sådant här händer? Är det egentligen någon skillnad på olyckor där bilar framförs av datorer och när människor kör dem? Får denna olycka några konsekvenser för utveckling och införande av självkörande fordon i samhället?

Anna Pernestål Brenden, forskare på KTH.

Anna Pernestål Brenden, föreståndare på Integrated Transport Research Lab (ITRL) vid KTH, jobbar med hållbara transportsystem och djupt kunnig när det kommer till autonoma fordon. I ett mejl funderar hon över frågorna ovan.

”Hej,

Jag har tänkt en del på detta, och har läst det som finns att läsa (vilket ännu inte är så mycket). Polischefen i området där olyckan skedde har sagt till tidningen San Francisco Chronicle att händelsen var sådan att den hade varit svår att undvika oavsett om bilen varit självkörande eller manuellt styrd. Självklart är det svårt att säga något mer om detta specifika fall eftersom vi inte vet vad som hände.

Några av mina reflektioner är:

1. Det är nödvändigt att göra tester i verkligheten, det finns massor fall som vi aldrig någonsin skulle kunna lista ut i laboratorium eller simuleringar. Detta har vi lärt oss i pilotprojektet som nu pågår i Kista, även om det inte handlat om säkerhetskritiska saker. Samtidigt är det viktigt att när man inte är helt säker på hur fordonen beter sig så ska hastigheten vara låg. Bilen i Arizona körde enligt uppgift 38 mph, det vill säga drygt 60 km/h. Detta på en väg med hastighetsbegränsning 35 mph. Kör man långsamt finns större möjligheter att stanna, och skulle man ändå råka ut för en olycka blir konsekvenserna mycket mindre. Det är därför bussarna i forskningsprojektet Autopiloten i Kista kör så långsamt.

2. Detta väcker många frågor och visar att självkörande fordon ännu är långt ifrån färdigutvecklade, och att det finns mer forskning som behöver göras:

a. Forskning om fordonen, och hur de ska framföras både i nominellt tillstånd och när något oväntat sker (görs på KTH och ITRL).

b. Forskning kring hur man kan använda infrastruktur (digital och fysisk) för att hjälpa fordonen och för att skilja självkörande fordon och människor åt, åtminstone till att börja med och där hastigheterna är högre.

c. Forskning kring kommunikations-gränssnitt mellan fordonen och andra trafikanter. Här finns exempelvis vårt SAV2P-koncept som vi tagit fram på ITRL, som vi testat i virtuell verklighet (VR) och som vi förhoppningsvis också kommer testa på riktigt under året.

d. Slutligen är det intressant i sig att fordonet körde (lite) för fort… Är det ok? Bilen har själv koll på hur fort den kör. Är det då ok att vara säg tio procent över fartgränsen? Då kan man ju ändra fartgränsen? Ska självkörande fordon bete sig som manuellt körda bilar för att passa in? Eller ska vi istället ge dem ett ”optimalt” beteende? Forskning kring sådana frågor behöver också studeras.

Jag hoppas innerligt att data från händelsen i Arizona görs publik, så att vi alla kan lära oss av den!

Ansvarsfrågan är svår, men jag tror att vi är på rätt spår i Sverige med ansvar hos operatören.

Testa på riktiga gator är nödvändigt, men säkerheten först (till exempel genom att köra långsamt)!

PS. Missa inte KTH-professorn Martin Törngrens blogg. Han forskar också om självkörande fordon och tar även han upp detta ämne. DS.

AI överallt

Lite stiltje på bloggen just nu. Det handlar främst om att andra arbetsuppgifter är prioriterade. Som att skriva om KTH:s nya självseglande båt.

AI, förstås. Ett het omdiskuterat ämne just nu. Både på KTH och annorstädes.

På tal om AI så var det ett inslag från KTH på SVT:s Aktuellt igår, Thomas von Heine pratar med forskaren Jana Tumova om fuskande datorprogram och hur AI kan användas för att leta buggar i mjukvara. Skönt nördigt inslag man bara rådiggar. Särskilt in- och utgången… 😀

 

Källkritik blir allt viktigare

Fake news, eller falska nyheter på svenska, kan beskrivas som en elektronisk pandemi. Många är exemplen, och du möter dem nästan varje dag om du använder internet.

Hittills har de varit begränsade till exempelvis bleka manipulerade skärmdumpar om ihopljugna Twitter-inlägg från kända politiker eller journalister, men tekniska landvinningar öppnar för fler ”möjligheter”.

Som de här teknikerna som The Washington Post döpt till ”verktygen som kan användas för att skapa morgondagens falska nyheter”. Det vill säga teknik som i realtid kan förvanska vad människor säger i bild och ljud.

Gabriel Skantze, som är universitetslektor på KTH.

Sätt verktygen i händerna på människor med till exempel en rasistisk agenda och de kommer använda den, är min första tanke. Då behöver dessa personer inte längre dåligt photoshopade skärmdumpar som snabbt kan granskas och skjutas ner som de lögner dessa bilder är.

Teknikerna som presenteras av The Washington Post kommer från ett flertal olika forskargrupper, verksamma vid bland annat Münchens tekniska universitet (Visual Computing
Lab) och Skolkovo Institute of Science and Technology (Skoltech) i Ryssland. Men kunnandet finns överallt, även på KTH.

Här jobbar till exempel Hedvig Kjellström, Gabriel Skantze med flera med så väl artificiell intelligens, ansiktsigenkänning och visuell presentation som har det gemensamt att de spelar en stor roll för hur tekniken ovan fungerar. I KTH-forskarnas fall är dock syftet bland annat demensforskning och pedagogisk kommunikation.

Jag skickar ett mejl till Gabriel Skantze, som är universitetslektor på KTH, och undrar hur han ser på de tekniska landvinningarna.

– Det görs mycket sådant nu, har sett många exempel. Tekniken är definitivt mogen för de som vill använda den. Frågan är väl vad som händer med bevisvärdet hos till exempel bilder och ljudmaterial när man så lätt kan manipulera detta, säger Gabriel Skantze.

Universitetets visualiseringslabb VIC med föreståndaren Björn Thuresson i spetsen jobbar med visualiseringsteknik, också med stark koppling till ämnet.

Jag ber även Björn reflektera lite.

– Det är synnerligen intressant att det är så pass enkelt att nå ett övertygande resultat. ”Sanna” källor blir mer och mer problematiska. På Reddit har de sedan en tid tillbaka ”fake history” som utgår ifrån att knyta felaktig metadata till bilder eller filmer. Till slut blir förekomsten så stor att de felaktiga beskrivningarna potentiellt prioriteras högre än de korrekta. Det ansluter till problemet med fel tillskrivna citat, enklare bildmanipulation etcetera. Med den här tekniken kan vi skapa än mer trovärdiga artefakter som blir helt felaktiga referenser och – när det blir riktigt knäppt – i realtid ändra en utsaga. Det är en hel hög med Black Mirror-avsnitt som nu börjar bli verklighet.

Mm. Alla och envar kan konstatera vilka risker och möjligheter som ovan omskrivna tekniker erbjuder. Förvisso ett extremt exempel, men det skulle förmodligen gå att kapa en tv-utsändning och se till att den amerikanska presidenten förklarar krig på mot Nordkorea. Eller bara fejka för arbetsgivaren att du ligger i sjuksängen hemma med feber när du i själva verket befinner dig på en strand i Mexiko och lapar sol. Ja, den dag Facebook eller Iphone utvecklat en liknande app för mobilen.

Helt klart är att teknik och etik i allt större usträckning behöver stötas och blötas. Kanske är det just därför som Storbritannien i deras höstbudget 2017 offentliggjorde en satsning på AI och etik med 450 doktorander. Något som KTH-professorn Jan Gulliksen berättade för mig häromdagen då vi pratade om en pressinbjudan till ett AI-seminarium om just etik och moral på KTH som han är moderator för.

Årets musikfestival arrangeras på KTH

Vårt motto är som bekant ”Vetenskap och konst” och har egentligen inget att göra med just konst (i form av exempelvis musik och teater). Men utgår vi ifrån att så är fallet så passar de tre ordet alldeles ypperligt också som etikett på Music Tech Festival som äger rum på KTH mellan den sjunde till den nionde september i år.

Ett gränslöst arrangemang att verkligen se fram emot.

Så vad är Music Tech Festival då? Jo, en ambulerande och interaktiv musikidéfestival för alla, kort och gott.

När det står klart att den elfte upplagan kommer att äga rum på ett av Europas ledande tekniska universitet är det också ganska tydligt att Music Tech Festival inte låter sig beskrivas särskilt enkelt. Egentligen. Gott så. Ju snävare ramar, desto mer begränsat resultat. Oftast.

Syftet med festivalen är dock glasklart. Att genom nyfikenhet, lek och experimenterande utforska tal, teknik, musik, ljus och rörelse. Och sedan skapa saker ur detta. Upplevelser, till exempel.

Festivalen är en interaktiv mötesplats för en rad yrkeskategorier och människor. Hackare, forskare, näringslivet, musiker, journalister, politiker och konstnärer är några exempel.

Ett program för den sjunde till den nionde september återstår att offentliggöra, men tidigare år har festivalen huserat allt från hackathon (även för barn), till experimenthörnor och konserter. I städer som Berlin, Ljubljana, Paris, London, Boston och Wellington. Ta en titt på Music Tech Festivals webbplats och förundras.

Men… Ett sätt att definiera vad Music Tech Festival är och innebär, är att välja ut några av alla de personer, företag och organisationer som tidigare medverkat. En helt igenom stabil och diger lista.

Här är några namn: Martyn Ware från The Human League / Heaven 17, skivbolaget Warp, musiktjänsterna Mixcloud, Last.fm, Spotify, Soundcloud och Shazam, medier som BBC och Wired, musikerna i och bakom 808 State, Imogen Heap, The London Symphony Orchestra, skådespelaren Stephen Fry, bolagen EMI, RCA Records, MTV, Microsoft och Cisco, instutitioner som EU-kommissionen, Fraunhofer Society, MIT Media Lab, Royal College of Art, stencoola företag vid namn Ableton, Native Instruments, Izotope, FXpansion, RS Components, RjDj, Ninja Tune, MusicBrainz, Reactable…

Puh! Och detta är bara toppen av ett isberg.

Ytterligare en frän detalj är att media inte bara bevakat festivalen tidigare år, de har till och med varit med och skapat. Som BBC:s LJ Rich som varit med som aktiv deltagare.

Under det decennium jag jobbat på KTH har det varit få arrangemang som nått upp till Music Tech Festivals ambitionsnivå. Det ska bli riktigt kul att se (och uppleva!) denna tillställning. Kommer de medverkande att skapa musik av blockkedjor? Eller låta mänskliga känslor tolkas av AI för att bli till musik?

PS. Liten önskelista inför 2018 över deltagande företag och personer: Aphex Twin, Boston Dynamics, SoundHound, Black Madonna, James Cameron, Propellerhead, Nvidia, Björk, Tesla, Residents, Robyn och Suzanne Ciani. Och… 😀 DS.

Maraton i speltillverkning på KTH

Jag gissar att man kommer att kunna ta på den intensiva stämningen till helgen. Då samlas nämligen mer än 30 000 människor för att tillsammans utveckla datorspel.

Fenomenet kallas för Global Game Jam, och är en form av hackaton för just spelutveckling. Under två dygn med start fredag den 26 januari ska det skapas för glatta livet, så även på KTH i universitetets visualiseringscenter (VIC) lokaler.

Arrangemanget som skett årligen sedan 2009, är uppdelat över hela världen i så kallade sajter. Det är en sådan nod som alltså kommer att finnas på KTH och där deltagarna kommer att vara kreativa i 48 timmar.

Bland de spel som utvecklats genom åren har en hel del släppts till så väl PC, Playstation, Nintendo WII och Xbox. En av de större succéerna är Starwhal som utvecklades under Global Game Jam 2013 och som spelats online på internet miljontals gånger.

För att demonstrera Global Game Jams tillväxt kan nämnas att arrangemanget 2009 hölls på 53 platser med 1 650 utvecklare som skapade 370 spel. Sex år senare, år 2015, kördes Global Game Jams på 518 olika platser med över 28 000 utvecklare som skapade 5 438 spel.

Hur många deltagare som kommer medverka 2018, samt hur många spel som kommer tas fram, är ännu oklart (förstås). Men fett kommer det att bli! Precis som Björn Thuresson, föreståndare för KTH:s visualiseringscentrum, andas i sitt peppiga tipsmejl som han skickade till mig häromdagen. 🙂