Kategoriarkiv: it-säkerhet

Källkritik blir allt viktigare

Fake news, eller falska nyheter på svenska, kan beskrivas som en elektronisk pandemi. Många är exemplen, och du möter dem nästan varje dag om du använder internet.

Hittills har de varit begränsade till exempelvis bleka manipulerade skärmdumpar om ihopljugna Twitter-inlägg från kända politiker eller journalister, men tekniska landvinningar öppnar för fler ”möjligheter”.

Som de här teknikerna som The Washington Post döpt till ”verktygen som kan användas för att skapa morgondagens falska nyheter”. Det vill säga teknik som i realtid kan förvanska vad människor säger i bild och ljud.

Gabriel Skantze, som är universitetslektor på KTH.

Sätt verktygen i händerna på människor med till exempel en rasistisk agenda och de kommer använda den, är min första tanke. Då behöver dessa personer inte längre dåligt photoshopade skärmdumpar som snabbt kan granskas och skjutas ner som de lögner dessa bilder är.

Teknikerna som presenteras av The Washington Post kommer från ett flertal olika forskargrupper, verksamma vid bland annat Münchens tekniska universitet (Visual Computing
Lab) och Skolkovo Institute of Science and Technology (Skoltech) i Ryssland. Men kunnandet finns överallt, även på KTH.

Här jobbar till exempel Hedvig Kjellström, Gabriel Skantze med flera med så väl artificiell intelligens, ansiktsigenkänning och visuell presentation som har det gemensamt att de spelar en stor roll för hur tekniken ovan fungerar. I KTH-forskarnas fall är dock syftet bland annat demensforskning och pedagogisk kommunikation.

Jag skickar ett mejl till Gabriel Skantze, som är universitetslektor på KTH, och undrar hur han ser på de tekniska landvinningarna.

– Det görs mycket sådant nu, har sett många exempel. Tekniken är definitivt mogen för de som vill använda den. Frågan är väl vad som händer med bevisvärdet hos till exempel bilder och ljudmaterial när man så lätt kan manipulera detta, säger Gabriel Skantze.

Universitetets visualiseringslabb VIC med föreståndaren Björn Thuresson i spetsen jobbar med visualiseringsteknik, också med stark koppling till ämnet.

Jag ber även Björn reflektera lite.

– Det är synnerligen intressant att det är så pass enkelt att nå ett övertygande resultat. ”Sanna” källor blir mer och mer problematiska. På Reddit har de sedan en tid tillbaka ”fake history” som utgår ifrån att knyta felaktig metadata till bilder eller filmer. Till slut blir förekomsten så stor att de felaktiga beskrivningarna potentiellt prioriteras högre än de korrekta. Det ansluter till problemet med fel tillskrivna citat, enklare bildmanipulation etcetera. Med den här tekniken kan vi skapa än mer trovärdiga artefakter som blir helt felaktiga referenser och – när det blir riktigt knäppt – i realtid ändra en utsaga. Det är en hel hög med Black Mirror-avsnitt som nu börjar bli verklighet.

Mm. Alla och envar kan konstatera vilka risker och möjligheter som ovan omskrivna tekniker erbjuder. Förvisso ett extremt exempel, men det skulle förmodligen gå att kapa en tv-utsändning och se till att den amerikanska presidenten förklarar krig på mot Nordkorea. Eller bara fejka för arbetsgivaren att du ligger i sjuksängen hemma med feber när du i själva verket befinner dig på en strand i Mexiko och lapar sol. Ja, den dag Facebook eller Iphone utvecklat en liknande app för mobilen.

Helt klart är att teknik och etik i allt större usträckning behöver stötas och blötas. Kanske är det just därför som Storbritannien i deras höstbudget 2017 offentliggjorde en satsning på AI och etik med 450 doktorander. Något som KTH-professorn Jan Gulliksen berättade för mig häromdagen då vi pratade om en pressinbjudan till ett AI-seminarium om just etik och moral på KTH som han är moderator för.

Bra inspel om hetaste tekniken just nu

Som bekant så har artificiell intelligens (AI) kommit in i värmen permanent efter ett antal år ute i kylan. Detta påstående kan styrkas på väldigt många sätt, och här är några av de viktigaste exemplen med KTH-koppling:

Sedan har KTH redan en rad forskningsprojekt som rullar där AI används för allt från sjukdomsdiagnoser via självkörande bilar till att prata med delfiner.

Med detta i backspegeln kan det förstås vara bra att veta vad AI egentligen är. Mer i detalj.

För det ändamålet har webbplatsen www.forskning.se, en samarbete mellan Formas, Vetenskapsrådet, Vinnova med flera, tagit fram en film om just AI. En film där KTH-forskarna Anna Pernestål Brenden och Maja Fjaestad bidragit med kunskap.

Förutom att besvara en hel mängd frågor i ämnet skapas också några nya spörsmål. Det är dessa som kommer att debatteras de nästkommande fem till tio åren.

Några exempel är det här med säkerhet, moral och etik. Hur välutbildad måste en självkörande bil med AI egentligen vara för att få köra själv i trafiken? Vad händer om man drar en parallell till skillnaden mellan en nybakad körkortsinnehavare och en erfaren bilförare med 40 000 mil i ryggen? Var befinner sig den självkörande bilen då, rent ”kunskapsmässigt”?

Hur ska AI fatta beslut vid akuta situationer där risken är överhängande att en människa blir skadad eller till och med dödad? Ska bilen köra på en gångtrafikant eller köra i diket med risken för att passageraren i bilen skadas eller avlider?

Vem är eller vilka är ansvariga? Tillverkare, passagerare, gångtrafikanter? Vem betalar? Försäkringsbolaget? Trafikverket?

Slutligen lär en hel del människor med bilen som hobby ställa sig själva och omvärlden frågan: Kommer jag att få lov att köra bil själv i framtiden?

Vi går en spännande framtiden eller mötes. Eller åker kanske. Resan börjar här.

PS. Läs gärna Nicklas Berild Lundblads understreckare i SvD där KTH-alumnen Max Tegmarks bok Liv 3.0 och andra vettiga idéer och tankar om AI diskuteras. Nicklas är för övrigt adjungerad professor i innovation på KTH (och samhällspolitisk chef för Europa på Google). DS.

 

Är du morgondagens Alan Turing?

Den som bara är lite nyfiken av sig har nog någon gång ramlat över namnet Cicada 3301. En organisation (eller vilka nu som står bakom namnet) som organiserat sex (kända) pussel på internet och i verkligheten.

Varje gång har det handlat om ett gäng gåtor som ska lösas, där den första exempelvis varit ganska enkelt (att kunna tyda Caesarchiffer) och de efterföljande sedan blivit allt svårare.

Nu hittar KTH och Sveriges militära underrättelse- och säkerhetstjänst (MUST) på en liknande tävling på KTH:s centrala campus vid Valhallavägen. Fast i en lättviktsversion i jämförelse med Cicada 3301:s tävlingar (eller…).

Förstår du vad ”NDQ GX OBVD GHW KBU?” betyder är det en bra start. Styr sedan kosan hit.

PS. Tävlingen pågår till 13 november klockan 23:59:59. DS.

Föreläsningsfest när KTH:s campus fyller jämt

Allt du vill veta om KTH:s forskning och forskare, och väldigt mycket mer därtill, kommer att lyftas under ett seminariemaraton som varar över två dygn. Det är i vecka 42 som KTH firar att det centrala campuset på Östermalm i Stockholm fyller ett sekel, och det med kunskapsspridning i världsklass.

100 år, 100 talare, 50 timmar. Där har du ramarna för föreläsningsfesten som startar klockan 12:00 tisdagen den 17 oktober. Firandet startar dock redan dagen innan, den 16 oktober.

Under seminariemaratonet kommer forskare, professorer, lektorer och alumner från KTH att gjuta liv i spännande berättelser från KTH:s historia, men också nutida och framtida forskning. Varje talare får 20 minuter på sig, sedan är det dags att kliva av scenen för att ge plats åt nästa forskare. Och så håller det på, dygnet runt, fram till torsdagen den 19 oktober klockan 14:00.

Seminariemaratonet riktar sig till alla och är uppdelat i nio olika teman. Dessa är urbanisering, livsvetenskap, rymden, mobilitet, energi, samhällsutveckling, utbildning och lärande, kommunikation samt miljö.

Publiken har många trevliga höjdpunkter att se fram emot. Professorn Hjalmar Brismar kommer att leverera en hyllning till mikroskopet, en kärleksrelation mellan människa och apparat som varat i 400 år. Lektor Sabine Höhlers berättelse om jorden som ett rymdskepp kommer också att vara fängslande. ”Spaceship Earth” är ett sätt att betrakta vårt jordklot som en rymdfärja med ändliga resurser där vi måste ta hand om vår miljö. En analogi som inte minst idag, med potentiella konflikthärdar som till exempel Nordkorea, befinner sig närmare verkligheten än någonsin tidigare.

Dan Zenkert, professor i ämnet lättviktskonstruktioner, håller i ett föredrag om att använda delar av en bilkaross, till exempel fordonstaket, som ett batteri. Man kan både spara vikt och ha plats för mer batterikapacitet. Även forskarna Anna Pernestål Brenden och Peter Georén kommer att hålla ett tal om bilar då de berättar en framtidsvision om hur staden kommer att se ut år 2050. Garanterat tankeväckande och inspirerande. Vägen dit, som rullar via självkörande bilar, kommer också att förklaras.

Universitetslektor Joakim Lilliesköld tar ett annorlunda grepp om utbildning och lärande. Hans berättelse handlar om hur studenter ska förberedas inför framtidens arbetsmarknad genom att lära sig att bygga usla robotar, ”shitty robots”.

Inom ramarna för ämnena robotar, perception, lärande och artificiell intelligens kommer Hedvig Kjellström, professor i datavetenskap, också att röra sig. Hon ska berätta om hur man bygger maskiner som kan tolka ditt och mitt kroppsspråk.

Så där fortsätter det. I femtio timmar. Vill du veta mer om rymdteleskopet som utvecklades i en källare på KTH eller hur det uppkopplade samhället ser ut om 50 år, kom till KTH den 17 oktober.

Förutom seminariemaratonet kommer även en hel del utställningar, labbrundor och annat trevligt att äga rum under vecka 42. Hela programmet återfinns här.

Ja, just det: Stockholmskrögaren Erik Lallerstedt kommer och lagar mat under jubileumsveckan. Hans farfar, som också hette Erik Lallerstedt, var arkitekt och en av de som var med och ritade husen på campusområdet.

För den som vill lära sig mer om KTH:s centrala campus finns det mer att läsa här, här, här och här.

Ta en kurs i etisk hackning

Nu har det startats en kurs i att bryta sig in i it-system. Ja, på ett etiskt sätt alltså. En kurs där den vita hatten ska sättas på skallen snarare än den svarta.

Det är Gabriella Hernqvist, kommunikationsansvarig på skolan för elektro- och systemteknik vid KTH som kommer med tipset. Enligt vad hon kan se så är KTH-kursen den enda i sitt slag i Sverige.

Bakom kursen står Pontus Johnson (professor i industriella informationssystem och huvudansvarig), samt Mathias Ekstedt (professor i industriella informations och styrsystem).

Mathias Ekstedt , professor på KTH.

Enligt professorsduon används etiska eller ”goda” hackare i dag för att hitta säkerhetsluckor i ett företags eller myndighets datornätverk. I kursen som i höst ges på KTH för första gången kommer studenterna lära sig hur detta går till genom att hacka ett labb som efterliknar ett företags it-miljö. Detta i jakten på flaggor som KTH:s lärare placerat ut.

För att utföra angreppet är studenterna fria att använda sin fantasi och verktyg tillgängliga på internet som nätverks- och sårbarhetsskanning, plattformar för utveckling av exploits, fjärrstyrning av datorer och lösenordsknäckning.

Jag slår en signal till Mathias Ekstedt för att ta reda på mer.

– Kursen går bland annat ut på att lära sig olika typer av verktyg och angreppssätt för att aktivt attackera en it-infrastruktur. Den etiska aspekten här är att man gör det med ett gott uppsåt, man attackerar sig själv för att hitta sårbarheter. Detta är också en väletablerad metod att
säkra upp it-system. Själva grundidén är att studenterna får lära sig att tänka som en hacker och därmed bli bättre både på att hitta säkerhetshål och skydda it-system.

Hur vet ni att inte illasinnande människor söker sig till kursen?

– Det vet vi förstås inte, och vi kan förstås inte heller ta ansvar för vad människor gör med sina kunskaper. Så är det med alla ingenjörsämnen. Det går ju till exempel att designa en bil med säkerhetsbrister baserat på kunskaper tillägnade på ett universitet. Som en del av kursen får
studenterna skriva en uppsats om etiska dilemman som finns när det kommer till hackning och vi diskuterar sedan dessa uppsatser på gemensamma seminarier. Kursens namn ger en fingervisning att etiken är viktig i sammanhanget. Och även om vi antagligen inte kan hindra någon som bestämt sig för att göra något dumt så kan vi motverka naivitet bland kommande ingenjörer.

Här kan du läsa mer om kursen.