Många livsviktiga system styrs idag av datorer. Bilar körs alltmer med hjälp av kameror och artificiell intelligens, pacemakers och insulinpumpar är inblandade i regleringen av patienters kroppar och anläggningar som producerar el och vatten är beroende av digitala nätverk. Sådana system kallas cyberfysiska system eftersom de kopplar ihop den digitala världen med den fysiska.

Cyberfysiska system är också sårbara. Vad händer om en självkörande bil manipuleras att misstolka en hastighetsskylt, eller om en insulinpump hackas så att den ger för mycket insulin? Konsekvenserna kan bli katastrofala, förklarar André Teixeira, som är forskare på Ångströmlaboratoriet vid Uppsala universitet och Wallenberg Academy Fellow.

– Det enda säkra systemet är ett som är avstängt, konstaterar Teixeira med ett leende. Men det går ju inte om vi vill ha de funktioner systemet erbjuder, lägger han till.

Därför ägnar han sin forskning åt att utveckla matematiska och statistiska metoder för att göra lärande reglersystem robusta mot avancerade cyberattacker.

Nya statistiska metoder

Traditionellt beskriver man risker i termer av sannolikheter, som när läkemedelsföretag anger att ”en på tusen får huvudvärk”. Den sortens modeller fungerar väl när det handlar om slumpartade olyckor och naturkatastrofer, men cyberattacker är inte slumpartade utan strategiska.

– Angriparna väljer tid, metod och mål och försöker samtidigt dölja sina spår, säger André Teixeira.

Ett känt exempel är Stuxnetattacken, då kärntekniska anläggningar i Iran saboterades genom att fysiska processer blev manipulerade samtidigt som effekterna maskerades för operatörerna.

– Den sortens attacker kan man inte förutse med vanliga statistiska metoder.

Teixeira och hans kollegor vill därför fördjupa säkerhetsanalysen och kombinera sannolikhet med mer strategiska delar. De utvecklar modeller av angripare som är mer realistiska än det traditionella antagandet om en enda allsmäktig motståndare.

– Vi vill förfina angriparmodellerna. I stället för att utgå från att de som attackerar kan allt, räknar vi med att även de har sina begränsningar. Då blir slutsatserna mindre pessimistiska och mer användbara.

En utmaning är att många cyberfysiska system baseras på maskininlärning. En bil tränas på tusentals bilder av trafikmärken för att känna igen dem i realtid, och en insulinpump justerar doser utifrån data från patienten. Men ett enda klistermärke på en skylt kan få en självkörande bil att dra fel slutsatser, och små fel i blodsockermätningar kan över tid driva en pump i fel riktning.

Vi ägnar oss åt grundforskning och det finns ett tydligt glapp mellan det vi gör i labbet och hur resultaten faktiskt kommer att användas. Men jag är övertygad om att det går att bygga broar mellan teori och tillämpning med rätt kunskap och rätt sorts samarbeten.

I tidigare forskning om så kallat adversariellt lärande – det vill säga hur AI kan göras robust mot attacker som försöker lura systemet – undersöker man just den här typen av sårbarheter. Men ofta har man fokuserat på enskilda beslut. I dynamiska system är det snarare de små, ihållande störningarna som ackumuleras och kan få drastiska följder.

I projektet utvecklas därför metoder som analyserar långsiktiga effekter av attacker och som kan användas för att utforma styrsystem och detektorer som själva ska kunna upptäcka om något är fel.

Forskningen började av en slump

Från början var det inte givet att André Teixeira skulle ägna sig åt detta område.

– Jag halkade in på det här spåret lite av en slump, säger han.

Texeira har sina rötter i Portugal. Som Erasmusstudent på KTH i Stockholm gjorde han ett examensarbete om avvikelser och cyberattacker i reglersystem. När han sedan upptäckte att några amerikanska forskargrupper började studera säkerhetsfrågor inom reglerteknik väcktes intresset på allvar. Det ledde till doktorandstudier och på senare år har forskningsfältet fått en explosiv utveckling världen över.

När Teixeira blickar framåt hoppas han att den teoretiska forskningen ska få en praktisk användning. Genom att utveckla metoder som gör det möjligt att bedöma risker på ett mer realistiskt sätt kan forskningen leda fram till säkrare sjukvårdssystem, stabilare elnät och pålitligare fordon. Resultaten ska också kunna bana väg för framtida standarder och certifieringar.

För att nå dit krävs ett samarbete, såväl inom akademin som med näringslivet. Teixeira betonar också betydelsen av utbildning. Kunskapen måste nå fram till nästa generation ingenjörer, eftersom alla som utvecklar mjukvara eller tekniska system förr eller senare kommer i kontakt med frågor om cybersäkerhet.

– I slutändan handlar allt om tillit. Om vi ska våga använda självkörande bilar, medicinska implantat eller smarta elnät måste vi veta att de kan stå emot inte bara slumpmässiga fel utan också medvetna angrepp.

I säkerhetsforskning försöker man ofta identifiera de värsta utfallen.

– Min vision är en säkerhetsanalys som ligger närmare verkligheten. Vi vill visa hur stor risken faktiskt är, hur vi kan minska den och hur vi på ett ärligt sätt kan kommunicera den osäkerhet som alltid finns kvar.

Text Nils Johan Tjärnlund
Bild Magnus Bergström