AI och drönare – en farlig kombo
Obemannade luftfartyg, drönare, med artificiell intelligens kan både hjälpa och stjälpa i kris. De kan hjälpa räddningstjänsten att genomföra uppdrag i svåra miljöer, men eftersom tekniken är sårbar kan angripare manipulera information från farkosterna och orsaka stora skador.
Intresset för att använda drönare vid olika insatser har ökat inom svensk räddningstjänst. Med hjälp av dessa kan räddningstjänsten få korrekta lägesbilder och information som kan vara avgörande för krishanteringen vid exempelvis bränder. Om drönarna dessutom utrustas med AI kommer de kunna fatta beslut på ett sätt som långt överstiger mänsklig intellektuella förmåga.
På uppdrag av Myndigheten för samhällsskydd och beredskap, MSB, har Totalförsvarets forskningsinstitut, FOI, gjort en översikt av vilka möjligheter och hot som finns vid användning av drönare med AI.
– Det görs mycket forskning i hur AI skulle kunna bli ett viktigt verktyg vid räddningsinsatser. Att få ett helikopterperspektiv med hjälp av obeannade luftfartyg är väldigt värdefullt, till exempel för att bedöma skadeverkningar vid bränder och översvämningar eller för att undsätta människor, säger forskaren Erik Zouave vid FOI:s avdelning för försvarsanalys.
Förutom att övervaka stora områden skulle drönare med AI även kunna användas för navigering i okända miljöer och för att kartlägga hinder.
Men samtidigt som AI ökar räddningstjänstens förmåga att genomföra uppdrag i svåra miljöer finns det också nackdelar med tekniken. Eftersom AI bygger på komplexa algoritmiska funktioner blir det svårt för människan att förstå vad som egentligen händer.
– AI hittar på och lär sig regler utifrån trender vilket gör det oerhört komplicerat för människan att förstå varför maskinen tar de beslut den gör och att identifiera eventuella fel, säger Erik Zouave.
Detta gör även AI sårbart för angripare som kan lura systemet och orsaka stora skador, förklarar han vidare.
– Om AI byggs in i system som ska användas för samhällsviktig verksamhet, eller räddningstjänst och krishantering, är det viktigt att det görs utifrån rätt säkerhetskrav så att farkosten inte kan manipuleras av utomstående, säger Erik.
Kommunala räddningstjänster som vill använda drönare med artificiell intelligens, rekommenderas därför av FOI:s forskare att först analysera i vilka situationer som tekniken främst kan behövas.