Autonome systemer kommer til at styre mere og mere i vores samfund, men hvordan sikrer vi, at de træffer de rigtige beslutninger? Det skal to nye forskningsprojekter give et bud på.

Kunstige Intelligenser skal certificeres, før de får kontrollen
I vores hverdag er vi dybt afhængige af kontrolsystemer. De opretholder vores forsyningsnetværk og sørger for at der er vand i hanerne og strøm i stikkontakterne, også når produktion og efterspørgsel varierer.

Men de eksisterende kontrolsystemer udnytter ikke fuldt ud de enorme mængder data, der er tilgængelige. Dette resulterer i underudnyttelse af potentialet for optimal styring. Implementering af kunstige intelligens vil sikre optimal styring, men vi tøver på grund af bekymringer om pålidelighed og risiko.

Udfordringen ligger i, at de neurale netværk, der anvendes, ikke er skabt af mennesker, men af data. Dette gør beslutningsprocesserne uforståelige. Og selvom neurale netværk er imponerende, kan de lave fejl. Fejl som i visse tilfælde kan have alvorlige konsekvenser, men som vi ikke kan identificere. Til gengæld findes der klare regler for, hvordan kontrolsystemer skal handle.

Adjunkt Christian Schilling vil adressere denne bekymring ved at bruge eksisterende regler til at udvikle algoritmer, der kan analysere neurale netværk. Dermed kan han etablere certificeringsprocedurer, som skal opbygge tillid til den nye generation af kontrolsystemer, så vi sikkert kan implementere dem i forsyningsnetværket.

Robotter skal træffe valg på samme måde som mennesker
Med implementeringen af automatisering og kunstig intelligens i f.eks. industrien, skal der foretages større og mere komplekse beregninger på stingende mængder data. Robotter i en produktion skal træffe selvstændige beslutninger og vælge de løsninger som er bedst og sikrest. I øjeblikket tages disse beslutninger ved hjælp af traditionelle teknikker med gennemgang af omfangsrige datagrundlag som er baseret på at evaluere alle alternativer, hvilket gør dem langsomme. De mange beregninger afføder desuden et stigende ressourceforbrug, som modarbejder en bæredygtig udvikling.

Der er behov for automatiserede og informerede metoder til at styre planlægningsprocessen.

Gennem sit projekt vil lektor Alvaro Torralba introducere en ny tilgang til digitale beslutningsprocesser, hvor robotter og kunstige intelligenser træffer valg ved at vurdere fordele og ulemper fremfor at gennemgå alle data. Med den tilgang kan han udvikle algoritmer og værktøjer der sikrer, at de beslutningerne er både sikre og optimale.

Stort tillykke med bevillingen.