Hjem / Teknologi & opfindelser / Derfor fejler kunstig intelligens
Blot ved at gøre et billede mørkere kan DeepXplore lede et program til førerløse biler på afveje. Et menneske vil ikke reagere anderledes, men AI-programmet vil måske finde på at køre bilen ind i autoværnet.

Derfor fejler kunstig intelligens

Også AI kan fejle, og i en førerløs bil er blot en enkelt fejl én fejl for meget. Ny testmetode viser, hvorfor kunstig intelligens kommer på vildspor.

Computere begår aldrig fejl, men kunstig intelligens er ikke helt så skråsikker, som den godt kunne være. Sagen er nemlig, at de deep learning-algoritmer, der blandt andet ”styrer” førerløse biler, har ret svært ved at meddele deres programmører, hvordan de kommer frem til deres resultater, og hvorfor de gør, som de gør. Og det gør det ret svært at rette og forebygge deres fejl. Derfor omtales sådanne systemer ofte som sorte bokse.

To forskerhold fra universiteterne i Columbia og Lehigh har dog udviklet en metode til automatisk fejltjek af de mange lag med millioner af virtuelle neuroner, som et dybt neuralt netværk består af, og hvor hvert lag bygger videre på de slutninger, der er foretaget af det foregående. Metoden eller værktøjet, der hedder DeepXplore, fodrer automatisk forvirrende situationer ind i netværket for at fremprovokere fejl.

“Du kan kalde det for en slags omvendt indlæring,” forklarer Suman Jana, der er ansat ved Columbia Engineering og medlem af Data Science Institute, ”og det giver os indblik i, hvad systemet har gang i, og hvorfor det eventuelt går galt.”

To slags fejltjek

Normalt vil fejltjek af denne type foregå på to måder. Enten kan billeder af forskellige trafiksituationer præsenteres manuelt for algoritmerne for at se, hvordan de reagerer i hvert enkelt tilfælde. Eller også kan man ændre samme trafikbillede i bittesmå trin, indtil systemet fejlreagerer. Til forskel fra dette beder DeepXplore-metoden det dybe neurale netværk om selv at skabe forvirrende trafikbilleder og ændre dem gradvis.

Et billede af en mørk vej kan på denne måde ændres netop så meget, at et lag af det neurale netværk vil dirigere bilen til venstre, mens andre lag måske vil styre den til højre. Ved at fortælle netværket, hvilken beslutning der vil være fatal, og hvilken der vil være rigtig, kan DeepXplore gradvist træne og omskole netværket til at reagere korrekt i lignende tilfælde.

Forskerne har indtil videre testet systemet på over 15 af de mest brugte netværk til førerløse biler inklusive Nvidias Dave 2 og har derved afsløret tusindvis af fejl, som ellers var forblevet upåagtede. I gennemsnit førte metoden til en 3 procents forbedring, hvilket måske ikke lyder voldsomt, men kan betyde tab af menneskeliv i tre ud af 100 spegede trafiksituationer.

Den perfekte samarbejdspartner

DeepXplore kan dog ikke i sig selv garantere, at et givet netværk er 100 procent pålideligt og fejlfrit. Det kan derimod et nyt værktøj udviklet på Stanford universitetet under navnet ReluPlex. Det er dog bekosteligt at afvikle i computertimer og bruges derfor indtil videre kun til at kontrollere mindre omfattende netværk, men til gengæld giver det 100 procent garanti for fejlfri funktion, og dermed er ReluPlex den perfekte samarbejdspartner for DeepXplore.

Udover at teste neurale netværk til brug i førerløse biler kan DeepXplore også finde malware, der er forklædt som ufarlig kode i antivirussoftware og afsløre subtile fordomme i den type programmer, der kan forudse mulig kriminalitet i forbindelse med politiarbejde og domsafsigelser.

Holdet bag DeepXplore har gjort deres program til et åben kildekode-projekt og oprettet en hjemmeside, hvorfra interesserede kan uploade deres egne data for at se, hvordan fejltjekket bliver foretaget. Meningen er dels at gøre det lettere for andre forskere at udvikle helt pålidelige maskinlæringssystemer, dels at få så mange som muligt gjort interesserede i at udvikle fejlfrie AI-programmer. Det vil kræve en kollektiv indsats, men i sidste ende vil den være til stor gavn for samfundet.

Tilføj en kommentar

Din e-mail adresse vil ikke blive offentliggjort. Markerede felter skal udfyldes *

*

200-125   300-075   210-260   210-060   300-115   100-105   300-101   400-101   300-320   300-070   300-206   200-310   300-135   300-208   810-403   400-050   640-916   642-997   300-209   400-201   200-355   352-001