Kan du lita på AI? Bör du acceptera dess resultat som objektivt giltiga utan fråga? Problemet är att till och med att ifrågasätta AI själv inte skulle ge tydliga svar.
AI-system har generellt fungerat som en svart ruta: Data matas in och data matas ut, men processerna som transformerar dessa data är ett mysterium. Det skapar ett tvåfaldigt problem. Den ena är att det är oklart vilka algoritmernas prestanda som är mest tillförlitliga. Det andra är att de till synes objektiva resultaten kan skeva av värdena och fördomarna hos de människor som programmerar systemen. Det är därför det finns ett behov av öppenhet för de virtuella tankeprocesser som sådana system använder, eller "förklarbar AI."
Det etiska imperativet har blivit ett lagligt för alla som omfattas av GDPR, vilket inte påverkar inte bara företag som är baserade i EU utan alla som har att göra med människor eller organisationer där. Det innehåller ett antal bestämmelser om dataskydd som omfattar EU-medborgare ”rätten att inte vara föremål för automatiskt beslutsfattande, utom i vissa situationer” och ”rätten till att få en meningsfull information om logiken i beslutet ”.
