F:
Varför är det viktigt för datavetare att söka öppenhet?
A:Öppenhet är väsentligen viktig i datavetenskapliga projekt och maskininlärningsprogram, delvis på grund av komplexiteten och sofistikeringen som driver dem - eftersom dessa program är "lärande" (genererar sannolikhetsresultat) snarare än att följa förutbestämda linjära programmeringsinstruktioner, och därför att det kan vara svårt att förstå hur tekniken når slutsatser. "Black box" -problemet med maskininlärningsalgoritmer som inte helt kan förklaras för mänskliga beslutsfattare är stort på detta område.
Med det i åtanke kommer förmågan att behärska förklarbar maskininlärning eller "förklarbar AI" sannolikt att vara ett huvudfokus i hur företag bedriver talentförvärv för en datavetare. DARPA, institutionen som förde oss internet, finansierar redan en studie på flera miljoner dollar i förklarbar AI, där man försöker främja de färdigheter och resurser som krävs för att skapa maskininlärning och teknik som är transparent för människor.
Ett sätt att tänka på det är att det ofta finns ett "läskunnighetsstadium" av talangutveckling och ett "hyperliteratursstadium." För en datavetare är det traditionella läskunnighetsstadiet kunskap om hur man sätter samman maskininlärningsprogram och hur man bygger algoritmer med språk som Python; hur man konstruerar neurala nätverk och arbetar med dem. Hyperlitteraturstadiet skulle vara förmågan att behärska förklarbar AI, ge transparens i användningen av maskininlärningsalgoritmer och att bevara öppenhet när dessa program arbetar mot sina mål och målen för deras hanterare.
Ett annat sätt att förklara vikten av insyn i datavetenskap är att de datauppsättningar som används fortsätter att bli mer sofistikerade och därför mer potentiellt påträngande i människors liv. En annan viktig drivkraft för förklarbar maskininlärning och datavetenskap är den europeiska allmänna dataskyddsförordningen som nyligen genomfördes för att försöka begränsa oetisk användning av personuppgifter. Med hjälp av GDPR som ett testfall kan experter se hur behovet av att förklara datavetenskapliga projekt passar in i frågor som rör integritet och säkerhet samt affärsetik.
