F:
Vilka är några etiska frågor kring maskininlärning?
A:De etiska frågorna kring maskininlärning involverar inte så mycket maskininlärningsalgoritmer själva, utan hur datan används.
Cambridge Analytica-skandalen med Facebook, där ett politiskt konsultföretag använde data från det sociala nätverkssidan utan användarnas kunskap eller samtycke, illustrerade en hel del av problemen i samband med insamling och användning av användardata. Även om många slutanvändarlicensavtal anger hur användarnas data kan användas, kanske många sociala medieanvändare inte läser det finstilta.
| Gratis nedladdning: Machine Learning and Why It Matters |
Ett annat problem är att dessa maskininlärningsalgoritmer kan vara "svarta rutor" där det är omöjligt att se hur de verkligen fungerar. Det kan vara omöjligt att veta varför en maskininlärningsalgoritm fattade ett beslut.
Ett område med maskininlärning är att ställa medicinska diagnoser. En algoritm kan titta på röntgenstrålar för att hitta cancer. En mänsklig läkare kan förklara varför de ställde en diagnos, men vi kanske inte vet hur en maskininlärningsalgoritm bestämde att en patient hade cancer eller inte.
Att släppa maskininlärningsprogram under open source-licenser är en lösning. När människor kan titta på källkoden för ett program kan de se hur det fattar beslut.
En annan fråga är användningen av utbildningsdata för maskininlärning och möjliga fördomar. Det har förekommit flera fall av ras- och andra fördomar som oavsiktligt gör det till maskininlärningsprogram. En algoritm identifierade svarta människor som gorillaer, och en annan förändrade ansiktsegenskaperna hos människor med färg för att få dem att se mer "europeiska" ut medan de hävdar att de skulle försköna dem.
Ett sätt att motverka detta är att ha fler människor med olika bakgrund inom AI-fältet.
Ett annat problem är säker användning av maskininlärning och artificiell intelligens. AI- och maskininlärningsprogram kan utveckla beteenden som människor inte vill att de skulle göra, till exempel att hindra människor från att stänga av dem.
