F:
Varför överväger vissa företag att lägga till "mänskliga feedbackkontroller" till moderna AI-system?
A:Vissa företag som arbetar med avancerad AI-teknik arbetar för att införa mänskliga kontroller för dessa system, vilket ger maskininlärning och djupinlärningsverktyg viss direkt mänsklig övervakning. Dessa företag är inte heller små spelare - Googles DeepMind och Elon Musks OpenAI är två exempel på stora företag som tar hand om utvecklingen av artificiell intelligens. Med detta i åtanke skiljer sig resultaten - till exempel har DeepMind varit föremål för kontrovers för sin uppfattade ovilja att tillhandahålla nyckeldata till allmänheten, medan OpenAI är mycket mer, ja, öppet om sitt arbete med att kontrollera konstgjord intelligens.
Till och med sådana anmärkningar som Bill Gates har tänkt på frågan, säger Gates att han är en av många som är bekymrade över uppkomsten av en konstgjord superintelligens som på vissa sätt kan röra sig utanför mänsklig kontroll. Musk, för hans del, har också lagt fram ett oroväckande språk om möjligheten att "skurk AI."
Det är förmodligen det mest brådskande skälet till att företag arbetar för att tillämpa mänskliga kontroller på AI - idén att viss teknisk singularitet kommer att resultera i en superkraftig sentient-teknik som människor helt enkelt inte kan kontrollera längre. Helt sedan mänskliga ambitioners gryning har vi lagt verktyg på plats för att se till att vi kan kontrollera de krafter som vi utövar - oavsett om det är hästar med tyglar och selar, el i isolerade ledningar eller någon annan typ av kontrollmekanism, kontrollen är en inneboende mänsklig funktion och så det ger all mening i världen att när artificiell intelligens kommer närmare verklig funktionalitet, tillämpar människor sina egna direkta kontroller för att hålla den makten i schack.
Rädsla för superintelligenta robotar är dock inte det enda skälet till att företag tillämpar mänskliga kontroller för maskininlärning och AI-projekt. En annan viktig orsak är maskinförspänning - det är idén att konstgjorda intelligenssystem ofta är begränsade i hur de utvärderar uppgifterna i fråga - så att de förstärker alla fördomar som finns i systemet. De flesta yrkesverksamma som arbetar med maskininlärning kan berätta skräckhistorier om IT-system som inte kunde behandla mänskliga användargrupper lika - oavsett om det var kön eller etnisk skillnad, eller något annat misslyckande i systemet att verkligen förstå nyanserna i våra mänskliga samhällen och hur vi interagerar med människor.
På ett sätt kan vi sätta mänskliga kontroller på system eftersom vi är rädda för att de kan vara för kraftfulla - eller omväxlande, eftersom vi är rädda för att de kanske inte är tillräckligt kraftfulla. Mänskliga kontroller hjälper till att rikta in datauppsättningar för maskininlärning för att ge mer precision. De hjälper till att förstärka idéer som datorn helt enkelt inte kan lära sig på egen hand, antingen för att modellen inte är tillräckligt sofistikerad, eftersom AI inte har avancerat tillräckligt långt eller för att vissa saker bara ligger i provinsen för mänsklig kognition. Konstgjord intelligens är bra för vissa saker - till exempel, ett belönings- och poängbaserat system gjorde det möjligt för en konstgjord intelligens att slå en mänsklig spelare på det oerhört komplexa brädspelet "Go" - men för andra saker är detta incitamentbaserade system helt otillräckligt.
I ett nötskal finns det många tvingande skäl att hålla mänskliga användare direkt involverade i hur artificiell intelligensprojekt fungerar. Även de bästa teknikerna för konstgjord intelligens kan göra mycket tänkande på egen hand - men utan en faktisk biologisk mänsklig hjärna som kan bearbeta saker som känslor och sociala förfaranden kan de helt enkelt inte se den stora bilden på ett mänskligt sätt.
Ett skickligt maskininlärningsföretag kan hjälpa till att uppnå denna balans med en blandning av affärs- och ämnesexperter och maskininlärningsutvecklare med färdigheter för att lösa stora affärsproblem.
