F:
Varför är vissa människor oroliga för konstgjord intelligens?
A:Förändring är inte lätt, och många människor har svårt att anpassa sig till det. Detta gäller särskilt teknisk förändring. Den noterade Harvard-professorn Calestous Juma skrev en bok om ämnet "Innovation and Its Fiemies: Why People Resist New Technologies." Boken beskriver spänningen mellan innovation och den sociala ordningen och bygger på 600 års historia. Effekten av teknik är särskilt besvärlig när det gäller artificiell intelligens.
Inte alla är negativa till dessa framsteg. Ray Kurzweil, författare till "The Singularity is Near" och "The Age of Spiritual Machines", är inget mindre än en evangelist som främjar fördelarna med genetik, nanoteknik och robotik (en term som används för icke-biologisk intelligens). Men det här är samma frågor - och Kurzweil samma person - som väckte stor oro år 2000 för Bill Joy, chefsforskare på Sun Microsystems.
Joy skrev om sina bekymmer i en nu berömd artikel i Wired-tidningen "Varför framtiden inte behöver oss." Han trodde att människans ras framtid stod på spel. Med hänvisning till tävlingen i utvecklingshistorien, skrev Joy, ”Biologiska arter överlever nästan aldrig möten med överlägsna konkurrenter.” Vetenskapliga genombrott som resulterar i att maskiner som överträffar människor har stora risker. Visioner om en dystopisk framtid kommer att tänka på.
Anta att forskare kan utveckla maskiner med artificiell superintelligens (ASI), en nivå av intelligens som är högre än människor. Joy säger att en av två saker kan uppstå: Antingen får maskinerna fatta sina egna beslut, eller så kommer människor att behålla kontrollen över dem. Vad händer om du överlämnar kraften till maskinerna? Vad kan resultatet bli?
Bill Joy är inte den enda som uttrycker bekymmer. Teknisk guru Elon Musk sa: "Med konstgjord intelligens kallar vi demonen." Han kallade det "vårt största existentiella hot." Fysikern Stephen Hawking sa till deltagarna på en teknikkonferens att "vi kan inte veta om vi kommer att få oändligt hjälp av AI, eller ignoreras av det och sidofodras, eller tänkas förstöras av det. ”Och han sa till Wired magazine, ” Jag är rädd att AI kan ersätta människor helt. ”
Är dessa rädsla motiverade? Sci-fi-filmer som "Transcendence", där Johnny Depps karaktär binds med konstgjord intelligens och förgäver förödelse, påminner om Kurzweils förutsägelser om hur människor kunde smälta med maskiner. Fantasier löser sig över alla sätt som artificiell intelligens kan gå fel. Vad händer när maskinerna tar kontroll?
Två exempel i verkligheten illustrerar hur oroande för konstgjord intelligens kan vara förståeligt. 2007 dödade en robotkanon nio personer och skadades 14. Vissa avancerade militära vapen plockar automatiskt sina mål, men vänta på att en människa ska dra avtryckaren. Vem fattade besluten här? 2016 slog en säkerhetsrobot på 300 pund ner och sprang över ett 16 månader gammalt barn. Vem hade kontrollen i det här fallet: man eller maskin?
Anledningen till att vissa människor är oroliga för konstgjord intelligens är att riskerna är verkliga. Nästa fråga: Hur hanterar vi dessa risker?
