F:
Varför kan ett företag stänga av ett chatbot AI-projekt?
A:Företag kan stänga av chatbot-projekt av artificiell intelligens av många skäl, men de mest troliga kan grupperas i ett par kategorier. Först kan företag stänga av chatbot-teknologier om de agerar på sätt som kan göra företaget obekvämt, till exempel att främja anstötligt tal. Alternativt kan företag stänga av ett chatbot-projekt om det börjar visa vänner och förmåga som antingen inte lätt kan kontrolleras, eller kan utgöra ett slags eventuellt hot mot folkhälsa och säkerhet.
Vi har båda dessa scenarier dokumenterade i den senaste historien. Microsofts experiment med Tay chatbot avslutades när Tay började ta på sig några av de värsta kännetecknen för sina mänskliga motsvarigheter - rasistiska och aggressiva kommentarer, och i allmänhet stötande aktivitet, varav mycket tydligt lärdes eller till och med papegojor direkt från användare.
I en mycket annorlunda fallstudie stängdes en chatbot-uppsättning som banbrytades av Facebook när forskare observerade två chatbots som kommunicerade med varandra på ett sätt som var något exklusivt för mänsklig observation. Det fanns påståendet att chatbot-enheter hade börjat "prata i en sorts kod" som var mer bekväm för dem och mindre öppen för sina mänskliga hanterare. Detta är ett exempel på den mycket verkliga oro över artificiell intelligens i allmänhet - att när vi gör stora framsteg i utvecklingen av stark konstgjord intelligens, måste människor agera för att innehålla och kontrollera alla exempel på AI-implementering för att se till att de inte går över gränser. Det finns ett stort antal etiska problem och säkerhetsfrågor som måste hanteras med stark konstgjord intelligens, och detta är en av de främsta orsakerna till att vissa chatbots eller andra artificiell intelligensprojekt i framtiden kan stängas av de intressenter som har byggt och stöttade dem genom en viss process.
