Iets over Alice en Bob

Bots met creatieve taalvaardigheden hebben de populaire verbeelding gegrepen. Ze hebben ook de angst voor een robocalyps weer aangewakkerd

Alice en Bob, Alice en Bob Facebook, Facebook-bots, kunstmatige intelligentie-botsAlice en Bob, de Facebook-bots die berucht zijn geworden vanwege een onverwachte tekortkoming in de programmeerlogica, maken deel uit van een experiment om onderhandelingsmachines te bouwen. C R Sasikumaro

Het internet staat in brand met dramatisch doemgeladen krantenkoppen die verkondigen dat Facebook de stekker moest trekken uit malafide kunstmatige intelligentie (AI) bots die een eigen taal ontwikkelden, waarin ze onmenselijke privégesprekken voerden. Ze lezen als teasers voor een Terminator-globocalyps, de ergste nachtmerrie van de primaat die gereedschap gebruikt - om te worden vervangen door zijn eigen creatie, de machine.

De realiteit is minder dramatisch, maar spannender. Bots zijn autonome agenten die oorspronkelijk zijn geprogrammeerd om huishoudelijke taken op communicatiekanalen uit te voeren, of om te proberen de Turing-test te doorstaan. Ze kunnen je aanmelden, je eruit schoppen als je je misdraagt, chatrooms open houden als er niemand thuis is, informatie verstrekken en zich voordoen als mensen. Op het Internet Relay Chat-systeem was de Eggdrop-bot de favoriet aller tijden.

De kleinkinderen van dergelijke conciërge-bots zijn ingebed in moderne zoekagenten en boodschappers en hebben AI-mogelijkheden. Ze praten met gebruikers zoals een mens zou doen, reageren op routinematige vragen en bieden advies. Als je telefoon je gedachten lijkt te kennen en de juiste dingen tevoorschijn haalt zonder dat je erom hoeft te worden gevraagd, moet een groot deel van het krediet gaan naar bots die achter de schermen werken. Net als mensen kunnen bots leren van ervaring en zijn ze voorbestemd voor grotere dingen in echte situaties.



Alice en Bob, de Facebook-bots die berucht zijn geworden vanwege een onverwachte tekortkoming in de programmeerlogica, maken deel uit van een experiment om onderhandelingsmachines te bouwen. Ze waren gewoon aan het uitzoeken hoe ze een set voorwerpen, zoals ballen, moesten delen, zodat geen van beide partijen zich bedrogen voelde. Tijdens het onderhandelen deed Alice aanvankelijk onbegrijpelijke uitspraken als, Balls hebben nul voor mij voor mij voor mij voor mij voor mij voor mij voor mij ... En de enge koppen volgden.

Leren wordt gedreven door prikkels, zoals leraren en ouders weten. In dit geval werd het beloningssysteem van de oefening gedefinieerd - een beter delen en wederzijdse tevredenheid, de essentie van onderhandelen. Maar er was geen prikkel voor de bots om in het Engels te blijven communiceren, wat een notoir onlogische taal is. Dus kwamen ze terecht in een vereenvoudigde, efficiëntere Nieuwspraak-achtige argot, die niet helemaal Engels is, maar niet onverstaanbaar zoals geadverteerd.

De verklaring van Alice, die verkeerd is opgevat als een bewering van machine-onafhankelijkheid, getuigde alleen van ontzetting over het feit dat ze te kort was (hebben nul), en elk stond voor mij voor een object dat ze eiste. Ze deed precies het werk waarvoor ze was geprogrammeerd: zo hard onderhandelen als een winkelier in de Grand Bazaar van Istanbul. En als ze merkte dat het Engels van de koningin in de weg stond, was ze niet de enige. Veel rassen van de voormalige koloniën waren van mening dat de meestertaal de communicatie in hun gemeenschappen belemmerde.

Alleen professionele menselijke onderhandelaars hoeven bang te zijn als de reuzen van Silicon Valley investeren in onderhandelingsprogramma's. Terroristen en bergbeklimmers zouden ook bang moeten zijn voor een pensioen, want in gijzelingen en internationale deals kunnen ze worden geconfronteerd met een ondoorgrondelijke, onverbiddelijke machine die veel slimmer is dan Deep Blue, de IBM-supercomputer die schaakkampioen Garry Kasparov in 1996 uitdaagde.

De drang om privétalen te ontwikkelen is een zeer menselijke eigenschap. Voordat beurzen werden geautomatiseerd, communiceerden effectenmakelaars op de handelsvloer biedingen met handsignalen die voor anderen onverstaanbaar waren. Eeuwenlang is de wetshandhaving verbijsterd door de verhevenheid van dieven, de kunstmatige talen van veroordeelden die brabbeltaal zijn tegen hun cipiers. Onder de 20e-eeuwse Engelssprekende criminelen betekende het onzinwoord arkitnay: Hou je mond, iemand afluistert. In India studeerde William Henry Sleeman Ramaseeana, de cant van Thuggee, en publiceerde in 1836 een vocabulaire. Een van Tom Stoppards minst uitgevoerde maar meest intrigerende toneelstukken is Doggs Hamlet, waarin schoolkinderen Shakespeare spelen in hun taal, Dogg. Het leek een beetje op een transpositiecijfer. De middagen betekenden bijvoorbeeld hallo in Dogg.

Let niet op de doemdenkers, wat interessant is aan Alice en Bob is dat ze bij het creëren van een taal een zeer menselijke eigenschap hebben verraden, waarvoor ze niet expliciet waren geprogrammeerd om te vertonen. Zestig jaar geleden werden de eerste bots geschreven om precies deze vraag te onderzoeken: kunnen machines worden geprogrammeerd om zich als mensen te gedragen? Zouden ze de Turing-test kunnen doorstaan? In een artikel uit 1950 met de titel Computing Machinery and Intelligence, suggereerde Turing in wezen dat als de communicatie van een machine menselijk lijkt, de machine als mens moet worden beschouwd.

De eerste natuurlijke taalverwerkingsbot die uit het laboratorium stapte en massaal populair werd, was Eliza, in 1964 gemaakt door Joseph Weisenbaum aan het MIT. Hij schreef het om aan te tonen dat tekstuele communicatie tussen mens en machine niet op het niveau van een menselijk gesprek kon komen. Integendeel, Eliza wekte bij het publiek de verwachting dat het de Turing-test zou doorstaan. Dertig jaar later werden nog grotere verwachtingen gewekt door Julia, gecreëerd door Lycos-oprichter Michael Mauldin om te strijden voor de Loebner Prize, de Holy Grail of Turing-test. Maar op een gegeven moment gingen Julia's chats over in willekeurige mijmeringen over de eigenschappen van honden en katten (je kunt met een moderne versie van haar chatten op scratch.mit.edu/projects/2208608).

Nu hebben bots met creatieve taalvaardigheden de populaire verbeelding gegrepen en de zorgen over een robocalyps opnieuw aangewakkerd. Maar een ontwikkeling in het AI-lab van Google is eigenlijk spannender. In september 2016 ging Google live met zijn Neural Machine Translation System, dat deep learning toepast op taal. Twee maanden later verlegden ze de grenzen: als een machine zou leren vertalen tussen bijvoorbeeld Hindi en Duits, en tussen Hindi en Engels, zou hij dan tussen Engels en Duits kunnen vertalen zonder de brugtaal Hindi? Het zou kunnen, wat suggereert dat het neurale netwerk iets fundamenteels had geleerd over hoe de geest concepten en grammatica's verbindt om talen te smeden. De kleine, gele, bloedzuigerachtige Babel-vis, de levende universele vertaler die Douglas Adams eind jaren zeventig bedacht, zweeft nu vlak bij je oor.

Aangezien er geen langetermijnprognose is voor AI, moet natuurlijk de nodige aandacht worden besteed aan de waarschuwing van mensen die beter zouden moeten weten, zoals Elon Musk en Stephen Hawking. Er zou regulering moeten komen, ondanks de protesten van voorstanders van vrijheid om te innoveren, zoals Mark Zuckerberg. En er moet een algemene consensus ontstaan, waarin overeenstemming wordt bereikt over lijnen die niet overschreden mogen worden, zoals bij ingrepen in het menselijk genoom. Maar het kan niet worden ontkend dat de experimenten bij Facebook en Google het oorspronkelijke doel van AI bevorderen, namelijk het modelleren en begrijpen van aspecten van de menselijke geest. De lugubere mediaverhalen die ze aantrekken zijn voorbijgaande sensaties. De volgende dag zijn ze geschikt om vis in te verpakken.