Samenvatting bij het artikel: Computing machinery and intelligence - Turing - 1950

Het imitatiespel

Als je antwoord wilt geven op de vraag: “Kunnen machines nadenken?”, moet je beginnen met definiëren. Als je gaat definiëren maak je echter gebruik van alledaags taalgebruik, wat gebaseerd is op statistische analyses. Dat is niet de bedoeling.

Een nieuwe vorm van het probleem kan uitgelegd worden door het imitatiespel (the imitation game). Er zijn drie mensen: een man (A), een vrouw (B) en een ondervrager ( C ) (geslacht maakt niet uit). De ondervrager zit in een andere kamer dan A en B en moet via een aantal vragen ontdekken welk geslacht A en B hebben. De taak van A is om te zorgen dat C de taak niet goed oplost en de taak van B is om te zorgen dat C de taak wèl goed oplost. De ondervrager heeft geen kennis over de klank van de stem, hoe A en B eruit zien en idealiter geen kennis van het handschrift.

De vraagstelling van het artikel wordt zodoende: Zal de computer net zo goed zijn in het misleiden van C als een echt persoon?

Kritiek op de nieuwe vorm van het probleem

Is deze vraagstelling het waard om te onderzoeken? De nieuwe formulering van het probleem zorgt er voor dat het niet nodig is om er moeilijk na te bootsen karakteristieken van mensen bij te betrekken. Om het denken te onderzoeken, hoef je de robot niet menselijk “aan te kleden”. Je hoeft bijvoorbeeld niet mensachtige huid na te bootsen.

Een vorm van kritiek op deze formulering is dat de machine in het nadeel is. Als een man een computer na moet doen, zal hij vrij gauw door de mand vallen als er rekenkundige vragen worden gesteld (hij reageert bijvoorbeeld te langzaam). Volgens de auteurs is er echter geen reden om aan te nemen dat de machine niet in staat is om het imitatiespel gepast te spelen.

Een laatste punt van kritiek is dat de machine wellicht een andere strategie aanneemt dan het imiteren van het gedrag van een man. Volgens de auteur is er echter geen reden om aan te nemen dat het imiteren van een man niet de beste strategie is.

De machines in het spel

In het artikel wordt het volgende bedoeld met machine: een elektronische computer of een digitale computer. Dit zijn de enige machines die meedoen aan het imitatiespel.

Digitale computers

Digitale computers zijn er voor bedoeld om acties uit te voeren die een menselijke computer ook doet. Een menselijke computer moet zich houden aan bepaalde regels en mag hier niet van afwijken. Je kan je voorstellen dat deze regels in een boek opgeschreven staan in een boek met een ongelimiteerd aantal pagina's. Dit boek kan veranderen per taak. Je kan het verder in drie delen opdelen:

1. Opslag: dit kan je vergelijken met het papier (waar je je berekeningen op uitvoert of waarop het boek is geprint). Als de berekeningen uit het hoofd gedaan worden, dan kan je het vergelijken met het geheugen. Informatie in de opslag kan opgedeeld worden in kleine pakketjes.

2. Uitvoeren: dit zijn de verschillende acties die in een individu moet uitvoeren bij een berekening. Dit kan variëren per machine.

3. Controle: hier wordt er gecheckt of de regels worden gehandhaafd.

De digitale computer moet in staat zijn om een opdracht vast te houden of te kunnen herhalen, zodat er niet constant een nieuwe opdracht gegeven moet worden. Je moet het vergelijken met het volgende voorbeeld: Bart is ziek en moet iedere dag om 17u00 een pil nemen. Zijn moeder kan hem iedere dag herinneren, maar ze kan ook een briefje ophangen die hem vertelt om elke dag die pil te nemen. Als Bart beter is, kan het briefje weggehaald worden. Op deze manier werkt de computer.

Als je de menselijke computer zo precies mogelijk wil nadoen, moet je weten hoe de actie is uitgevoerd om vervolgens het antwoord te vertalen naar een bepaalde instructietabel. Dit heet programmeren.

De opslag van digitale computers is over het algemeen gelimiteerd. Het is echter niet moeilijk om computers voor te stellen die een oneindige opslag hebben. Deze computers noemen we oneindige capaciteit computers (infinite capacity computers).

Het idee van een digitale computer is niet nieuw: tussen 1828 en 1839 was Charles Babbage bezig met zijn machine The Analytical Engine. De Analytical Engine was in zijn geheel mechanisch en niet elektrisch. Het neurale netwerk en alle computers die sinds de Analytical Engine zijn gemaakt zijn wel elektrisch. Echter, aangezien de chemische activiteit in het neurale netwerk net zo belangrijk is, en in bepaalde computers de opslag akoestisch is, wordt het gebruik van elektriciteit slechts als een oppervlakkige overeenkomst gezien.

Universaliteit van digitale computers

De digitale computers die eerder zijn besproken vallen onder het deel “machines met een discrete toestand” (discrete state machines). Hiermee wordt bedoeld dat de machines zich verplaatsen via plotse bewegingen tussen verschillende toestanden. In enge zin is geen enkele machine op deze manier gebouwd, maar in sommige gevallen kan het nuttig zijn om ze wel zo te benaderen (denk aan een licht wat aan of uit staat).

Een abstracte uitleg: er is een machine en een rem. De machine is in dit geval de positie van een wiel. Hierbij heb je positie 1, positie 2 en positie 3 (q1, q2 en q3). Via een licht kan je zien op welke positie hij staat. Het input-signaal is de hendel (i0 of i1). Dit kan je in een tabel zetten als je de laatste toestand hebt en een input-signaal:

De output (namelijk het licht wat je ziet), kan je als volgt opschrijven:

Met andere woorden: op het moment dat de machine als laatste toestand q1 had, en de hendel staat op i1, is de output o0.

Er is maar een gelimiteerd aantal uitkomsten mogelijk. Op deze manier kan je alle mogelijke uitkomsten voorspellen. Dit is in overeenstemming met de visie van Laplace. De visie van Laplace is dat je alle toekomstige toestanden in het universum kunt voorspellen, mits je de toestand van het universum op dat moment weet. In de praktijk is het echter zo dat de kleinste afwijking de grootste gevolgen kan hebben. Een machine met een discrete toestand heeft als kenmerk dat dit niet kan gebeuren.

Als een machine het imitatiespel wil doen, kan hij zowel persoon A als persoon B spelen en wordt het moeilijk voor de ondervrager om het verschil te zien. De machine moet echter wel voldoende opslagcapaciteit hebben, snel genoeg werken en opnieuw geprogrammeerd worden, afhankelijk van welke rol hij moet uitvoeren.

Een universele machine houdt in dat een digitale computer elke machine met een discrete toestand kan nadoen. Het voordeel hiervan is dat je slechts een machine hebt die verschillende berekeningen kan uitvoeren.

Tegenstrijdige visies op de hoofdvraag

Volgens de auteur is het zo dat binnen 50 jaar, computers zodanig geprogrammeerd kunnen worden dat een ondervrager na vijf minuten niet meer dan 70% kans heeft om het antwoord goed te hebben. Ondanks dat de auteur vindt dat de vraag “Kunnen machines denken?” irrelevant is, zegt hij dat in de toekomst er een algehele consensus heerst dat machines inderdaad kunnen denken. Ook wil hij benadrukken dat wetenschappers niet alleen van wetenschappelijk feit naar wetenschappelijk feit springen; er zit ook giswerk bij. Zo lang men het onderscheid maakt tussen wetenschappelijke feiten en vermoedens, vindt hij dat vermoedens een relevante bijdrage leveren aan de wetenschap.

Nu worden er 9 tegenstrijdige visies besproken:

1. Het theologische bezwaar

Denken is een onderdeel van de onsterfelijke ziel. Omdat God een onsterfelijke ziel heeft gegeven aan elk mens, maar niet aan dieren of machines, is geen enkel dier of geen enkele machine in staat om te denken. Dit argument zou overtuigender zijn als een dier ook geclassificeerd zou worden als “mens”. Het argument impliceert een beperking in het kunnen van God. Er zijn een aantal dingen die algemeen geaccepteerd worden dat zelfs God hier toe niet in staat is, maar is het niet hèèl beperkend om te zeggen dat hij niet in staat is om een dier een ziel te geven?

2. Het “hoofd-in-het-zand-steken-bezwaar"

De consequenties van denkende machines zijn angstaanjagend; laten we er maar op hopen dat dit niet gaat gebeuren. Hoewel dit argument zelden zo openhartig geuit wordt, heeft het toch invloed op de mensen die zich bezighouden met dit onderwerp. De mens heeft de neiging om te denken dat hij de superieure soort is in de wereld, maar denkende machines brengen deze positie in gevaar. Deze denkwijze (de superioriteit van de mens) is waarschijnlijk ook de reden dat het Theologische Bezwaar veel aanhang krijgt.

3. Het rekenkundige bezwaar

Er zijn meerdere rekenkundige resultaten die kunnen laten zien dat de macht van machines met een discrete toestand gelimiteerd is. Een voorbeeld is Gödels stelling: in krachtige, logische systemen kunnen stellingen worden geformuleerd die niet bevestigd of afgewezen kunnen worden, tenzij het programma zelf tegenstrijdig is. Als we de stelling van Gödel willen gebruiken, moet een logisch systeem beschreven worden in termen van machines en beschrijf je machines in termen van logische systemen. In dit geval spreken we over een digitale computer met een oneindig vermogen. Er zijn echter wel beperkingen als je het imitatiespel speelt met zo'n machine: hij zal soms het verkeerde antwoord geven of helemaal geen antwoord geven. Het Rekenkundige Bezwaar speelt hier op in: machines hebben allerlei beperkingen waar de mensheid geen last van heeft.

Stel dat een machine het foute antwoord geeft. Dan krijgt de mens (volgens dit bezwaar) een gevoel van superioriteit. Volgens de auteur moet er niet zo veel waarde gehecht worden aan het feit dat machines af en toe het foute antwoord geven: de mens zelf geeft immers vaak genoeg foute antwoorden. Bovendien is er op dat moment maar 1 machine slechter geweest; kan je als mens ook meerdere machines tegelijk verslaan?

4. Het argument van bewustzijn

Op het moment dat een machine via emoties en gedachtes een gedicht kan schrijven en zich bewust is van het feit dat hij het heeft geschreven, kunnen we aannemen dat een machine gelijkstaat aan de hersenen. Volgens de meest extreme vorm van dit argument weet je alleen zeker dat je zelf denkt (solipsistische visie). We zouden er dus nooit achter kunnen komen of een machine denkt, want om daar achter te komen moeten we zelf de machine zijn. Het imitatiespel wordt vaak gebruikt onder de naam viva voce, om erachter te komen of iemand daadwerkelijk de vraag snapt of alleen een patroon heeft geleerd. Volgens de auteur zouden de meeste mensen die dit punt aanhangen, er eerder vanaf stappen dan dat ze neigen naar de extreme, solipsistiche kant.

5. Argumenten van verscheidene onvermogens

Er zijn dingen die machines inderdaad kunnen doen, maar je zal een machine nooit in staat krijgen om X te doen. Onder X worden verschillende dingen verstaan. Een aantal voorbeelden: vriendelijk zijn, mooi zijn, grappig zijn, leren door ervaring, ijsjes lekker vinden, fouten maken, etc. Er is niet echt steun voor deze stellingen, wat volgens de auteur komt door wetenschappelijke gevolgtrekking: een mens heeft in zijn leven een aantal machines gezien en trekt daar zijn eigen conclusies uit. De stellingen die genoemd zijn passen hier niet bij. Een aantal zijn hieronder uitgewerkt:

1. Een machine kan geen fouten maken: er moet gekeken worden naar de definitie van “fouten maken”: Fouten in het functioneren: komen door een mechanische/elektrische fout, waardoor de machine iets gaat doen wat hij niet hoort te doen. In een filosofische discussie kan dit niet gebeuren, je hebt het dan over abstracte machines. Deze machines zijn niet in staat om fouten te maken. Fouten in concluderen: kunnen alleen voorkomen als er een bepaalde conclusie wordt verbonden aan het antwoord. Bijvoorbeeld als een machine een bepaalde berekening moet uittypen, kan de machine hier een fout in maken.

2. Een machine is niet onderhevig aan zijn gedachten: je kan alleen laten zien dat een machine onderhevig is aan zijn gedachten als je kan aantonen dat een machine in ieder geval wat gedachtes heeft met in ieder geval iets van inhoud. Bijvoorbeeld als je een vergelijking laat zien aan de machine, zou je kunnen zeggen dat op dat moment de machine over de vergelijking aan het nadenken is.

3. Een machine heeft geen diversiteit in zijn gedrag: is hetzelfde als zeggen dat een machine niet genoeg opslagcapaciteit heeft. De stellingen die hierboven genoemd zijn, hebben voornamelijk te maken met het concept bewustzijn.

6. Het bezwaar van Lady Lovelace

Lady Lovelace stelde: “De Analytical Engine claimt niet dat hij uit zichzelf iets voortbrengt: hij doet dat wat wij hem kunnen bevelen.” Hartree voegt er aan toe dat het wellicht in de toekomst wel mogelijk is om een machine te laten denken, maar dat dat op dat moment niet mogelijk leek. Een vorm van Het Bezwaar van Lady Lovelace is dat een machine nooit echt iets nieuws kan doen. Een andere vorm is dat een machine ons niet kan verrassen.

7. Het argument van continuïteit in het zenuwstelsel

Omdat het zenuwstelsel zeker niet lijkt op een machine met discrete toestand (integendeel), kan je dus nooit het zenuwstelsel nabouwen met een machine me discrete toestand. Natuurlijk is discreet iets anders dan continu, maar wat betreft het imitatiespel maakt dit verschil niet uit.

8. Het argument van informaliteit van gedrag

Het is niet mogelijk om een programma te maken waarbij er op elke denkbare situatie kan worden geanticipeerd. Als je hier van uit gaat, kunnen wij als mens nooit machines zijn. Namelijk: als ieder persoon een begrensd aantal regels heeft voor hoe hij zich gedraagt, dan zouden we net zoals een machine zijn. Die regels hebben we echter niet, dus zijn we geen machines. Er moet onderscheid gemaakt worden in twee uitdrukkingen:

1. Regels van gedrag (rules of conduct): weten dat je moet stoppen als er een rood licht is in het verkeer. Dit soort regels kan je aanhouden en ben je bewust mee bezig.

2. Wetten van gedrag (laws of behaviour): dit gaat over het lichaam van een persoon. Wanneer je geknepen wordt, geeft je lichaam daar een reactie op.

We zijn nooit klaar met onderzoek naar alle wetten van gedrag. Daarom kun je nooit definitief zeggen: “Wij kunnen nooit een machine zijn”. Er zijn immers geen omstandigheden waaronder men zegt dat er genoeg onderzocht is.

9. Het argument van buitensensorische perceptie (E.S.P.)

Het laatste argument gaat over buiten-sensorische perceptie (extra-sensory perception), en termen zoals telepathie, helderziendheid, voorkennis en psychokinese. Deze ideeën gaan in tegen onze wetenschappelijke inzichten, maar er is (bijvoorbeeld voor telepathie) wel bewijs voor. Wanneer je het imitatiespel speelt, waarbij er een computer meedoet en een telepathist, kan de ondervrager vragen: “Welk patroon heeft de kaart die ik in mijn hand heb?” Per 400 kaarten heeft de telepathist het, laat zeggen, 130 keer goed, terwijl de computer het misschien 104 keer goed heeft. Op deze manier kan je raden welke de computer is. Als de ondervrager psychokinetische krachten heeft, zou de computer het antwoord vaker goed kunnen hebben dan verwacht op basis van kans. Als de ondervrager helderziend is, heeft hij het hoe dan ook goed. Kortom, gebaseerd op E.S.P. kan in principe alles gebeuren.

Leermachines

Voortbouwend op het argument van Lady Loveland, zou je kunnen zeggen dat je een idee in een machine stopt, er iets gebeurt, en vervolgens weer ophoudt met reageren. Een andere vergelijking is met een anatomische stapel (anatomic pile). Stel, er is een stapel van sub-kritieke grootte: het idee reageert met een neutron in de stapel. De neutron verstoort een proces en dit dooft uiteindelijk uit. Als de grootte van de stapel wel kritiek is, zal de neutron verder blijven gaan totdat de hele stapel vernietigd is. In de mens zit ook zo'n soort systeem. Dit is meestal sub-kritiek, maar een klein gedeelte is boven-kritiek. Als hier een idee binnenkomt, zorgt dit voor een “theorie”, wat uit meerdere ideeën bestaat van verschillende niveaus. Dan rest de vraag: kunnen machines boven-kritiek denken?

Verschillende onderdelen in de hersenen zorgen voor verschillende functies in de geest. Dit kan je vergelijken met een ui. Om tot de “echte” geest te komen, moet je een voor een de lagen van de ui pellen. Op deze manier kom je uiteindelijk bij de “echte” geest.

Vergeleken met de zenuwcellen werken moderne machines die het neurale netwerk nabootsen duizend keer zo snel, dus aan snelheid ligt het niet. Er moet gezocht worden naar de manier waarop de machines geprogrammeerd moeten worden om het spel te spelen. Om dit te realiseren moet er naar 3 delen gekeken worden:

1. De aanvankelijke toestand van de hersenen (rond de geboorte)

2. Het onderwijs waaraan de hersenen zijn onderworpen

3. Andere ervaringen, los van onderwijs, waaraan de hersenen zijn onderworpen

De gedachte is dat als je focust op het nabootsen van de hersenen van een kind, dat deze uiteindelijk via onderwijs gaan lijken op de hersenen van een volwassene. De hersenen van het kind zijn nog nauwelijks geprogrammeerd. Op deze manier is het problemen in 2 delen opgedeeld: enerzijds het kind-programma en het onderwijs.

De vergelijking met evolutie ziet er als volgt uit:

De onderzoeker kan er voor zorgen dat mutaties en het proces van natuurlijke selectie snel en efficiënt verloopt. De machine moet kunnen leren via conditionering. Maar als er behalve conditioneren geen andere manier is om te communiceren, kan de mate van informatie dus nooit meer worden dan het aantal beloningen of straffen dat je gebruikt. Op het moment dat de leerling eindelijk heeft geleerd om een woord na te zeggen, zal hij bont en blauw zijn van het straffen. Er moet dus een niet-emotionele manier zijn om te communiceren, bijvoorbeeld door het aanleren van (symbolische) taal. Zo kunnen er bevelen worden gegeven. Er moeten dan definities en beweringen in het systeem komen, die bestaan uit feiten, formules, stellingen gegeven door een autoriteitsfiguur etc. De leraar kan tegen de machine zeggen: “Ga je huiswerk doen”.

De geboden (imperatives) die een machine moet uitvoeren, zijn geboden die de regels van het logische systeem kunnen toepassen. Denk hierbij aan regels zoals: “Als er een methode is die sneller is dan een andere methode, kies dan nooit voor de langzamere methode.” Dit soort uitspraken kunnen enerzijds door autoriteitsfiguren geleerd worden of anderzijds door de machine zelf (wetenschappelijke gevolgtrekking).

De paradox van de leermachine houdt in dat een machine bepaalde regels leert waar hij zich aan moet houden, maar deze kunnen ook veranderen. Dit kan verklaard worden door het feit dat de regels die veranderen kortstondig zijn.

Op deze manier heeft de leraar misschien niet altijd goed door wat er “in de machine omgaat”. Het argument dat de machine alleen maar kan doen, wat wij zeggen dat het moet doen, gaat niet meer op.

Een random element in een leermachines kan voordelen hebben. Als je alles systematisch gaat opzoeken krijg je wellicht een hele hoop aan informatie die niet klopt, omdat je begint bij een gebied waar de goede oplossingen sowieso niet zitten. Met een random element heb je een grotere kans dat er sneller een goed antwoord tussen zit. In evolutie is de systematische methode niet mogelijk. Je kan niet bijhouden welke genetische combinaties er zijn geweest.

Op intellectueel gebied zullen machines in de toekomst wellicht kunnen concurreren met de mens, maar het blijft de vraag wat voor soort machine hier het meest geschikt voor is.