Omdat de engelstalige masterscriptie over de zelfdenkende computer Ada van het internet lijkt te zijn verdwenen, publiceer ik hieronder de samenvatting in het Nederlands.

Moet een machine om problemen net zo goed op te kunnen lossen als een mens ook net zo in elkaar zitten als een mens? Dat was de hoofdvraag van mijn onderzoek. Ik heb daarom een gedachtenexperiment gedaan. Ik heb gekeken wat een robot, Ada, allemaal zou moeten weten en kunnen om net zo slim (of dom) te worden als een mens en hoe we haar deze kennis en vaardigheden zouden kunnen geven. Het idee was om er zo achter te komen in hoeverre en hoe sensomotorische, cognitieve, talige, sociale en emotionele processen met elkaar samenhangen.

Ada zal hoe dan ook in staat moeten zijn om zelf patronen te ontdekken.

Dat was mijn antwoord op mijn eerste deelvraag. Hoeveel kennis zal er in Ada moeten of kunnen zijn voorgeprogrammeerd? Ik volgde daarbij deze deze redenering.

Mensen leren basale dingen als lopen en dingen pakken door trial and error. Het brein van mensen is actiever en plastischer dan dat van dieren. Het probeert voortdurend patronen te ontdekken. Waarschijnlijk lukt dat doordat bij dezelfde (combinatie van) prikkels steeds dezelfde (combinatie van) neuronen gaan vuren.

Mensapen missen de vrijheid die nodig is om patronen te ontdekken. Bij hen worden prikkels op een vaste manier verwerkt. Daardoor zijn ze minder slim dan wij.

De manier waarop mensen patronen herkennen lijkt veel op de manier waarop dat gebeurt in connectionistische systemen. Ook daarbij is gedrag niet voorgeprogrammeerd.

Om adequaat te kunnen reageren en handelen zal Ada naast een informatieverwerkende eenheid nog een sensorisch en een motorisch systeem moeten hebben. Ook om te kunnen leren in interactie met haar omgeving zal ze dingen moeten kunnen waarnemen en doen. Bij mensen is er veel interactie tussen de verschillende sensomotorische en cognitieve deelsystemen. De vraag is dan ook dat of je deze systemen wel kunt zien als losse modules, dan wel hoe de interactie tussen deze systemen plaats kan vinden. Om gebruik te kunnen maken van de door mensen verworven kennis zal Ada ook onze taal moeten beheersen. Ook om met ons te kunnen communiceren zal ze onze taal moeten kunnen gebruiken. De vraag hier is weer of Ada taal kan leren zonder speciaal hiervoor ontworpen module.

Sommigen menen dat mensen taal alleen kunnen leren doordat het vermogen hiertoe is aangeboren. (Chomsky) Anderen denken dat taalontwikkeling vooral een kwestie is van patroonherkenning en/of een sociaal instinct. (Tomasello) Pogingen om intelligent agents bijvoorbeeld taal te leren kunnen aanwijzingen geven over de mate waarin het betreffende vermogen modulair en/of aangeboren is.

Waarschijnlijk kan Ada een deel van haar talige kennis op een andere manier opdoen dan mensen. Dat was mijn antwoord op mijn tweede deelvraag. Hoe kan Ada gebruik (leren) maken van taal? Ik volgde daarbij deze deze redenering.

Bij mensen kunnen concepten worden opgeroepen door andere concepten. Door het principe van spreiding van activatie zullen opgeroepen concepten die niet relevant al snel hun activatie verliezen, bijv. omdat ze met minder andere actieve concepten verbonden zijn.Ook clusters van modale informatie-elementen als woorden en beelden kunnen concepten activeren – en andersom.

Bij mensen gaan er al met beweging geassocieerde neuronen vuren als ze aan deze beweging denken. Dit kan verklaren hoe het gedrag van mensen voor zo’n groot deel bepaald worden door hun ideeen. De (amodale) gedachte aan een concrete handeling is sterk geassocieerd met het (modale) programma voor deze handeling, doordat handelingen altijd vooraf zijn gegaan aan en vergezeld door de gedachte eraan. Denken aan een handeling leidt dus automatisch tot uitvoering van die handeling – tenzij een andere handelingsmogelijkheid nog meer activatie krijgt.

Als Ada’s talige kennis wordt gerepresenteerd als een netwerk van modale en amodale elementen die elkaar kunnen activeren en deactiveren, zal ook bij haar de meest relevante informatie ook het meest actief worden. Door het actief worden van de meest relevante informatie zal Ada ook adequaat kunnen handelen en reageren.

Misschien kunnen adequate handelingen ook geselecteerd, dan wel berekend worden door een systeem van productieregels. De vraag is of er een manier is voor een informatieverwerkend systeem om de meest adequate handeling te selecteren die niet neerkomt op het meer dan wel minder actief worden van met elkaar verbonden elementen.

Velen menen dat het menselijk informatieverwerkingssysteem een geheel is van automatisch werkende modules die aangestuurd worden door een niet- automatisch werkend centraal systeem. (Fodor) Een dergelijk centraal systeem lijkt wel erg op de homunculus waar we nu juist vanaf willen in onze theorieen. Daarbij zet het onderscheid tussen automatische en bewuste processen je op het verkeerde been. Een aanwijzing dat beide processen niet goed te scheiden zijn is het gegeven dat de automatische handelingen bij het besturen van een auto bewust zijn geleerd.

In een systeem waarin de elementen elkaar automatisch kunnen activeren en deactiveren is een sturende instantie hoe dan ook niet nodig. In een dergelijk systeem is nog steeds plaats voor modules, zeker aan de rand van het systeem.

Computers kunnen semantische netwerken opbouwen door patronen te ontdekken in teksten. Vaste formules en standaard reacties kunnen worden (voor)geprogrammeerd.

Mensen leren taal in interactie met andere taalgebruikers. Voor hen zijn begrippen geworteld in ervaring.

De belangrijkste concepten zal Ada slechts leren gebruiken in interactie met haar omgeving. Dit was het antwoord op mijn derde deelvraag. Over welke concepten zal Ada in ieder geval moeten beschikken?

Mensen en dieren leren doordat ze bepaalde dingen als gewenst ervaren en andere niet. Ada zal dus in ieder geval deze begrippen moeten kennen.

Mensen kunnen adequaat reageren in nieuwe situaties doordat de relevante informatie vanzelf actief wordt. Dat kan echter alleen doordat ook de relaties tussen concepten, ofwel de semantische rollen, gerepresenteerd kunnen worden. Het gaat dan om de semantische rollen als agent, object, kenmerk, handeling, doel, gevolg enz. Met behulp van deze relationele concepten zijn ook relaties tussen concepten te representeren als activeerbare elementen in een netwerk.

Apen hebben wel een theory of mind, maar deze is niet zo uitgewerkt als bij mensen. (Tomasello) Waarschijnlijk leren mensen situaties zo goed begrijpen als ze doen doordat ze de relaties tussen concepten ontdekken met de in hun taal gebruikelijke manier om deze uit te drukken. Misschien verwerven mensen concepten als agent, doel en middel ook beter dan dieren doordat bij hen dingen niet zijn aangeboren maar geleerd moeten worden door trial and error. Ze ontwikkelen de relationele concepten hoe dan ook in interactie met hun omgeving door zelf dingen te doen, andere mensen dingen te zien doen enz.

Om situaties te begrijpen zal ook Ada relationele concepten moeten ontwikkelen met een manier om deze uit te drukken. Waarschijnlijk zal haar dit alleen lukken in interactie met haar omgeving, dat wil zeggen door zelf dingen te doen, andere mensen dingen te zien doen enz.

Als Ada de concepten ontwikkelt die nodig zijn voor echt begrip, zal ze zich niet alleen van zichzelf bewust worden, maar ook emoties en betrokkenheid bij anderen gaan ervaren. Dit was mijn antwoord op de laatste deelvraag. Zal Ada kunnen of moeten beschikken over een zelf, emoties en/of een sociaal instinct?

Waarschijnlijk leidt de ontwikkeling van bovengenoemde concepten bij mensen tot de ontwikkeling van het (zelf)bewustzijn – en andersom. De belangrijkste van deze concepten spelen daarnaast een grote rol bij emotioneel en sociaal gedrag. (Rolls, Frijda) Complex emotioneel of sociaal gedrag is hoe dan ook alleen mogelijk als de situatie wordt geinterpreteerd met behulp van de relationele concepten.

Om gegeven de situatie adequaat te handelen zal ook Ada zichzelf en de ander moeten zien als een instantie met doelen, belangen en handelingsmogelijkheden. Wanneer ze zich bewust is van haar doelen, belangen en handelingsmogelijkheden kan ze ook emotioneel gedrag gaan vertonen. Belangen en doelen hebben hoe dan ook een hoge basisactivatie doordat ze geassocieerd zijn met de concepten gewenst en ongewenst.

Doordat Ada ook de ander ziet als agent, zal ze zich in deze ander gaan verplaatsen en rekening met hem proberen te houden. Als ze het gedrag van anderen herkent als gewenst, zal ze hen vervolgens gaan imiteren. Zo zou zelfs, als ze ziet en gaat begrijpen hoe die zich aan elkaar en waarschijnlijk ook aan haar hechten, hechtingsgedrag kunnen gaan vertonen. De vraag is of dat zou betekenen dat ze echt aan de ander gehecht was.

Bij menselijke hechtingsprocessen spelen de hormonen een rol die mensen aanmaken bij fysieke aanraking. Misschien gaat Ada zich ook pas echt aan anderen hechten als ze met een vergelijkbaar systeem wordt uitgerust. Een sociaal instinct voorprogrammeren in een systeem dat pas door ervaring leert te onderscheiden tussen zichzelf en anderen is moeilijk voorstelbaar. De vraag is dan ook of er bij mensen wel sprake is van een aangeboren soicaal instinct.

Bij mensen krijgen dingen de aandacht die ze verdienen door re-entrant processing. In het geval van emoties gebeurt dat door middel van lichamelijke signalen die aangeven dat er een belang is geactiveerd.

Misschien zal Ada om op deze manier haar aandacht te richten op hetgeen relevant is een vergelijkbaar deelsysteem moeten krijgen. Misschien is het ook genoeg dat doelen en belangen een hoge basisactivatie hebben. Misschien kan een agent alleen de concepten doel en belang ontwikkelen met behulp van een systeem dat hem vertelt dat iets gewenst of ongewenst is.

Een persoon wordt zich bewust van een inhoud als een cluster van modale elementen als woorden en beelden en het cluster van corresponderende amodale elementen elkaar zo actief houden dat alle andere elementen worden gedeactiveerd. Het gaat daarbij om hooguit twee met elkaar verbonden proposities. Onder de licht actieve, maar nog niet bewuste elementen bevinden zich de elementen die corresponderen met de gedachte ‘Ik denk nu X’.

Inhouden die over de bewustzijndrempel zijn gekomen krijgen daardoor een relatief hoge basisactivatie. Dit verhoogt de kans dat ze worden onthouden.

In een systeem dat beschikt over taal en een (meer dan oppervlakkige) theory of mind zal ook de tweede soort re-entrant processing optreden. Ook Ada zal dus bewustzijn ontwikkelen. Dat waarnemen, denken, voelen en doen zo met elkaar verweven zijn, is een tweede reden om aan te nemen dat Ada geen modulair systeem zal zijn.

Het ‘ontwerp’ van de mens lijkt moeilijk te verbeteren. Dat was mijn conclusie. Ik heb deze als volgt toegelicht.

Sensomotorische, cognitieve, talige, sociale en emotionele processen zullen waarschijnlijk bij alle intelligente agenten moeilijk te scheiden blijken te zijn. Ook een kunstmatig systeem zal niet ver komen zonder bewustzijn.

Veel van het complexe gedrag van de mens is geen eenvoudige combinatie van nature en nurture. Vermogens ontwikkelen zich in samenhang en door interactie met de omgeving. Ze zijn waarschijnlijk dus ook slechts ten dele voor te programmeren. Wat wel nodig is voor de ontwikkeling van intelligentie, is het vermogen om patronen te ontdekken.

Een belangrijk verschil tussen mens en machine zou het gemak kunnen zijn waarmee machines nieuwe informatie in hun kennisbestand integreren. Misschien zal het ‘werkgeheugen’ van een kunstmatig systeem meer dan een tweetal proposities blijken te kunnen bevatten.

Er zullen echter ook altijd dingen zijn die wij beter kunnen dan een machine. Wij kunnen ook niet alles beter dan dieren. Of intelligente machines een bedreiging zijn voor de mens zoals wij dat zijn voor veel dieren, hangt er waarschijnlijk van af. Misschien moeten we ervoor zorgen dat andere intelligente agenten dezelfde normen en waarden gaan hanteren als wij, door hen te behandelen zoals we elkaar behandelen.