De wereld is complex aan het worden lezen we in kranten. En we voelen het ook, want wat vroeger gewoon was voor iedereen is gaandeweg niet meer gewoon geworden. Of gewoon voor een groep en anders-gewoon voor een andere groep. Die twee groepen kwamen vroeger niet veel met mekaar in contact. Tegenwoordig komen groepen mekaar steeds meer tegen. Het is gemakkelijk geworden met het internet, iedereen van gek tot wijze kan zijn ‘gewoonte’, zijn gedrag publiek maken. En meer een meer laten mensen het ook op straat zien. En dat tegenkomen is steeds agressier aan het worden, mensen lijken steeds meer de noodzaak te voelen hun ‘gewoon’ te willen opdringen aan het ‘anders-gewoon’. Wat voor soort bron zit daarin vraag ik me af.
Een mens is een complex, steeds aanpassend systeem. En de macht van dat systeem ligt in het systeem. Hoe helpt dat besluitvorming verklaren? Of hoe gaat dat bij AI zijn?
Mensen zijn onderdeel van die complexe manier van interactie. En mensen zijn zelf een complex geheel. Anders dan een complex fysisisch syteem waar alles met een if-this-then-that logica vast zit, vast aan natuurkundige wetten. In zo een systeem is er niet een actor die tussentijds de logica veranderd. Bij een Bij een adaptief systeem is dat wel anders, daar dan if-this-then-een onbekend iets: er is tussentijds een aanpassing die door de dingen gemaakt gaat worden. Een bal die je loslaat valt altijd (een natuurkundige logica), een student die je nu iets zegt, denkt daar een tijdje later mogelijk anders over, die is niet een voorspelbare bal. Dacht me daar eens in te verdiepen en kwam zo op het onderwerp Complex Adaptive Sytems. De grondlegger van dat gedachtegoed is John H. Holland. Hij was hoogleraar psychologie en hoogleraar elektrotechniek en computerwetenschappen aan de Universiteit van Michigan. Helaas overleden in 2015 en sindsdien gelouterd als de ‘fouding father’ van de complex systemen aanpak. Die de kern is van Artificiële intelligentie filosofie wat mij betreft.
Uit een van zijn artikelen haal ik wat elementen die mij aan het denken hebben gezet. Het artikel is in zijn geheel te vinden op het internet.
Een computer doet fysieke processen na. Dus zou menselijk denken na kunnen doen. En dan kan je ook omgekeerd redeneren: dat wat een computer kan of niet kan, je kan leren wat de menselijk hersenen kunnen. Een belangrijk punt de komende jaren, want gaat blijken dat de computer alles van een mens gaat kunnen? Ik denk van voorlopig niet, want het mist de biologische interactie. (lees Prof. Damasio werk. bijvoorbeeld dit)
Wat een complex adaptive systeem doet schrijft Holland is evolutie creëren, gedrag bijeen zetten en anticiperen. Deze systemen hebben dit als kern. Belangrijk bij de analyse van ook menselijk gedrag en daarmee ook bijvoorbeeld besluiten die mensen nemen.
Systemen zijn ’embedded’ in voortdurende nieuwe omgevingen. En ik vraag me dan af, in welke snelheid systemen dat doen. Het menselijk systeem doet dat in een andere snelheid dan een kat. En een computer systeem nu en straks? Sneller?
Prachtig! Een complex adaptive systeem heeft niet één iets dat de macht heeft. De logica zit in de structuur, het patroon van de delen. En die veranderen doorlopend. Een beetje als de uitspraak: ‘de enige constante is dat het altijd anders is’.
In het systeem zit een soort ‘kennis’ die in tags zijn gezet zoals Hinton schrijft. En die kennis kan een AI systeem snel kopieeren naar andere systemen. Sneller dan de mens, want die is lang bezig zijn kennis over te brengen. En de mens heeft maar een beperkte historie (trainings data in AI termen) en een beperkte levenstijd. Dus AI gaat het winnen van ons is de conclusie van Prof. Hinton. Als tijd kijk zijn uitleg daarvan hier.
En dan een fasinerend stukje. Over het kunnen ‘anticiperen van de toekomst’ dat in de onderdelen van een systeem zitten. Zoals de vlinder die met een bepaalde beweging van de vleugels belagers weet weg te houden. Moet daar me nog eens verder in verdiepen.
Ben je al suf van het lezen?
Holland schrijft dat er meer nadenk werk nodig is omdat een theorie van complexe systemen nodig is om verder te komen. Het is zoeken naar ‘the common kernal of all complex adaptive systems’. Het zoeken naar de gemeenschappelijk kern van alle complexe adaptive systemen. En de mens is zo een systeem, dus het zoeken naar de reden van bestaan zo lees ik het.
Afsluitend
Een fasinerend onderwerp dit. Van belang voor:
Begrijpen hoe besluiten genomen. We leven in complexe adaptive systemen en als we die begrijpen dan hebben we grip op zaken als de publieke opinie, of de aandelen markt, het klimaat etc.
Begrijpen hoe AI systemen dit gaan doen. En de gevaren die daarin zitten, omdat zoals Holland schrijft, deze systemen niet één ‘machthebber’ één governance systemen hebben. Als dat zo is, dan is er dus niet één machthebber, als dat zo is kan de mens die macht over AI systemen niet houden. Het systeem, het AI systeem, neemt zijn eigen macht.
En waar die macht zit in het AI syteem dat weten we niet. Wie weet heeft AI die macht al genomen en fopt ons nu.
Rudolph
lente 2024
Rudolphs news 
Leave a comment