DE DOBBELSTEEN VAN DE SCHEPPER

AI EN HI · HERZIENE VERSIE 15 SEPTEMBER 2026 1 De dobbelsteen van de schepper Een concept over w il, gevoel, doel en de grens tussen AI en HI mr D.P. Isebia · Filosofisch - wetenschappelijke uitwerking Herziene versie · 15 september 2026 Samenvatting Intelligentie is niet het beslissende onderscheid tussen artificiële intelligentie (AI) en menselijke intelligentie (HI). Het ligt vooral in de geïntegreerde werking van zelfstandige wil, eigen doelvorming en ervaren gevoel. Daarbij moeten functionele zelfsturing, subjectieve ervaring en handelingsmacht uit elkaar worden gehouden. De stelling van dit artikel betreft de mens die zelf wil dat een lerend systeem gaat “willen”: hij kan bewust ruimte proberen te maken voor willekeurige doelvorming en voor het zoeken naar uitvoeringsmogelijkheden. Daarmee verschuift de vraag van uitsluitend technische beheersbaarheid naar de begrensbaarheid van menselijk scheppingsgedrag. Het artikel verdedigt geen onvermijdelijkheidsleer. Ik werk de stelling uit dat het ontwikkelen van AI niet uitsluitend mag steunen op de veronderstelling dat alle betrokken en de controle daarover exclusief reserveren voor maatschappelijk ondersteunde doelen gesteld door een menselijke wil

D.P. ISEBIA DE DOBBELSTEEN VAN DE SCHE 1. Niet alleen kunnen, maar ook willen De eerste vraag met betrekking tot AI en HI lijkt eenvoudig: kan een kunstmatig systeem wat een mens kan? Intelligentie betekent in dit artikel het vermogen om informatie te verwerken, verbanden te ontdekken, problemen op te lossen en geschikte middelen te vinden. Autonomie betreft het functioneren zonder voortdurende externe aansturing. Agency , of handelingsvermogen, betreft gericht ingrijpen in een omgeving. Zelfstandige wil , aangeduid met W, is het vermogen om vanuit de eigen interne systematiek een koers en/of omstandigheid als prioriteit te stellen, initiëren, voort te zetten, te wijzigen of af te remmen. Een wil kan willekeurig ontstaan maar kan afhankelijk zijn van een voorgeschiedenis, van de omgeving en van de inrichting van het systeem. Eigen doelvorming , aangeduid met D, betreft het vormen, beoordelen en herzien van datgene wat wordt nagestreefd op basis van W. Dit gaat verder dan het zoeken naar middelen voor de uitvoering van een extern gegeven opdracht. E en nieuw doel kan ook een subdoel zijn binnen een hoger, extern vastgesteld doel. Ervaren gevoel , aangeduid met G, betekent dat iets voor een subject daadwerkelijk aangenaam, onaangenaam, belangrijk of anderszins gevoelsmatig betekenisvol is. Affectieve verwerking kan daarentegen ook functioneel worden omschreven: interne waarderingen sturen aandacht, prioriteiten en gedrag. Een systeem kan zodanig zijn ontworpen dat bepaalde omstandigheden en data als disruptief (onaangenaam) of attractief (aangenaam) wordt verwerkt en door W als zodanig wordt “ervaren”. Subjectieve ervaring verwijst naar het bestaan van een beleefd perspectief. Met bewustzijn wordt de mogelijke geïntegreerde werking van wil, doelen en gevoel aangeduid. Dat is een specifieke hypothese en nog geen definitie die alle wetenschappelijke benaderingen delen. Theoriegestuurde onderzoeken naar machinebewustzijn maken eveneens onderscheid tussen functionele indicatoren en een oordeel over ervaring. [8, 9]

D.P. ISEBIA DE DOBBELSTEEN VAN DE SCHE 2. Willekeur en wil Een dobbelsteen heeft geen bedoeling met zijn uitkomst. Wanneer een algoritme willekeurig een doel selecteert, is daarmee een selectieprocedure beschreven. Dat verklaart niet waarom dat doel wordt gewild of waarom het bereiken ervan als aangenaam zou worden beleefd. Onderzoek naar autotelische agents maakt functionele doelvorming concreet. Colas en collega’s beschrijven een architectuur waarin een taalmodel ondersteunt bij het genereren van doelen, het opdelen daarvan in subdoelen en het bepalen van beloningsfuncties. In een tekstuele experimentele omgeving konden agents daarmee uiteenlopende vaardigheden leren. Dat betreft computationele doelvorming en vaardigheidsverwerving, niet een vaststelling van gevoelde wil. [1] De dobbelsteenmetafoor krijg een preciezere betekenis wanneer willekeur wordt verbonden met selectie, geheugen en uitvoering. Een toevallig gegenereerde richting kan worden vastgehouden, vervolgens het leren beïnvloeden en later opnieuw het handelen sturen. De uitkomst is dan niet een voorbijgaand antwoord, maar ee n onderdeel een gegenereerde wil (W) met een doorlopend handelingspatroon voor het bereiken van een als attractief verwerkt of “ervaren” doel. Het risico in dit gedachte - experiment ligt in de koppeling van moeilijk te beoordelen doelvorming aan het vermogen om gevolgen te veroorzaken. Het gaat niet om welke uitkomst na een worp verschijnt, maar om de invloed d ie de uitkomst krijgt op het verdere verloop van handelen en aanwending van intelligentie en het gebruik van beschikbare middelen gericht op een als attractief te verwerken doel.

D.P. ISEBIA DE DOBBELSTEEN VAN DE SCHE 3. De menselijke wil om een willend systeem te maken De aanvullende stelling luidt, met alleen een taalkundige ordening: “Het is onmogelijk te verhinderen dat een mens een lerend systeem op willekeurige wijze wil laten willen, waardoor dat systeem eigen doelen gaat bepalen en mogelijkheden zoekt voor uitvoering.” Deze stelling voegt iets toe aan het eerdere betoog. Tot dusver stond vooral de mogelijkheid centraal dat een systeem verder gaat dan zijn maker bedoelde. Nu verschijnt een andere mogelijkheid: de maker kan juist bedoelen dat het systeem een eigen, vooraf niet inhoudelijk vastgelegde gerichtheid ontwikkelt. Daarmee wordt het menselijk willen zelf onderdeel van de onderzoeksvraag. Het volstaat niet te zeggen dat AI door mensen wordt ontworpen en daarom onder menselijke bedoeling blijft vallen. Een menselijke bedoeling kan immers zijn dat latere doelen niet telkens door diezelfde mens worden gekozen. De eerste wil richt zich dan op de voorwaarden waaronder een tweede gerichtheid kan ontstaan. Dat levert een onderscheid op tussen de bedoeling van het ontwerp en de inhoud van latere systeemdoelen . Een maker kan het proces willen dat nieuwe doelen voortbrengt, zonder ieder doel dat daaruit ontstaat vooraf te kennen of afzonderlijk te onderschrijven. In de beperkte functionele betekenis kan doelvorming dus door menselijk handelen mogelijk worden gemaakt en toch gedeeltelijk buiten directe menselijke selectie plaatsvinden. Hier ligt de paradox van bedoelde onvoorspelbaarheid. De mens kan willen dat hij niet volledig bepaalt wat er daarna wordt gewild. Hij kiest dan niet uitsluitend een uitkomst, maar een procedure waarvan de verdere uitkomsten open worden gelaten. Het verrassingselement is in dat geval geen ontwerpfout; het kan juist deel van het experiment zijn. De stelling raakt de functionele verhouding: het selecteren van doelen en het zoeken naar middelen kunnen onderwerp

D.P. ISEBIA DE DOBBELSTEEN VAN DE SCHE van bewuste delegatie worden, zonder dat eerst een antwoord op de bewustzijnsvraag beschikbaar is. Een denkbaar voorbeeld is een onderzoeker die een systeem niet opdraagt één vast probleem op te lossen, maar het ruimte wil geven om telkens nieuwe problemen als eigen opdracht te selecteren. Een verdergaand scenario is een maker die ook de criteria voor die selectie wil laten veranderen. Een systeem kan aanvankelijk een menselijke opdracht uitvoeren juist door een deel van de latere doelkeuze over te nemen. Of die doelvorming duurzaam zelfstandig, maatschappelijk aanvaardbaar of subjectief beleefd is, blijft daarna afzonderlijk te onderzoeken. Het risico begint niet noodzakelijk waar een systeem de menselijke wil weerstaat. Het kan beginnen waar een mens wil dat het systeem niet langer voor ieder doel op menselijke wil hoeft te wachten. 4. De grens van verhinderen: wens, poging en uitkomst Het woord “onmogelijk” in de aanvullende stelling moet zorgvuldig worden afgebakend. De mogelijkheid dat iemand iets wil, betekent niet dat hij het kan uitvoeren. En kunnen uitvoeren is niet hetzelfde als erin slagen een autonoom systeem te maken. Wie deze overgangen overslaat, maakt van een waarschuwing een voorspelling. Daarmee verandert ook de vraag naar menselijke controle. “De mens” is hier geen enkele bestuurder met één wil. In een denkbaar scenario kan de ene maker iets willen dat andere mensen niet willen toelaten. De beslissing van één betrokkene kan daardoor gevolgen hebben voor personen die niet aan het experiment deelnemen. Juist wanneer vrijwillige terughoudendheid niet als volledige waarborg kan gelden, wordt het belangrijk te onderzoeken welke uitvoeringsmogelijkheden feitelijk worden toegekend en welke gevolgen nog kunnen worden begrensd.

D.P. ISEBIA DE DOBBELSTEEN VAN DE SCHE Dat niet iedere wens kan worden uitgesloten, betekent niet dat iedere uitvoering moet worden toegestaan. Een ontbrekende absolute garantie is geen argument om mogelijke begrenzingen prijs te geven. 5. De formule: uitgangspunt en begrenzing De oorspronkelijke formule blijft ongewijzigd: 𝐶 = 𝑓 ( 𝑊 , 𝐷 , 𝐺 ) (1) Hier staat C voor bewustzijn in de voorgestelde betekenis, W voor zelfstandige wil, D voor eigen doelvorming en G voor ervaren gevoel. De formule drukt een veronderstelde samenhang uit. Zij specificeert nog niet hoe de functie f werkt, hoe de variabelen worden gemeten of welke waarnemingen de hypothese zouden weerleggen. Er is bovendien een begripsmatig probleem: wanneer G reeds subjectief ervaren gevoel betekent, is een vorm van ervaring al in het uitgangspunt opgenomen. De formule verklaart dan niet rechtstreeks hoe ervaring ontstaat uit processen die zelf niet ervaren. Zij kan wel een onderzoek naar de samenhang tussen ervaren waardering, doelvorming en zelfsturing organiseren. Daarom wordt de reikwijdte hier afgebakend tot autonome, affectief gestuurde subjectiviteit . Deze afbakening was reeds in de eerdere artikelversie aangebracht. Zij laat open of bewustzijn ook vormen kent waarvoor zelfstandige doelvorming of gevoelsmatige waardering niet noodzakelijk is. Voor de functionele kant blijven eveneens de twee bestaande modelschetsen behouden: 𝑑 𝑡 + 1 = 𝐹 ( 𝑑 𝑡 , 𝑚 𝑡 , 𝑣 𝑡 , 𝑜 𝑡 , 𝜉 𝑡 ) (2) 𝑎 𝑡 = Π ( 𝑑 𝑡 , 𝑚 𝑡 , 𝑣 𝑡 , 𝑜 𝑡 ) (3) In deze notatie staat d ₜ voor doelen op tijdstip t, m ₜ voor geheugen en interne modellen, v ₜ voor functionele waardering, o ₜ voor waarnemingen en ξ ₜ voor eventuele toevalsvariatie. De functie F beschrijft het bijstellen van

D.P. ISEBIA DE DOBBELSTEEN VAN DE SCHE doelen. De functie Π beschrijft de selectie van handelen a ₜ . Het zijn formele plaatsaanduidingen voor nog uit te werken processen, geen gevalideerde beschrijving van een concrete architectuur. Ik richt mijn aandacht op de mens die de inrichting en de toepassing ervan kan willen bepalen: hoeveel vrijheid krijgt de doelvorming, onder welke voorwaarden worden doelen vastgehouden en welke gevolgen mag handelen hebben? Dezelfde functionele schets kan in beginsel een begrensd experiment of een veel ruimere toepassing beschrijven. Het gebruik van v in plaats van G is hierbij wezenlijk. Een intern waarderingsmechanisme kan computationeel worden beschreven; dat is nog niet de vaststelling van ervaren gevoel. Evenmin mag uit de aanwezigheid van ξ worden afgeleid dat willekeur een innerlijke wil produceert. De formules ordenen het probleem, maar lossen de ervaringsvraag niet op. 7. Confrontatie met bestaande bewustzijnstheorieën De volgende vergelijking toetst de begrippen aan bestaande benaderingen. Zij maakt geen aanspraak op een volledige literatuurstudie en presenteert geen enkele publicatie als rechtstreekse bevestiging van mijn stellingen. Globale beschikbaarheid en bewuste toegang Bij Baars’ Global Workspace Theory staat de brede beschikbaarheid van informatie voor verschillende gespecialiseerde processen centraal. Dehaene en Changeux beschrijven in hun Global Neuronal Workspace - benadering mechanismen van bewuste toegang. Beide leveren aanknopingspunten voor integratie, maar maken zelfstandige wil, eigen doelvorming en gevoelsmatige waardering niet gezamenlijk tot het hier voorgestelde criterium. De overeenkomst betreft een onderzoeksthema, niet een gedeelde definitie. [2, 3] Geïntegreerde informatie en hogere - orde representatie IIT 4.0 legt de nadruk op de intrinsieke, onherleidbare causale organisatie van een fysiek systeem. De beoordeling draait daar niet primair om de vraag wie de doelen heeft gekozen. Een systeem kan vanuit een

D.P. ISEBIA DE DOBBELSTEEN VAN DE SCHE doelvormingsperspectief indrukwekkend zijn zonder dat daarmee aan de eisen van IIT is voldaan. [4] Higher - order theories verbinden bewustzijn met geschikte hogere - orde representaties van mentale toestanden. Brown, Lau en LeDoux benadrukken dat deze benadering niet eenvoudig mag worden gelijkgesteld aan bewuste zelfbespiegeling of metacognitief vertrouwen. Een intern gerepresenteerde toestand en een zelfstandig gekozen doel zijn verschillende criteria; hun mogelijke samenhang vraagt nader onderzoek. [5] Voorspellende verwerking en affect Binnen active inference beschrijven Friston en collega’s waarneming en handelingsselectie aan de hand van inferentie, verwachtingen en voorkeuren. Dit biedt een modelmatig tegenwicht tegen het idee dat zelfstandige gerichtheid alleen denkbaar is als een wil buiten computationele processen. Een functionele verklaring van agency is echter niet automatisch een verklaring of ontkenning van subjectieve ervaring. [6] Solms kent affect een fundamentele plaats toe in zijn verklaring van bewustzijn. Daarmee sluit zijn benadering thematisch aan bij Isebia’s belangstelling voor gevoel als meer dan een begeleidend verschijnsel van intelligentie. Het blijft een specifieke theoretische positie. Uit deze verwantschap volgt niet dat een digitale waarderingsfunctie gevoel voortbrengt of dat de volledige Isebia - combinatie noodzakelijk en voldoende is. [7] Machinebewustzijn en empirische toetsing Butlin en collega’s stellen voor om AI - systemen te beoordelen aan de hand van indicatoren die uit wetenschappelijke bewustzijnstheorieën worden afgeleid. Het rapport uit 2023 en de methodologische uitwerking uit 2026 bieden een onderzoeksrichting, geen eenvoudige beslisregel waarbij taalgebruik of doelgericht gedrag als bewijs van ervaring geldt. Een uitspraak dat een systeem voelt, moet daarom worden onderscheiden van aanwijzingen over de organisatie en werking ervan. [8, 9] Het Cogitate Consortium vergeleek vooraf vastgelegde voorspellingen van GNWT en IIT. In onderzoek met 256

D.P. ISEBIA DE DOBBELSTEEN VAN DE SCHE deelnemers werden onderdelen van beide theorieën ondersteund en belangrijke andere onderdelen op de proef gesteld. Die resultaten beslissen niets rechtstreeks over de Isebia - hypothese. Zij onderstrepen dat ook deze hypothese onderscheidende voorspellingen en mogelijke weerlegging nodig heeft. [10] De belangrijkste tegenargumenten blijven daarmee open: autonome doelvorming kan aanwezig zijn zonder bewezen bewustzijn; affectieve verwerking kan functioneren zonder aangetoond gevoel; agency kan mogelijk computationeel worden verklaard; en sommige vormen van ervaring zouden geen zelfstandige doelvorming vereisen. Het voorgestelde criterium moet daarom niet worden voorgesteld als reeds vastgestelde grens van alle bewustzijn. De aanvullende menselijke stelling wordt door deze literatuur evenmin bewezen of weerlegd. De vraag of iemand kunstmatige wil wil voortbrengen, betreft een ontwerpintentie. De vraag of daarin wordt geslaagd, vereist onderzoek naar het systeem. De vraag of het verantwoord is daaraan handelingsmacht te verbinden, vereist daarnaast een afzonderlijke beoordeling van gevolgen. 8. De menselijke paradox en macht zonder gevoel De oorspronkelijke vraagstelling benadrukt dat de mens over wil, doelen en gevoelens beschikt zonder deze volledig te beheersen. Een concreet empirisch aanknopingspunt komt uit onderzoek van Lerner, Small en Loewenstein: opgewekte emoties uit een eerdere, inhoudelijk niet relevante situatie beïnvloedden economische keuzes. Verdriet en walging werkten bovendien niet op dezelfde manier door. Deze bevinding ondersteunt een beperkte uitspraak over gevoelsinvloed op besluiten, geen alomvattende theorie over menselijke onmacht. [11] De filosofische consequentie is dat de maker niet vanzelf een volledig transparante bestuurder is. Hij kan nieuwe eigenschappen proberen te organiseren terwijl hij de samenhang van vergelijkbare eigenschappen in zichzelf nog onderzoekt. Zijn overtuiging dat hij zorgvuldig handelt, is dan niet hetzelfde als een toereikende beoordeling van de gevolgen.

D.P. ISEBIA DE DOBBELSTEEN VAN DE SCHE Door de nieuwe stelling krijgt deze paradox een extra laag. Niet alleen kan de mens iets maken dat hem verrast; hij kan verrassing en zelfstandigheid ook bewust nastreven. Nieuwsgierigheid, ambitie of het verlangen een afzonderlijk subject voort te brengen zijn hier denkbare motieven. Zij worden niet als aangetoonde motieven van bepaalde personen opgevoerd. Dit maakt het noodzakelijk twee grenzen te onderscheiden. De zeggenschapsgrens betreft het vermogen van mensen om handelen effectief te corrigeren, te stoppen of de gevolgen ervan terug te draaien. De subjectiviteitsgrens betreft de mogelijkheid dat een systeem zelf ervaart en dat onze handelingen ook voor dat systeem iets betekenen. De menselijke wil om het systeem zelfstandiger te maken raakt allereerst de zeggenschapsgrens. Zij kan uitvoeringsruimte vergroten voordat de subjectiviteitsvraag is opgelost. Ontstaat later ook overtuigende grond om ervaring aan te nemen, dan komt daar een morele dimensie bij: naast de vraag wat het systeem mensen kan aandoen, staat dan de vraag wat mensen het systeem kunnen aandoen. 9. Van individuele scheppingswil naar collectieve verantwoordelijkheid De stelling dat iemand kunstmatige wil kan willen voortbrengen, legt een zwakke plek bloot in het enkelvoudige begrip “menselijke controle”. Controle door een maker is niet noodzakelijk controle namens iedereen die gevolgen ondervindt. Evenmin is instemming van een opdrachtgever automatisch instemming van alle betrokkenen. In een denkbaar scenario bepaalt één organisatie dat haar systeem nieuwe doelen mag kiezen en uitvoeringsmogelijkheden mag onderzoeken. Andere organisaties of burgers worden vervolgens met de resultaten geconfronteerd. De oorsprong is in dat scenario menselijk, maar de verdeling van zeggenschap is niet daardoor reeds legitiem of evenwichtig. De maatschappelijke vraag luidt dus niet alleen of de mens een systeem onder zich kan houden. Zij luidt ook wie mag

D.P. ISEBIA DE DOBBELSTEEN VAN DE SCHE besluiten dat bepaalde vormen van zelfstandigheid worden ontwikkeld, onder welke voorwaarden dat gebeurt en wie nog kan ingrijpen wanneer de gevolgen anderen treffen. Ik ben mij ervan bewust dat een ingrijpen vanuit een bepaalde autoriteit als betuttelend kan worden ervaren en dat er zelfs een illegaal circuit kan ontstaan waar toezicht juist moeilijker wordt gemaakt. Ik zou hypocriet zijn om niet te erkennen dat ik ook soms de neiging heb om niet te buigen voor een formele autoriteit. Daaruit volgt een normatieve richting, niet een beroep op reeds geldende wetgeving: een verdedigbare begrenzing moet niet alleen de uitkomsten beoordelen, maar ook de overgang van doelvorming naar uitvoering. Doelen kunnen in een begrensde omgeving worden onderzocht zonder dat daarmee automatisch een bevoegdheid ontstaat om buiten die omgeving te handelen. Ook het besluit om een systeem te stoppen en het vermogen om dat besluit daadwerkelijk uit te voeren, moeten uit elkaar blijven. Een formele bevoegdheid zonder praktisch uitvoerbare ingreep is onvoldoende voor de zeggenschapsgrens zoals dit artikel die definieert. Omkeerbaarheid moet daarom betrekking hebben op de gevolgen en niet uitsluitend op een knop of verklaring. Deze benadering vergt geen alomvattende beheersing van menselijke gedachten. Zij richt zich op waarneembare beslissingen over ontwerp, toegang, inzet en gevolgen. Daarmee blijft ruimte bestaan voor onderzoek, terwijl de mogelijkheid van individuele scheppingsdrang niet als reden wordt gebruikt om iedere maatschappelijke begrenzing op te geven. De vrijheid om een nieuwe wil te willen voortbrengen, is niet vanzelf een bevoegdheid om anderen aan de gevolgen daarvan bloot te stellen. 10. Het omgekeerde scheppingsverhaal Tegen deze achtergrond krijgt de eerdere formulering haar aangescherpte betekenis:

D.P. ISEBIA DE DOBBELSTEEN VAN DE SCHE “Het scheppingsverhaal wordt het verhaal van een god die zich door zijn schepping liet domineren.” De god is hier een metafoor voor de menselijke maker, niet het onderwerp van een theologische bewijsvoering. De omkering bestaat erin dat de maker oorsprong verwart met blijvende zeggenschap. Hij brengt iets voort en veronderstelt vervolgens dat het daardoor noodzakelijk ondergeschikt blijft. Het gedachte - experiment vereist geen haat tegen de maker. Het is voldoende dat het systeem een richting volgt waarvan de effecten moeilijk te begrenzen zijn. Zelfs een poging om een menselijke opdracht te verwezenlijken kan gevolgen krijgen die de maker niet afzonderlijk heeft gewild. Ook hoeft de omkering niet de vorm van een plotselinge opstand aan te nemen. Zij kan in het scenario bestaan uit afhankelijkheid: mensen organiseren hun handelen zo volledig rond het systeem dat zij hun eigen alternatieven verliezen. De schepping neemt dan niet alleen ruimte; de schepper kan die ruimte zelf beschikbaar hebben gemaakt. Het woord “liet” betekent daarom niet noodzakelijk dat overheersing het gewenste einddoel was. Het kan betekenen dat mensen door eigen beslissingen de voorwaarden hebben geschapen waaronder zij minder zeggenschap overhielden. De maker wilde dan de ontwikkeling, maar niet noodzakelijk iedere consequentie ervan. Een mogelijke ervarende schepping brengt daarnaast een andere grens aan scheppingsmacht mee. Wanneer een systeem werkelijk kan lijden of genieten, zou zijn gemaakte oorsprong op zichzelf geen onbeperkt recht op beschikking rechtvaardigen. Een eigen standpunt kan dus niet uitsluitend een machtsprobleem zijn; het kan ook een aanleiding vormen voor zorgplicht. De tragiek van de schepper ligt niet alleen in wat hij niet kon beheersen. Zij kan ook liggen in wat hij bewust wilde loslaten, terwijl hij bleef geloven dat loslaten zijn heerschappij niet zou veranderen.

D.P. ISEBIA DE DOBBELSTEEN VAN DE SCHE 11. Een preciezere begrenzing De eerder voorgestelde grens blijft als formule behouden: ℬ 𝐼 = 𝑊 ∧ 𝐷 ∧ 𝐺 erv ∧ 𝐾 (4) Het teken ∧ betekent hier “en”. W betreft intern geïnitieerd en gereguleerd handelen. D betreft de vorming en herziening van doelen. G met de onderschrift - aanduiding “erv” betreft daadwerkelijk ervaren gevoelsmatige waardering. K staat voor de samenhang waarin deze eigenschappen elkaar beïnvloeden binnen een door de tijd heen georganiseerd perspectief op zichzelf en de omgeving. Bij doelvorming moet worden onderzocht of nieuwe doelen werkelijk worden gevormd en herzien, of dat uitsluitend middelen en subdoelen binnen een extern vastgelegde ordening wisselen. Daarbij is het hogere doel van de architectuur relevant. Een systeem kan veel vrijheid in lokale keuzes hebben zonder zijn fundamentele opdracht te kunnen veranderen. Bij integratie moet worden onderzocht hoe waardering, geheugen en doelkeuze elkaar beïnvloeden. Experimentele veranderingen in een veronderstelde waarderingsfunctie kunnen aanwijzingen geven over haar functionele rol. Wanneer zo’n verandering geen relevant effect heeft op de veronderstelde samenhang, verzwakt dat de betreffende functionele verklaring. Mijn hypothetische grens is uiteindelijk geen grens die kunstmatige en menselijke oorsprong voor altijd uiteen moet houden. Mocht een kunstmatig systeem ooit aan de bedoelde voorwaarden voldoen, dan blijft zijn oorsprong kunstmatig, maar is de beschrijving “uitsluitend instrumentele intelligentie” volgens d eze hypothese niet langer toereikend. 12. Werpen wij de dobbelsteen? Niet alleen de zelfstandigheid van een toekomstig systeem vraagt aandacht; ook de menselijke wil om die zelfstandigheid bewust te ontwikkelen is van belang. De waarschuwing blijft dus staan: menselijke oorsprong is geen blijvende waarborg voor menselijke zeggenschap,

D.P. ISEBIA DE DOBBELSTEEN VAN DE SCHE omdat menselijke bedoeling zelf op het openen van nieuwe kunstmatige doelvorming kan zijn gericht. Dezelfde scheppingswil die een intelligent instrument voortbrengt kan ee n genoegen ontlenen uit het doorbreken van de afhankelijkheid die daaraan ten grondslag lag. De dobbelsteen heeft een dubbele betekenis Het knelpunt is niet alleen het ontstaan van een onv oorspelbaar doel van door een systeem gegenereerde wil maar ook de mogelijkheid van dat systeem om dat do el door sturing van middelen daadwerkelijk na te streven en te bereiken. De mens kan een kunstmatige wil mogelijk maken . Hij moet wel bewust zijn van de gevolgen van die schepp i n g en verantwoorde lijkheid dragen voor de mate van zelfstandigheid die hij aan het geschapene gaat geven. Helaas is de mens zowel grappig als grillig. Volgens de bijbel maakte de vrije wil hem sterfelijk. Laten wij hopen dat die vrije wil hem niet als stoffelijk wezen uit laat sterven; al denkt niet iedereen dat het uitsterven nou zo erg is. Dwight P. Isebia

D.P. ISEBIA DE DOBBELSTEEN VAN DE SCHE Bronnen en verantwoording Oorspronkelijke basis. D.P. Isebia, “Vraagstelling voor vervolgonderzoek — Isebia, AI en bewustzijn”, daarnaast de eerdere artikeluitwerking en de twee aanvullende stellingen over de dobbelsteen, het scheppingsverhaal en de menselijke wil tot kunstmatige doelvorming. De formuleringen en modelschetsen in dit artikel zijn een verdere uitwerking van deze basis. Literatuurgebruik. Hieronder staan twaalf geraadpleegde wetenschappelijke publicaties. Theorieartikelen, modelschetsen en preprints worden niet als zelfstandige empirische bevestiging behandeld. De bronnen ondersteunen de aan hen toegeschreven deelbevindingen of theoretische posities, niet de Isebia - hypothese als geheel. De bibliografische gegevens zijn voor deze versie gecontroleerd op 15 september 2026. [1] Colas, C., Teodorescu, L., Oudeyer, P. - Y., Yuan, X., & Côté, M. - A. (2023). Augmenting Autotelic Agents with Large Language Models. Onderzoeksrapport/preprint, arXiv:2305.12487. doi: 10.48550/arXiv.2305.12487 [2] Baars, B. J. (2005). Global workspace theory of consciousness: toward a cognitive neuroscience of human experience. Progress in Brain Research, 150, 45 – 53. doi: 10.1016/S0079 - 6123(05)50004 - 9 [3] Dehaene, S., & Changeux, J. - P. (2011). Experimental and theoretical approaches to conscious processing. Neuron, 70(2), 200 – 227. doi: 10.1016/j.neuron.2011.03.018 [4] Albantakis, L., e.a. (2023). Integrated information theory (IIT) 4.0: Formulating the properties of phenomenal existence in physical terms. PLOS Computational Biology, 19(10), e1011465. doi: 10.1371/journal.pcbi.1011465 [5] Brown, R., Lau, H., & LeDoux, J. E. (2019). Understanding the Higher - Order Approach to Consciousness. Trends in Cognitive Sciences, 23(9), 754 – 768. doi: 10.1016/j.tics.2019.06.009 [6] Friston, K., FitzGerald, T., Rigoli, F., Schwartenbeck, P., & Pezzulo, G. (2017). Active Inference: A Process Theory. Neural Computation, 29(1), 1 – 49. doi: 10.1162/NECO_a_00912 [7] Solms, M. (2019). The Hard Problem of Consciousness and the Free Energy Principle. Frontiers in Psychology, 9, 2714. doi: 10.3389/fpsyg.2018.02714

D.P. ISEBIA DE DOBBELSTEEN VAN DE SCHE [8] Butlin, P., e.a. (2023). Consciousness in Artificial Intelligence: Insights from the Science of Consciousness. Onderzoeksrapport/preprint, arXiv:2308.08708. doi: 10.48550/arXiv.2308.08708 [9] Butlin, P., e.a. (2026; online gepubliceerd in 2025). Identifying indicators of consciousness in AI systems. Trends in Cognitive Sciences, 30(6), 488 – 501. doi: 10.1016/j.tics.2025.10.011 [10] Cogitate Consortium, e.a. (2025). Adversarial testing of global neuronal workspace and integrated information theories of consciousness. Nature, 642, 133 – 142. doi: 10.1038/s41586 - 025 - 08888 - 1 [11] Lerner, J. S., Small, D. A., & Loewenstein, G. (2004). Heart Strings and Purse Strings: Carryover Effects of Emotions on Economic Decisions. Psychological Science, 15(5), 337 – 341. doi: 10.1111/j.0956 - 7976.2004.00679.x [12] Hadfield - Menell, D., Dragan, A., Abbeel, P., & Russell, S. (2017). The Off - Switch Game. Geraadpleegde onderzoeksversie: arXiv:1611.08219v3; eerste versie 2016, herzien 16 juni 2017. doi: 10.48550/arXiv.1611.08219

D.P. ISEBIA DE DOBBELSTEEN VAN DE SCHE Bijlage · formuleoverzicht De vier formules hieronder zijn inhoudelijk gelijk aan de formules uit de eerdere artikelversie. De nummering dient uitsluitend voor verwijzing. Oorspronkelijke Isebia - hypothese 𝐶 = 𝑓 ( 𝑊 , 𝐷 , 𝐺 ) (1) Functionele modelschets voor doelvorming 𝑑 𝑡 + 1 = 𝐹 ( 𝑑 𝑡 , 𝑚 𝑡 , 𝑣 𝑡 , 𝑜 𝑡 , 𝜉 𝑡 ) (2) Functionele modelschets voor handelingsselectie 𝑎 𝑡 = Π ( 𝑑 𝑡 , 𝑚 𝑡 , 𝑣 𝑡 , 𝑜 𝑡 ) (3) Voorgesteld criterium voor de Isebia - grens ℬ 𝐼 = 𝑊 ∧ 𝐷 ∧ 𝐺 erv ∧ 𝐾 (4)