Robots in de boardroom?

Artificial intelligence verovert de wereld in snel tempo. Hebben er straks nog wel commissarissen van vlees en bloed zitting in de bestuurskamer?

Kan een device voor artificial intelligence (AI) ook functioneren als board member? Zou een raad van commissarissen niet uit bijvoorbeeld vier mensen kunnen bestaan, maar uit drie commissarissen van vlees en bloed én een ai-device? Pauline van der Meer Mohr, meervoudig commissaris en oud-voorzitter van de Monitoring Commissie Corporate Governance Code, zou geen bezwaar hebben tegen een raad die een ai device ‘in dienst’ heeft, vertelde ze in een interview voor het blad Management Scope. ‘Ik sluit het helemaal niet uit en eigenlijk ben ik er ook niet bang voor. Vanuit boardperspectief zou zoiets heel waardevol kunnen zijn, bijvoorbeeld om snel een antwoord te krijgen op complexe vragen. Een virtuele collega, waarom niet? Ik zie ai helemaal niet als een bedreiging, al zullen we natuurlijk wel moeten zorgen voor duidelijke regels, bijvoorbeeld omtrent ethisch gebruik.’

Informatievergaring en verslaglegging met AI  

De opkomst van AI heeft een sterke invloed op de rol als commissaris, aldus Van der Meer Mohr, in hetzelfde interview:  

‘Ik merk dat alle boards hier volop mee bezig zijn. Er zijn vrijwel overal extra sessies of trainingen over dit onderwerp. Dat gaat in eerste instantie overigens vooral over de vraag wat ai betekent of kan betekenen voor het bedrijf. Hoe het nu al tot meer efficiëntie leidt en straks op heel veel manieren waarde zal gaan creëren. Over de mogelijkheden, de kosten en de risico’s van ai. Als je kijkt naar het werk in de board an sich, staan we echt nog maar aan het begin van de mogelijkheden die ai te bieden heeft. Ik vermoed dat het boardwerk over vijf à tien jaar totaal anders zal zijn, al laat het zich nog moeilijk voorspellen welke kant het precies opgaat. Maar alleen al het werk van de corporate secretary zal door ai volkomen veranderen. Ai zal een grote rol gaan spelen op het gebied van verslaglegging, informatievergaring en kwaliteit van de beschikbare analyses en scenario’s.’

Wat zegt de code?

AI wordt ook genoemd in de Nederlandse Corporate Governance Code, die door de Monitoring Commissie onder leiding van Van der Meer Mohr geactualiseerd werd. Allereerst in de toelichting bij het centrale begrip duurzame langetermijnwaardecreatie (principe 1.1):    

‘Eveneens verlangt duurzame lange termijn waardecreatie bewustzijn van en anticiperen op ontwikkelingen in nieuwe technologieën en veranderingen in business modellen en daaraan verbonden risico’s waaronder cybersecurity, leveranciers- en ketenafhankelijkheden, data protectie en ethisch verantwoorde toepassing van nieuwe technologieën (bijvoorbeeld ‘Responsible AI’).’

En verder bij risicobeoordeling (best practice 1.2.1):

‘Het bestuur inventariseert en analyseert de risico’s die verbonden zijn aan de strategie en de activiteiten van de vennootschap en de met haar verbonden onderneming. De inventarisatie en  analyse dekt in ieder geval de strategische, operationele, compliance en verslaggevingsrisico’s. Het bestuur stelt de risicobereidheid vast en besluit welke maatregelen tegenover de risico’s worden gezet.

Voorbeelden van strategische, operationele, compliance en verslaggevingsrisico’s zijn risico’s als klimaatverandering, sociale ongelijkheid, fiscale risico’s, frauderisico’s, witwasrisico’s en risico’s van informatie- en communicatietechnologie (waaronder op het gebied van cybersecurity, leveranciers- en ketenafhankelijkheden, data protectie en risico’s verbonden aan nieuwe technologieën en veranderende businessmodellen, zoals op het gebied van ethisch verantwoorde toepassing van nieuwe technologieën (bijvoorbeeld Responsible AI)).’

Kansen en risico’s

Aan de ene kant is nieuwe technologie – waaronder AI – dus een voorwaarde voor langetermijnwaardecreatie en het voortbestaan van de organisatie op de lange termijn. Aan de andere kant kunnen de risico’s van nieuwe technologie de continuïteit van de organisatie juist bedreigen. Het is aan de commissaris of erop te zien dat het bestuur openstaat voor de kansen, maar de risico’s ervan mitigeert.

Strategisch belang digitalisering onderschat…

Dan moet je wel voldoende kennis hebben van een ontwikkeling als digitalisering en juist daar schort het nogal eens aan in de bestuurskamer. Zo wordt het strategisch belang van digitale transformatie vaak onderschat. De helft van de top van het Nederlandse bedrijfsleven en de publieke sector heeft slechts op hoofdlijnen een beeld van de impact van de digitale transformatie op hun organisatie, kwam naar voren uit Je gaat het pas zien als je het doorhebt. 1-meting digitale transformatie in boardrooms in Nederland, een onderzoek dat in de tweede helft van 2021 werd uitgevoerd in opdracht van NR Governance in samenwerking met VNO-NCW, CIO Platform Nederland, NLdigital en Microsoft.

… kennis overschat

Dat het in de boardrooms niet opschiet met digitalisering lijkt zijn oorzaak te vinden in een structurele overschatting van de eigen kennis en kunde op dit gebied, suggereert het onderzoek. Ook bleek digitale transformatie maar bij 17% van de besturen en raden van commissarissen/toezichthouders vast op de agenda te staan. De overall conclusie: de top van organisaties is wel bezig met digitalisering, maar doet dit met een te beperkte blik. Hierdoor bestaat het gevaar dat strategische kansen en risico’s onbesproken blijven in de boardrooms in Nederland.

Toezicht houden met een chatbox

We zijn inmiddels twee jaar verder. De huidige stand van zaken zou in een mooie aanleiding zijn voor een nieuw onderzoek. De ontwikkelingen gaan zo snel dat commissarissen waarschijnlijk moeite hebben om die te kunnen bijbenen. We hebben het inmiddels niet meer alleen over AI, maar over generatieve AI, met ChatGPT als bekendste voorbeeld. Het is nog maar een jaar geleden dat de chatbox werd geïntroduceerd, maar iedereen sprong er meteen bovenop, zowel bedrijven als particuliere gebruikers. Een kans om sneller, met minder menskracht en dus goedkoper door het stellen van een simpele vraag content te genereren! Een virtuele collega voor Van der Meer Mohr en de rest van de commissarissen- en toezichthoudersgemeenschap ‘om snel antwoord te krijgen op complexe vragen’. Al is daar nog wel wat op af te dingen, want hoe kwalitatief, onafhankelijk, onbevooroordeeld en betrouwbaar zijn de antwoorden die ChatGPT geeft? Toezicht op basis van de informatie van een nog niet uitontwikkelde chatbox kan ook gevaarlijk zijn.    

Boardpacks razendsnel doornemen

ChatGPT zou kenniswerkers als journalisten en advocaten in de toekomst overbodig kunnen maken. En met hetzelfde gemak zouden wellicht ook commissarissen kunnen vervangen door een chatbox of door robots. Niet één, als virtuele collega, maar de héle raad. Het bestuur kan dan beschikken over toezichthouders die 24/7 beschikbaar zijn en meteen reageren op voorgelegde vragen en dilemma’s. Die boardpacks van duizenden pagina’s vlak voor de vergadering razendsnel kunnen doornemen. Die het ‘Verslag van de raad van commissarissen’ in het jaarverslag met één druk op de knop genereren.    

Computer says no

Maar zo’n robotraad kan het bestuur ook confronteren met een computer says no om onduidelijke redenen. Of juist met een go door toepassing van een algoritme, terwijl een remmende rol van de commissarissen een stuk verstandiger was geweest. Robots, algoritmes en chatboxen zijn goed in het snel verwerken van grote hoeveelheden data, maar ze missen (vooralsnog) twee competenties: verbindend vermogen en ethische afwegingen maken. Een virtuele collega in de raad kan inderdaad een goed idee zijn, niet als vervanging, maar als uitbreiding. Mits, zoals Van der Meer Mohr betoogt, er duidelijke regels zijn voor het (ethisch) gebruik ervan. Maar voor het afwegen van de belangen van alle stakeholders en het omgaan met ethische dilemma’s is en blijft (voorlopig) het menselijk brein nodig. Commissarissen van vlees en bloed in plaats van toezichtrobots.