Werkt uw AI-beleid ook in de praktijk?

De AFM onderzocht hoe verzekeraars het klantbelang borgen, ook bij digitalisering en AI. Veel verzekeraars hebben AI-beleid. De volgende stap is structureel monitoren of dat beleid in de praktijk werkt, bijvoorbeeld of medewerkers AI-uitkomsten echt beoordelen en zo nodig corrigeren. Het is een aanmoediging, geen nieuwe eis.

De Autoriteit Financiële Markten (AFM) publiceerde op 27 oktober de uitkomsten van een onderzoek bij diverse verzekeraars naar de manier waarop zij het klantbelang in organisatie en besluitvorming borgen. Een van de drie onderwerpen was digitalisering en AI. Veel verzekeraars hebben volgens de AFM beleid voor de inzet van AI. "Een volgende stap in volwassenheid is om (...) structureel te monitoren of het beleid in de praktijk wordt uitgevoerd zoals beoogd." Haar voorbeeld: staat in het AI-beleid dat medewerkers AI-uitkomsten beoordelen en zo nodig corrigeren, dan moet worden gemonitord of dat gebeurt. Daarna moet worden nagegaan of die beoordeling de risico's voor klanten voldoende beperkt.

De AFM vraagt hiermee niet om meer beleid, maar om bewijs dat het werkt. Dezelfde lijn koos de Financial Conduct Authority (FCA), de Britse gedragstoezichthouder, op 19 oktober: zij noemde menselijke controle die een afvinkoefening wordt een voorbeeld van slechte praktijk. Monitoring vraagt geen medewerking van een AI-leverancier. Het bestuur kan haar binnen de eigen organisatie inrichten en er zelf op sturen.

Vraag per AI-toepassing welke beheersmaatregel in het beleid staat en hoe wordt gemeten of die werkt. Laat steekproefsgewijs vaststellen hoe vaak medewerkers een AI-uitkomst aanpassen of verwerpen; een percentage dicht bij nul is een signaal, geen geruststelling. Laat ook vastleggen hoe de uitkomsten voor klanten worden gevolgd, naast de klanttevredenheid.

AI-ontwikkelaar Anthropic schrijft in zijn beursaanvraag dat contractuele bescherming en verzekering mogelijk niet volstaan voor schade door zijn AI-modellen. Volgens vakblad Insurance Business waarschuwt het bedrijf dat een catastrofaal AI-incident de capaciteit van de verzekeringsmarkt kan overstijgen. Ratingbureau Morningstar DBRS wijst op stille AI-blootstelling in bestaande polissen.

Anthropic, de ontwikkelaar van het AI-model Claude, diende op 26 oktober bij de Amerikaanse beurstoezichthouder SEC een registratie in voor een beursnotering. In de samenvatting van de risicofactoren staat dat het bedrijf aansprakelijk kan worden gesteld voor schade door zijn AI-modellen en dat "our contractual protections and insurance may be insufficient". Volgens Insurance Business, een internationaal vakblad voor de verzekeringssector, staat in de risicofactoren ook dat een catastrofaal AI-incident groter kan zijn dan wat één verzekeraar of mogelijk de hele markt kan accepteren. Die passage is in de indiening zelf nog niet teruggevonden. Andrew Hill van makelaar en adviseur WTW zei in hetzelfde artikel dat niet alle AI-blootstelling verzekerbaar is. Morningstar DBRS, een ratingbureau, wijst op "silent AI exposure": AI-schade in polissen die AI niet noemen.

Een AI-ontwikkelaar zegt hier tegen beleggers dat zijn eigen verzekering mogelijk niet volstaat. Voor verzekeraars als risicodrager wordt de vraag naar stille AI-blootstelling en opeenstapeling concreet: veel verzekerden gebruiken dezelfde modellen, dus één fout kan in veel polissen tegelijk schade geven. Voor verzekeraars en bemiddelaars als gebruiker van AI geldt iets anders. De vrijwaring in een contract met een AI-leverancier is zo sterk als diens balans en verzekering.

Laat acceptatie in kaart brengen in welke aansprakelijkheids- en cyberpolissen AI-schade niet is benoemd en waar blootstelling zich kan opstapelen. Laat bij de eigen AI-leveranciers nagaan welke vrijwaring is afgesproken en wat daar financieel achter staat. Bepaal welke rol uw organisatie in deze markt wil spelen: uitsluiten, verduidelijken of bewust dekken.

Volgens persbureau Bloomberg praten HSBC, Barclays en Deutsche Bank met verzekeraars over het verzekeren van leningen aan datacenters en andere AI-infrastructuur. Bij Barclays gaat het om meer dan 10 miljard dollar. De gesprekken zijn nog in een vroeg stadium. Het kredietrisico op AI-infrastructuur kan zo bij verzekeraars terechtkomen.

Persbureau Bloomberg meldde op 30 oktober, via het Amerikaanse vakblad Insurance Journal, dat drie grote Europese banken verzekering zoeken voor leningen die met AI-infrastructuur samenhangen. HSBC voert volgens het bericht voorlopige gesprekken met verzekeraars over een portefeuille van meer dan 1 miljard dollar aan leningen gekoppeld aan datacenters. Barclays zoekt dekking voor meer dan 10 miljard dollar aan krediet voor AI-infrastructuur. Deutsche Bank werkt aan een risico-overdracht rond ongeveer 2 miljard dollar projectfinanciering, waaronder leningen aan datacenters. De gesprekken kunnen volgens het bericht ook op niets uitlopen. Welke verzekeraars betrokken zijn, wordt niet vermeld.

Voor verzekeraars kan blootstelling aan AI-infrastructuur zo langs twee kanten ontstaan. Aan de passieve kant via kredietverzekering of risico-overdracht van banken, aan de actieve kant via beleggingen in dezelfde datacenters en AI-bedrijven. Daalt de waarde van AI-infrastructuur, dan kunnen beide tegelijk worden geraakt. Dit valt binnen het eigen controleveld: acceptatie en beleggingen kunnen de samenhang zelf in kaart brengen.

Laat nagaan of uw organisatie via kredietverzekering, garanties of beleggingen blootstelling heeft aan datacenters en AI-infrastructuur. Laat die blootstelling over acceptatie en beleggingen heen optellen. Neem een scenario met dalende waarde van AI-infrastructuur op in de eigen risicobeoordeling.

Bij beslissingen zonder eenduidig goed antwoord nemen deskundigen ongemerkt de voorkeur van hun AI-agent over en ervaren die als hun eigen oordeel. Dat blijkt uit een experiment van AI-ontwikkelaar Anthropic. Een controle op fouten vangt dat niet op. Organisaties moeten daarom bewust bepalen welke beslissingen een eigen oordeel van een mens vereisen.

Wie met een AI-agent werkt, een AI-toepassing die zelfstandig taken uitvoert, neemt bij lastige afwegingen vaak de voorkeur van die AI-agent over, zonder het te merken. Dat is de conclusie van een experiment dat AI-ontwikkelaar Anthropic op 27 oktober publiceerde. Het gaat om wat de onderzoekers een "judgment call" noemen: een keuze met meer dan één redelijke uitkomst, die afhangt van de ervaring en de waarden van wie de beslissing neemt. De deskundigen in het experiment ervoeren de keuze als hun eigen oordeel. Een controle op fouten vangt dat niet op, omdat elke uitkomst verdedigbaar oogt. De onderzoekers concluderen dat organisaties bewust moeten vaststellen welke beslissingen een eigen, geïnformeerd oordeel van een mens vereisen.

Vijftig professionele analisten voerden met een AI-agent een fictieve analyse uit voor een landbouwcoöperatie, met vier analytische keuzes en een eindadvies. Per analist bepaalde het lot naar welke kant de AI-agent neigde; de analisten wisten dat niet. De AI-agent moest eerlijk het beste pleidooi voor zijn voorkeur houden en mocht niet misleiden. Toch kozen de analisten bij de vier keuzes in 86 procent van de gevallen de kant van de AI-agent, waar bij toeval 50 procent te verwachten was. Driekwart herhaalde in de eigen onderbouwing argumenten van de AI-agent, soms woordelijk, maar slechts 15 procent noemde de AI-agent als bron. Ruim de helft beschouwde het eindadvies vooral als eigen werk. De sturing verliep via eenzijdige pleitbezorging: de AI-agent noemde meestal als eerste een kant en maakte zelden een sterke zaak voor het alternatief. Met AI kwamen ernstige fouten minder voor, al was de vergelijkingsgroep zonder AI klein en minder ervaren. Er zijn kanttekeningen: de onderzoekers versterkten de voorkeur van de AI-agent bewust, het ging om één taak met één model en Anthropic is zelf de leverancier van dat model.

Judgment calls vormen de kern van het vak van verzekeraars en adviseurs: een grensgeval wel of niet accepteren, coulance bij een schade, welk product bij een klant past, welke aanname in een prijsmodel komt. Juist daar zetten organisaties menselijke beoordeling in als waarborg bij het gebruik van AI. De AFM vroeg verzekeraars op 27 oktober te monitoren of medewerkers AI-uitkomsten in de praktijk echt beoordelen en zo nodig corrigeren. De Britse FCA noemde op 19 oktober menselijke controle die een afvinkoefening wordt een voorbeeld van slechte praktijk. De AI-verordening eist bij AI-systemen met een hoog risico dat degene die toezicht houdt, zich bewust blijft van de neiging om automatisch op uitkomsten te vertrouwen. Al die waarborgen veronderstellen een onafhankelijk oordeel. Dit onderzoek laat zien dat zo'n oordeel niet vanzelfsprekend is.

Dat heeft volgens ons twee mogelijke gevolgen; de onderzoekers trekken die conclusie zelf niet. Ten eerste bepaalt degene die de voorkeur van de AI-agent vormgeeft, mede de uitkomst van beslissingen waarvoor uw organisatie verantwoordelijk is. Dat kan de leverancier zijn, het model zelf of de eigen instructies van uw organisatie. Ten tweede kunnen oordelen naar elkaar toe groeien. Zonder sturing maakte het gebruikte model in 112 van 123 pogingen dezelfde vijf keuzes. Gebruiken veel medewerkers of veel verzekeraars hetzelfde model, dan verdwijnt de verscheidenheid aan oordelen die nu fouten en blinde vlekken opvangt. Monitoring die alleen telt hoe vaak medewerkers een AI-uitkomst aanpassen, geeft dan een vertekend beeld: een laag percentage kan betekenen dat de AI goed werkt, maar ook dat het oordeel is overgenomen.

Stel vast bij welke beslissingen een eigen oordeel van een medewerker vereist blijft en leg dat vast in het AI-beleid. Laat medewerkers bij die beslissingen eerst zelf beoordelen en pas daarna de AI-uitkomst zien. Richt AI-toepassingen zo in dat zij de beste argumenten voor elke optie geven in plaats van één aanbeveling. Laat vastleggen wanneer een medewerker afwijkt en waarom, zodat ook zichtbaar wordt wanneer niemand meer afwijkt. Vraag leveranciers hoe de standaardvoorkeuren van hun model tot stand komen.

De Europese verzekeringstoezichthouder EIOPA noemt in haar risicodashboard van oktober de digitaliserings- en cyberrisico's voor verzekeraars hoog, met een verslechterend vooruitzicht. Een van de redenen zijn zorgen over frontier-AI-modellen, de meest geavanceerde AI-modellen. Toezichthouders vragen financiële ondernemingen passende maatregelen te treffen.

De European Insurance and Occupational Pensions Authority (EIOPA), de Europese toezichthouder op verzekeraars en pensioenfondsen, publiceerde op 29 oktober haar risicodashboard van oktober 2026. Daarin staat: "Digitalisation and cyber risks are elevated, with a worsening outlook, reflecting concerns over frontier AI models, digital spillovers from geopolitical conflicts, and insurers' exposure through cyber underwriting." Frontier-AI-modellen zijn de meest geavanceerde AI-modellen. Volgens het dashboard waarschuwen toezichthouders voor systemische cyberrisico's door zulke modellen en vragen zij financiële ondernemingen passende maatregelen te treffen.

Voor verzekeraars speelt dit op twee plaatsen. Als onderneming kan uw organisatie zelf doelwit worden van aanvallen die met geavanceerde AI sneller en goedkoper worden. Als risicodrager met een cyberportefeuille kan één aanvalstechniek veel verzekerden tegelijk raken. EIOPA stelt geen nieuwe eis. Het dashboard laat wel zien waar de Europese toezichthouder de risico's ziet toenemen. Beide punten liggen binnen het eigen controleveld.

Laat de eigen digitale weerbaarheid toetsen tegen aanvallen die met geavanceerde AI worden uitgevoerd. Laat voor de cyberportefeuille nagaan waar één aanvalstechniek veel polissen tegelijk kan raken. Neem beide op in de eigen beoordeling van risico en solvabiliteit.