Veel AI, weinig zicht erop.

De Eerste Kamer heeft geen vragen over het wetsvoorstel dat software en AI-systemen onder productaansprakelijkheid brengt. Zij doet het op 10 november zonder debat af; dat is de laatste parlementaire stap. De Europese omzettingstermijn verloopt op 9 december 2026.

In editie 25 meldde deze Digest dat de Eerste Kamer wetsvoorstel 36906 op 10 november wilde afdoen, tenzij een lid uiterlijk 3 november om schriftelijke behandeling vroeg. Dat verzoek is niet gekomen. Volgens de procedurepagina van de Eerste Kamer bracht de commissie voor Justitie en Veiligheid op 3 november een blanco verslag uit. Het voorstel wordt op 10 november als hamerstuk afgedaan, dus zonder debat; de Tweede Kamer deed dat op 15 oktober. Het voorstel zet de Europese productaansprakelijkheidsrichtlijn om. Software, inclusief AI-systemen, geldt daarin als product. Bij een gebrek is de producent aansprakelijk zonder dat schuld hoeft te worden aangetoond. De richtlijn moet uiterlijk 9 december 2026 zijn omgezet.

Hiermee staat de inhoud vast. Als risicodrager krijgt uw organisatie te maken met aansprakelijkheidspolissen van softwareleveranciers en van bedrijven die AI-systemen inzetten, onder een ruimer productbegrip. Als gebruiker van AI geldt iets anders. Tegenover een benadeelde kan een producent zijn aansprakelijkheid niet bij contract beperken; afspraken met een AI-leverancier regelen alleen wie de schade uiteindelijk draagt. Biedt uw organisatie klanten een eigen app of online hulpmiddel aan, dan kan zij daarvoor zelf als producent worden aangesproken, bijvoorbeeld als gegevens van een particuliere klant verloren gaan.

Laat na 10 november bevestigen dat de wet is aangenomen en volg de datum van inwerkingtreding, die bij koninklijk besluit wordt vastgesteld. Laat Acceptatie vaststellen of voorwaarden en premies van de geraakte aansprakelijkheidsportefeuilles daarop zijn ingericht. Laat daarnaast in kaart brengen welke eigen digitale toepassingen klanten gebruiken en welke afspraken met leveranciers bepalen wie een schade draagt.

De Autoriteit Financiële Markten (AFM) ziet dat adviseurs, bemiddelaars en volmachten AI vaak gebruiken zonder expliciet AI-beleid. Soms zit AI in ingekochte software zonder dat het bedrijf dat weet. De AFM vindt AI-beleid nodig; de adviseur of bemiddelaar blijft zelf verantwoordelijk voor advies en bemiddeling op basis van de uitkomst.

De AFM publiceerde op 4 november haar rapport Sector in beeld financieel dienstverleners, gericht op adviseurs, bemiddelaars en volmachten. De bevindingen over AI komen uit gesprekken en bezoeken; het rapport noemt geen aantal deelnemers en geen percentages. Volgens de AFM gebruiken deze bedrijven AI vooral voor interne processen, met name voor samenvattingen en gespreksverslagen. "Vaak gebeurt dit zonder expliciet AI-beleid." Er is ook software "waarin AI-functionaliteiten zijn verwerkt zonder dat het inkopende bedrijf daarvan op de hoogte is". Kleinere partijen zijn "in grote mate afhankelijk" van wat softwareleveranciers aan AI aanbieden. De AFM waarschuwt voor "knutsel AI-toepassingen" zonder de nodige controles. Zij vindt het nodig dat bedrijven AI-beleid opstellen, met kennis bij medewerkers, transparantie naar klanten en betrouwbare data. De bemiddelaar "blijft altijd zelf verantwoordelijk" voor advies en bemiddeling op basis van de uitkomst.

Het rapport stelt geen nieuwe norm; het gaat om de bestaande zorgplicht en beheerste bedrijfsvoering. In editie 26 meldde deze Digest dat de AFM verzekeraars vroeg te monitoren of hun AI-beleid in de praktijk werkt. Nu richt zij zich op de keten van bemiddelaars en volmachten. Zonder beleid kan uw organisatie bij een fout moeilijk laten zien dat AI beheerst is ingezet. AI die ongemerkt met software is meegekomen, valt buiten elke controle. Voor verzekeraars kan de volmachtketen daardoor een aandachtspunt bij uitbesteding worden.

Laat vaststellen of uw organisatie een AI-beleid heeft. Is dat er niet, laat het dan opstellen. Laat inventariseren in welke bestaande software AI-functies zitten, zoals offerte-, klantbeheer- en gespreksverslagsystemen, op basis van wat leveranciers zelf publiceren. Laat vastleggen hoe medewerkers AI-uitkomsten controleren voordat die in een advies terechtkomen. Voor kleinere partijen kan de branche een collectieve route bieden.

De Bank of England en de Britse gedragstoezichthouder Financial Conduct Authority (FCA) publiceerden op 26 oktober een enquête onder 196 financiële instellingen. Van de verzekeraars die antwoordden, gebruikt 93 procent AI. Bij AI van leveranciers vertrouwt het merendeel van alle respondenten op toezeggingen en contracten, niet op eigen kennis van de werking.

De Bank of England (de Britse centrale bank) en de FCA publiceerden op 26 oktober hun vierde enquête naar AI in de Britse financiële sector. Van de verzekeraars die antwoordden, gebruikt 93 procent AI; een doorsnee verzekeraar heeft 18 AI-systemen in gebruik. Van de respondenten meldde 80 procent AI-agenten in gebruik die beslissingen ondersteunen; 2 procent zet AI-agenten in met ruime zelfstandigheid. Van de gemelde systemen komt 39 procent van derde partijen. De drie grootste aanbieders van cloud- en rekencapaciteit zijn goed voor 79 procent van de gemelde leveranciersrelaties; bij aanbieders van AI-modellen is dat 54 procent. Bij zelf ontwikkelde systemen steunt 77 procent van de respondenten op grondige eigen kennis; bij systemen van derden is dat 24 procent. Bij die systemen vertrouwt 81 procent op toezeggingen en contracten van de leverancier. Lewis Silkin, een Brits advocatenkantoor, ziet dat de controles vóór ingebruikname sterker zijn dan die daarna. Slechts een minderheid had een exitplan getest.

Het is een Britse casus, maar de les is overdraagbaar: ook de Europese regels voor digitale weerbaarheid (DORA) en de verwachtingen van de Europese verzekeringstoezichthouder (EIOPA) vragen dat uw organisatie de risico's van ingekochte technologie zelf beheerst. In editie 26 meldde deze Digest dat de Autoriteit Financiële Markten (AFM) verzekeraars vraagt te monitoren of hun AI-beleid in de praktijk werkt. Bij AI van leveranciers kan dat lastig zijn als uw organisatie vooral op toezeggingen vertrouwt. Een toezegging laat niet zien dat een toepassing in uw organisatie werkt zoals bedoeld.

Laat per ingekochte AI-toepassing vastleggen wat uw organisatie zelf van de werking kan nagaan en wat alleen op de toezegging van de leverancier rust. Laat voor de belangrijkste toepassingen een exitplan opstellen en testen. Weeg bij nieuwe aankopen mee wat leveranciers publiek over hun AI bekendmaken.

Consumenten laten hun klacht vaker door een AI-chatbot schrijven. Bij de Britse geschilleninstantie voor financiële diensten leidt dat tot lange brieven met veel fouten. De instantie belt daarom vaker zelf met consumenten.

Volgens Insurance Business, een internationaal vakblad voor de verzekeringssector, belt de Financial Ombudsman Service (FOS), de Britse geschilleninstantie voor financiële diensten, vaker met consumenten. De reden: door AI geschreven klachten zijn lang en bevatten vaak fouten. Het vakblad meldde dit op 27 oktober. In één zaak waren 37 van de 39 verwijzingen onjuist. In een kleine steekproef leek tot een derde van de reacties op voorlopige oordelen van de FOS door AI opgesteld of sterk ondersteund. De FOS behandelde in het eerste halfjaar 110.500 zaken, waarvan 25.800 over verzekeringen. Sinds 1 oktober heeft zij nieuwe bevoegdheden om klachten af te wijzen. De eigen publicatie van de FOS is niet ingezien; de cijfers komen uit het vakblad.

Het is een Britse casus, maar de les is overdraagbaar naar Nederland, waar het Klachteninstituut Financiële Dienstverlening (Kifid) een vergelijkbare rol heeft. Nederlandse cijfers zijn niet gevonden. AI aan de kant van de klant kan uw klachten- en schadeafdeling meer lees- en uitzoekwerk opleveren, terwijl zorgplicht en termijnen gelijk blijven. Een lange brief met onjuiste verwijzingen kan een terechte klacht verbergen. Wie zo'n klacht op de vorm beoordeelt, kan het klantbelang uit het oog verliezen.

Vraag de klachtenafdeling of zij door AI geschreven klachten al herkent en hoe vaak. Laat vastleggen hoe medewerkers de feiten in zo'n klacht nagaan zonder haar om de vorm af te wijzen, bijvoorbeeld door de klant te bellen. Laat ook nagaan of de termijnen haalbaar blijven als klachten langer worden.