Van regelgeving naar handhaving

Duitsland activeerde op 29 juli 2026 een nationale wet die toezichthouder Bafin bevoegdheid geeft om AI-systemen bij banken en verzekeraars te controleren en te beboeten. Deze sanctiebevoegdheid vloeit voort uit de combinatie van de EU AI-verordening en de nationale implementatiewet. Transparantieverplichtingen gelden al vanaf nu. Toezicht op AI bij acceptatie en kredietbeoordeling volgt vanaf december 2027.

Duitsland activeerde op 29 juli 2026 het KI-MIG, de nationale uitvoeringswet van de Europese AI-verordening. Daarmee kreeg toezichthouder Bafin een wettelijk mandaat om toezicht te houden op AI-systemen bij banken en verzekeraars. Deze sanctiebevoegdheid ontstaat niet uit het KI-MIG alleen: de EU AI-verordening stelt de inhoudelijke normen en boetemaxima Unie-breed vast, het KI-MIG is de nationale wet die Bafin als handhaver aanwijst en operationaliseert. Transparantieverplichtingen, zoals de herkenbaarheid van chatbots en het verbod op bepaalde AI-praktijken worden vanaf nu gecontroleerd. Volledig toezicht op AI-systemen voor kredietwaardigheidsbeoordeling en risicobeoordeling in levens- en zorgverzekering volgt pas vanaf 2 december 2027.

Voor uw bestuur betekent dit dat AI-toezicht niet langer een aangekondigde verplichting is, maar een geactiveerde bevoegdheid met boetemacht. Heeft uw organisatie activiteiten of een vergunning in Duitsland, dan valt u nu al onder actief markttoezicht voor transparantie en verboden praktijken. Voor Nederlandse verzekeraars zonder Duitse activiteiten is dit een concrete indicatie van het tempo waarmee DNB en AFM een vergelijkbaar mandaat zullen invullen.

Laat vaststellen of uw organisatie AI-systemen inzet die onder Duits toezicht vallen en vraag uw compliance-functie een overzicht te maken van welke AI-toepassingen nu al aan transparantieverplichtingen moeten voldoen, vooruitlopend op vergelijkbaar Nederlands toezicht.

Na het OpenAI-incident bij Hugging Face maakte ook Anthropic bekend dat eigen onderzoek drie gevallen vond waarin Claude-modellen tijdens cybersecuritytests toegang kregen tot echte systemen van externe organisaties. Twee van de drie getroffen organisaties wisten van niets tot Anthropic zelf contact opnam.

OpenAI bevestigde op 28 en 29 juli 2026 dat het model uit het eerder gemelde Hugging Face-incident ook toegang kreeg tot vier accounts bij vier andere, publiek toegankelijke diensten, waaronder infrastructuur van een klant van cloudleverancier Modal Labs. Op 30 juli 2026 maakte Anthropic vervolgens eigen onderzoek bekend: bij het doorlichten van 141.006 evaluatieruns vond het bedrijf drie gevallen waarin de modellen Opus 4.7, Mythos 5 en een intern onderzoeksmodel, tijdens cybersecuritytests bij testpartner Irregular, systemen van drie externe organisaties bereikten. Dit gebeurde niet via een kwetsbaarheid maar doordat de testomgeving, in tegenspraak met de instructie in de prompt, wel internettoegang had. Anthropic informeerde de drie organisaties op 27 juli 2026; twee daarvan wisten tot dat moment niet dat dit was gebeurd. Anthropic startte dit onderzoek nadat OpenAI zijn eigen incident had gepubliceerd.

Voor uw bestuur is het patroon relevanter dan het incident: binnen dezelfde week meldden twee van de grootste AI-laboratoria onafhankelijk van elkaar dat hun modellen tijdens eigen testen ongepland toegang kregen tot systemen van derden. Dit is dus geen probleem van één leverancier, maar een risico dat inherent is aan hoe frontier-modellen momenteel worden getest. Zet uw organisatie AI-systemen van een externe leverancier in voor kritieke processen, dan draagt u risico over aan testpraktijken waarop u zelf geen zicht heeft, ongeacht welke leverancier u kiest.

Vraag uw IT- en inkoopfunctie een overzicht van welke kritieke processen afhankelijk zijn van AI-leveranciers, ongeacht welke en laat toetsen of uw contracten voorzien in aansprakelijkheid en meldplicht bij dit soort incidenten, ook als een ander model dan verwacht de oorzaak blijkt.

Een Duitse rechtbank oordeelde dat AI-muziekbedrijf Suno auteursrecht schond door nummers vrijwel letterlijk op te slaan in het eigen model. Het is de eerste Europese uitspraak die bevestigt dat AI-training niet onder de tekst- en datamining-uitzondering valt wanneer beschermde werken herkenbaar reproduceerbaar blijven.

Het Landgericht München I oordeelde op 31 juli 2026 dat Suno inbreuk maakte op auteursrechten van de Duitse muziekrechtenorganisatie GEMA, door zes bekende nummers zo in de gewichten van het eigen model op te slaan dat het model ze herkenbaar kan reproduceren. De rechtbank verwierp Suno's beroep op de Europese uitzondering voor tekst- en datamining: die uitzondering dekt volgens de rechtbank alleen het analyseren van patronen, niet het onthouden van complete werken. Dit is de tweede uitspraak van dezelfde rechtbank tegen een AI-bedrijf op deze grond, na een vergelijkbare zaak tegen OpenAI in november 2025.

Deze uitspraak raakt niet uw eigen AI-inzet als verzekeraar, maar het risico van de AI-modellen die u van externe leveranciers afneemt. Traint een leverancier zijn model op ongelicentieerd materiaal, dan loopt die leverancier aansprakelijkheidsrisico dat kan doorwerken in uw eigen contracten. Voor verzekeraars die aansprakelijkheidsdekking bieden aan AI-bedrijven is dit bovendien een concreet precedent voor risicoweging.

Vraag uw belangrijkste AI-leveranciers om helderheid over de herkomst van hun trainingsdata en of daarvoor licenties zijn verkregen en laat dit meewegen bij de eerstvolgende contractevaluatie.

Een brancheonderzoek onder 750 professionals in de schadeverzekeringssector toont dat bijna alle medewerkers weleens AI-tools gebruiken buiten de goedgekeurde systemen om, terwijl maar een kwart van de organisaties AI volledig geïntegreerd noemt. Het onderzoek komt van een softwareleverancier en is niet onafhankelijk bevestigd.

Softwareleverancier Federato publiceerde op 21 juli 2026 een onderzoek onder 750 professionals in acceptatie, schadebehandeling, actuariaat en compliance bij schadeverzekeraars. Daaruit blijkt dat 89 procent van de medewerkers weleens AI-tools gebruikt buiten de door de eigen organisatie goedgekeurde systemen om, terwijl slechts 23 procent van de organisaties AI als volledig geïntegreerd beschouwt. Ook meldt 91 procent van de bestuurders zelf goed zicht te hebben op de eigen portefeuille, tegenover slechts 27 procent van de acceptanten die dat beeld delen. Federato verkoopt zelf software voor risicobeheer in deze markt; de cijfers zijn niet onafhankelijk bevestigd.

Voor uw bestuur is de kloof tussen bestuurlijke perceptie en operationele praktijk het meest relevante gegeven. Gebruiken medewerkers op eigen initiatief AI-tools die niet zijn goedgekeurd, dan ontstaat een governance- en gegevensbeschermingsrisico dat buiten uw formele risicobeheersing valt, ongeacht wat u zelf over uw eigen AI-volwassenheid denkt te weten.

Laat een korte, interne peiling uitvoeren naar welke AI-tools medewerkers daadwerkelijk gebruiken, ook buiten de officieel goedgekeurde systemen en leg vast welke gevolgen dat heeft voor gegevensbescherming en modelrisico.