Toezichthouders: AI-model Mythos bedreiging voor internationale bankensysteem

Ook op de voorjaarsvergadering van het Internationaal Monetair Fonds en de Wereldbank in Washington heerste deze week grote ongerustheid over Mythos, het nieuwe AI-model van Anthropic, schrijft de Financial Times vandaag. Mythos en vergelijkbare AI  zou het internationale bankensysteem in gevaar kunnen brengen, aldus verschillende prominenten uit de financiële wereld die de zakenkrant sprak.

Mythos moet weliswaar erg goed zijn in het opsporen van kwetsbaarheden in software. Maar daarmee is het ook een gevaar als het in handen valt van kwaadwillenden die van zulke kwetsbaarheden willen profiteren.

„De ontwikkeling die we met Anthropic en Mythos hebben gezien, is een goed voorbeeld van een verantwoordelijk bedrijf dat opeens denkt ‘Aha, dit zou wel eens heel goed kunnen zijn!’ Maar als het in de verkeerde handen valt kan het heel slecht aflopen”, citeert de zakenkrant Christine Lagarde, voorzitter van de Europese Centrale Bank (ECB). Andrew Bailey, gouverneur van de Bank of England, spreekt van „een ernstige uitdaging voor ons allemaal”.

Anthropic, zich bewust van de risico’s, heeft Mythos voorlopig alleen beschikbaar gesteld aan een groep van een veertigtal grote techbedrijven. Het bedrijf zegt zelf dat het niet lang zal duren voor dit soort systemen wijdverbreid zal zijn, en „niet alleen onder gebruikers die uit zijn op een veilig gebruik ervan. De gevolgen, voor de economie, de openbare en nationale veiligheid, kunnen ernstig zijn.”

Lagarde: „Ik geloof niet dat er een bestuurlijk kader is om dit in de gaten te houden. Daar moeten we aan werken.”

Gevraagd hoe de Europese bankentoezichthouder EBA omgaat met deze risico’s, antwoordde EBA-topman François-Louis Michaud de zakenkrant dat hij en zijn mensen nadenken over wat de juiste manier is erop te reageren. Hij wijst erop dat de EBA wel al meer cybersecurity-specialisten in dienst genomen heeft, sinds zijn organisatie verantwoordelijkheid heeft gekregen voor toezicht op de IT-leveranciers van de Europese banken.

Liveblog Economieblog

Carglass-eigenaar lijkt voor Amsterdam te kiezen als plek voor beursgang