Is de toekomst van AI open of gesloten? Anthropic isoleert zich door pleidooi voor open source als enige niet te ondertekenen

Moet kunstmatige intelligentie in de toekomst voor iedereen gratis, toegankelijk en aanpasbaar zijn? Of is het beter als de computercode achter moderne taalmodellen achter gesloten deuren blijft, in handen van een klein aantal bedrijven? De discussie over deze vraag liep afgelopen week zo hoog op dat de topmannen van elk toonaangevend AI-bedrijf zich gedwongen voelden kleur te bekennen. Vrijwel alle belangrijke westerse AI-bedrijven ondertekenden uiteindelijk, soms schoorvoetend, een brief ter ondersteuning van open source, de open variant. Alleen Anthropic, een grote speler, tekende niet – en voelde zich gedwongen uit te leggen waarom.

Aanleiding was Kimi K3, een nieuw AI-model van het Chinese bedrijf Moonshot. Dit taalmodel scoort bijna even goed op relevante testen als de beste Amerikaanse modellen. Dat sloeg daarmee de Amerikaanse hoop aan diggelen dat China met beperkingen op de export van geavanceerde technologie op achterstand is te houden.

Het belangrijkste verschil met Amerikaanse concurrenten is dat Kimi K3 een stuk goedkoper is ontwikkeld, gratis te downloaden is, en dat Moonshot er belangrijke informatie over publiceerde – toelichting die Amerikaanse bedrijven normaliter achterhouden. Deze zogenoemde ‘gewichten’ bieden een dwarsdoorsnede van een modern AI-model, en geven zo informatie bloot die anderen kunnen gebruiken om het model naar wens aan te passen.

Twee nuances zijn op zijn plaats. Eén: Kimi K3 is niet echt gratis. Wil je dat je data niet naar China gaan, dan kan je het gratis downloaden en het lokaal laten draaien. Maar wil je het echt goed laten draaien, dan heb je krachtige, dure chips nodig, én een abonnement bij Moonshot. Twee: Kimi K3 is technisch gezien niet open source, maar open weight. Om dat eerste label te verdienen, zou Moonshot naast de gewichten ook de broncode en de trainingsdata achter het model moeten delen. In de volksmond wordt echter wel gesproken van open source.

Hoe dan ook vormen de semi-open Chinese modellen een grote bedreiging voor Amerikaanse AI-bedrijven. Die slagen er nog altijd niet in hun gigantische investeringen in de modellen terug te verdienen. Als de concurrent dan ook nog een gelijkwaardig product gratis op de markt brengt…

Direct na de lancering van Kimi K3 klonken vanuit de Verenigde Staten beschuldigingen dat de Chinezen op listige wijze het beste Amerikaanse AI-model zouden hebben nagemaakt. Nieuwssite Axios schreef daarna dat de regering-Trump een verbod op Chinese opensourcemodellen overweegt. Een belangrijk deel van de westerse AI-industrie voelde zich daarna geroepen zich uit te spreken ten gunste van open source.

Nvidia-topman meldt zich op X

Jensen Huang, topman van de voor de sector zeer belangrijke chipfabrikant Nvidia, had voor die gelegenheid een X-account aangemaakt. In zijn eerste post deelde hij een ogenschijnlijk ideologisch pleidooi ten faveure van openweightmodellen, waarbij kan worden aangemerkt dat het Nvidia niet slecht uitkomt als het zijn klantenbestand flink kan uitbreiden. Onder de brief stonden, bij wijze van handtekeningen, de logo’s van vrijwel alle grote westerse AI-spelers – behalve die van OpenAI en Anthropic, bekend van AI-modellen ChatGPT respectievelijk Claude. Voor deze gesloten Amerikaanse bedrijven zou een verbod op concurrerende Chinese open source juist goed uitkomen. Voor de bedrijven die de brief wél ondertekenden kwam dat ook goed uit, merkte Bloomberg-journalist Joe Weisenthal op: „Op Nvidia na loopt letterlijk ieder bedrijf dat de brief heeft ondertekend achter op Anthropic.”

OpenAI ging uiteindelijk toch overstag. Met zo’n veelzeggende bedrijfsnaam, een echo van een idealistisch verleden, kon dat ook eigenlijk niet anders. Topman Sam Altman heeft de afgelopen maanden nota bene veelvuldig benadrukt dat het niet zo mag zijn dat slechts enkele bedrijven profiteren als AI zo revolutionair wordt als hij voorspelt.

Die zorg is precies waarom open source zoveel bijval krijgt: een open model heeft een democratiserend effect. Niet alle bedrijven en andere organisaties kunnen miljarden uitgeven aan AI, en voor hen zijn opensourcemodellen een voordeliger alternatief dan bijvoorbeeld Claude, ChatGPT of Gemini van Alphabet. Wie over voldoende rekenkracht bezit, kan modellen als Kimi K3 niet alleen voor een fractie van de kosten op eigen servers draaien, maar ook naar wens aanpassen. Ook zitten er minder ‘vangrails’ omheen, waardoor het met minder beperkingen kan worden ingezet.

Een ander argument voor het delen van code is dat dit innovatie doorgaans goedkoper maakt en versnelt. Het huidige internet is er mede hierdoor zo gaan uitzien — veel van de software waarop het draait, van webserver Apache tot besturingssysteem Linux, werd onder open licenties gedeeld. Programmeurs konden daardoor op elkaars werk voortborduren. Gezien de grote uitdagingen waar moderne taalmodellen voor staan – de hardnekkige fouten die ze maken, de inefficiënte manieren waarop ze rekenkracht gebruiken – zou een collectieve inspanning juist uitkomst kunnen bieden.

Kritiek op Anthropic

Hoe kan Anthropic hier in hemelsnaam tegen zijn? De kritiek zwol in het weekend snel aan. Anthropic zal niet stoppen totdat het open source kapot heeft gemaakt, tweette David Sacks, de ‘AI- en cryptotsaar’ van het Witte Huis. „Nu gaat het grote gaslighten beginnen.”

Anthropic-topman Dario Amodei voelde zich maandag kennelijk genoodzaakt uit te leggen waarom zijn bedrijf als enige ontbrak onder de brief die zoveel bijval kreeg. Dat was niet omdat hij voorstander is van een verbod op open source, benadrukte hij in dikgedrukte letters, maar omdat hij zich al jarenlang grote zorgen maakt over onder meer AI-systemen die worden gebruikt voor cyberaanvallen. „Openweightmodellen vormen in dat opzicht mogelijk een groter gevaar dan gesloten modellen, omdat het erg lastig is ze van vangrails te voorzien of te monitoren waarvoor mensen ze precies gebruiken.”

Veiligheidsexpert Brenno de Winter heeft principieel moeite met dat argument, vertelt hij telefonisch. „Wat Amodei eigenlijk zegt, is: we moeten alle burgers in de gaten kunnen houden, omdat we ze niet kunnen vertrouwen.” En wie bepaalt eigenlijk wat mensen wel en niet met AI mogen doen? „Ik heb nooit mogen stemmen op de baas van Anthropic, dus dat Amodei dat voor mij wil bepalen, vind ik heel ingewikkeld.”

Anthropics standpunt is niet los te zien van de economische uitdagingen waar Amerikaanse bedrijven voor staan, daar is De Winter van overtuigd. „Het zou voor Anthropic natuurlijk niet fijn zijn als iedereen open Chinese modellen gaat gebruiken.”

De recente hack bij Hugging Face door een autonome AI-agent van OpenAI brengt Anthropic sowieso even tegenwind. Opvallend daaraan was immers dat Hugging Face later bekendmaakte dat de AI-modellen van Anthropic door hun eigen veiligheidsfilters hadden geweigerd te analyseren hoe de hack precies was verlopen: Claude zou geen onderscheid hebben weten te maken tussen het bestuderen van de aanval en de uitvoering ervan. Een opensourcemodel uit China, dat Hugging Face nu zegt te hebben geïnstalleerd, zou wel hebben meegewerkt. Deze casus is voor opensourceaanhangers een geliefd voorbeeld geworden van waarom open source juist goed is voor cybersecurity, in plaats van een bedreiging.

Op dit precaire moment reist OpenAI-topman Altman dezer dagen naar Washington om het Witte Huis en het Congres te vertellen over de jongste AI-modellen en om zijn mening te delen over open source. Dean Ball, strategiemanager van OpenAI, voorspelde al waarop hij denkt dat het Witte Huis gaat uitkomen. „Je hoeft open source niet te verbieden – dat is een van de dommere ideeën in het AI-beleidsdebat. Je hoeft alleen elke overheidsdienst opdracht te geven om halfzachte regels uit te vaardigen die angst zaaien [voor eventuele boetes]. Die [regels] hoeven niet eens goed onderbouwd te zijn. Je schept gewoon zoveel risico’s in je regelgeving dat elk gereguleerd bedrijf zich terugtrekt.”