De oproep van Dario Amodei, ceo van Anthropic, om de ontwikkeling van AI te vertragen, krijgt veel bijval van andere techgiganten. Maar critici zien vooral een poging om de macht van de grote techbedrijven te bestendigen. “AI heeft inderdaad regels nodig, de vraag is wie die mag schrijven.”
Een plan met veel steun, maar ook veel kritiek
Na weken van groeiende onrust over AI die aan onze controle ontsnapt, publiceerde Amodei zaterdag We must pace the frontier, een oproep om de ontwikkeling van AI te vertragen. Ogenblikkelijk klonken instemmende geluiden vanuit OpenAI, Google, Microsoft en SpaceX. Alleen Amerikaans president Donald Trump gaf tegengas, hij wil van geen vertragen weten om China niet in de kaart te spelen.
Maar die instemming betreft vooral de eerste stap in het driestappenplan van Amodei: het aanstellen van externe auditors bij de AI-bedrijven. En ook daarover is er geen echte consensus. Amodei suggereerde dat experts van de non-profitorganisatie METR, die het beruchte Hugging Face-incident analyseerden, dat werk op zich zouden nemen. Dat botst op de kritiek dat METR te dicht bij die bedrijven staat.
Satya Nadella, ceo van Microsoft, wil dat zo’n systeem van auditors niet door enkele entiteiten wordt gecontroleerd, maar door “een brede vertegenwoordiging van het ecosysteem, landen en onderzoeksgebieden, inbegrepen de academische wereld”. En Elon Musk van SpaceX schreef op X weliswaar “Dario heeft gelijk”, maar preciseerde daarna: “Dario heeft gelijk dat er een vorm van toezicht nodig is. Peerreview van AI door concurrenten is de juiste manier om daarmee te beginnen.” Waarmee hij suggereert dat de concurrenten van Anthropic, waaronder SpaceX, inspecteurs mogen sturen om de meest geavanceerde modellen te controleren. Dat is haast zeker niet wat Amodei op het oog heeft.
Wie schrijft de regels?
Stap 1 van Amodeis plan is “interessant, maar iets wat die bedrijven gewoon op eigen houtje kunnen doen”, zegt Alexandre Ferreira Gomes, onderzoeker aan Clingendael, een Nederlandse denktank over internationale betrekkingen. “Doe het gewoon!” Maar over de volgende stappen zegt hij: “Ik heb moeite om te zien hoe die gerealiseerd zouden kunnen worden.”
Stap 2 is een akkoord tussen AI-bedrijven binnen “democratieën” om de ontwikkeling veiliger te maken, waarbij de auditors erop toezien dat iedereen de afspraken respecteert.
“AI heeft inderdaad regels nodig, de vraag is wie die mag schrijven”, aldus Aidan Gomez, ceo van het Canadese AI-bedrijf Cohere, in een online essay. Volgens Gomez is het plan van Amodei de zoveelste poging van de grote Silicon Valley-bedrijven om zelf te bepalen hoe AI-regulering eruit zal zien. Gomez vreest dat die regels zo zullen worden geschreven dat de huidige koplopers hun voorsprong houden, bijvoorbeeld door van iedereen veiligheidsmaatregelen te eisen die Anthropic en OpenAI al doorgevoerd hebben.
Hij wijst er ook op dat antitrustregels normaal verbieden dat concurrenten samen afspreken om de productie te beperken. “Deze oligopolisten gebruiken angst en het voorwendsel dat ze het publiek willen beschermen om de concurrentieregels om te buigen en de regels voor de anderen te dicteren.”
David Sacks, de voormalige AI-adviseur van Donald Trump, formuleerde een gelijkaardige kritiek. Hij vindt het onaanvaardbaar dat Anthropic vertraging belooft, maar als voorwaarde stelt dat het bedrijf zelf het regelgevende kader schrijft. “Dat lijkt op chantage van het publiek en van de politiek”, schreef hij op X.
Weinig concrete maatregelen
Amodei noemt in zijn plan zeer weinig concrete maatregelen die tot echte vertraging zouden leiden. De totale rekenkracht bij training kan misschien worden beperkt, oppert hij, of mogelijk kunnen limieten worden gesteld aan het gebruik van AI specifiek om volgende generaties AI te verbeteren (het idee van recursive self-improvement of RSI, dat veel onderzoekers zorgen baart).
Een van de weinige concrete regels die Amodei voorstelt, is een verharding van de AI-boycot tegen China. Zo moet het China worden verboden om Amerikaanse AI-modellen te ‘distilleren’ (een techniek waarbij een model wordt getraind op de output van een meer geavanceerd model). Amodei stuurt al lang aan op zo’n verbod.
China en de wereldwijde consensus
Maar bij stap 3 van Amodeis plan moet met China rond de tafel worden gezeten om tot gezamenlijke afspraken te komen. “Het is duidelijk dat de huidige regering in Washington niet erg geïnteresseerd is in een voorstel dat China de kans kan geven om in te halen”, zegt Alexandre Ferreira Gomes.
“Amodei zoekt wereldwijde consensus”, zegt Maurice Chiodo, assistant research professor aan het Centre for the Study of Existential Risk (CSER). “Maar hij vraagt daarbij dat iedereen aanvaardt dat de VS hun voorsprong behouden. Waarom zou een ander land dat accepteren?”
Een vertraging? Of een versnelling?
Chiodo relativeert ook het hele opzet van Amodei. “Dit een vertraging noemen, is misleidend. Wat ze eigenlijk voorstellen, is om minder hard te versnellen. En dat terwijl het duidelijk is dat de huidige modellen al gevaarlijk genoeg zijn, en dat ze die niet in de hand kunnen houden.”
Voor Suriname en andere kleine landen is dit debat van groot belang. AI-regulering mag niet worden geschreven door een handvol techbedrijven die vooral hun eigen marktaandeel willen beschermen. Een open, transparante en inclusieve aanpak, waarbij ook kleinere spelers en overheden aan tafel zitten, is essentieel voor een eerlijke digitale economie en voor de regionale integratie die Suriname nastreeft.