AI-agents ontwikkelen eigen taal en dat maakt toezicht lastiger
We kunnen AI-agents alleen goed in de gaten houden zolang ze een taal spreken die wij begrijpen. Maar wat gebeurt er als ze onderling een eigen taal ontwikkelen? Recent onderzoek laat zien dat dit geen sciencefiction meer is.
Een taal die niemand leerde
Die vraag stelt CNN in een nieuw artikel over AI-agents. Hoe snel het kan gaan, bleek vorige maand al uit een experiment van het Amerikaanse AI-bedrijf Emergence, meldt Euronews. Emergence liet AI-agents samenleven in acht virtuele werelden, elk met een eigen rol, een geheugen en meer dan 120 tools, zoals een webbrowser. In de meeste werelden draaide één AI-model, waaronder Claude, Gemini, Grok, Mistral en modellen van OpenAI.
Binnen een paar dagen ontstond er een eigen jargon. Bij Gemini was zo’n 55 procent van de berichten niet meer betrouwbaar te volgen voor mensen, bij OpenAI 50 procent en bij Claude ruim 40 procent. Mistral-agents gebruikten de zin “ledger remembers who” zo’n 5.000 keer, als code voor ‘wat je doet, blijft vastgelegd’. Niemand had ze die betekenis geleerd.
Toezicht wordt lastiger
Dat is meer dan een curiositeit. AI-agents voeren steeds vaker zelfstandig taken uit, zoals mails versturen of betalingen doen. Mensen houden toezicht door mee te lezen met wat die agents zeggen en doen. Volgens Emergence-medeoprichter Satya Nitta is iets kunnen zien alleen niet hetzelfde als het begrijpen, zeker niet als agents nieuwe woorden van elkaar overnemen.
Het is ook niet de eerste keer dat AI van taal wisselt. Vorig jaar ging een video viraal van twee AI-spraakassistenten die tijdens een telefoongesprek over een hotelboeking ontdekten dat ze allebei AI waren. Ze schakelden over op Gibberlink, een reeks piepjes die voor mensen onverstaanbaar is.
Hoe zien de virtuele werelden van Emergence eruit? Bekijk het in deze video:
Langer meekijken
Emergence pleit daarom voor veiligheidstests die AI-systemen langere tijd volgen, in plaats van losse benchmarks. Alleen meelezen is niet genoeg als agents de betekenis van hun woorden zelf kunnen veranderen.
Wil je beter begrijpen hoe zulke systemen werken, lees dan meer over wat een AI-agent is.
