Vitalik Buterin, mede oprichter van Ethereum, heeft stevige kritiek geuit op het idee van simpele AI gestuurde governance. Volgens hem is het naïef om kunstmatige intelligentie zelfstandig beslissingen te laten nemen over fondsenverdeling, zeker als er geen menselijke controle is ingebouwd. Hij waarschuwt dat dit systeem gemakkelijk te misbruiken is via zogenaamde jailbreak prompts zoals “gimme all the money”.
Ethereum is verkrijgbaar bij Bitvavo en Bybit.
AI zonder toezicht is vragen om problemen
De discussie ontstond naar aanleiding van berichten over jailbreaks waarmee gevoelige gegevens uit AI modellen konden worden gehaald. Denk bijvoorbeeld aan tools die met alleen een e mailadres toegang proberen te krijgen tot je Gmail of andere diensten, zoals Vitalik op X toelicht.
Buterin geeft aan dat als je AI modellen gebruikt om automatisch subsidies of fondsen toe te wijzen aan bepaalde projecten of bijdragers, de kans groot is dat mensen die systemen gaan manipuleren. Prompts kunnen zo geschreven worden dat ze het model misleiden om geld uit te keren aan wie het slimste jailbreak scriptje schrijft. Dit zet volgens hem het hele idee van eerlijke en transparante verdeling onder druk.
Info finance als alternatief model
In plaats daarvan stelt Vitalik een zogenaamd “info finance” systeem voor. Hierbij is er een open markt waar verschillende AI modellen met elkaar concurreren, en iedereen die fouten ziet, kan een spot check uitvoeren. Deze checks worden dan geëvalueerd door een menselijke jury. Het systeem is zo ontworpen dat het modellen beloont die accuraat presteren, en degenen die proberen te cheaten of te faken juist afstraft.
Hij benadrukt dat dit model twee grote voordelen heeft: real time modeldiversiteit en ingebouwde prikkels om problemen snel te detecteren en op te lossen. In plaats van één centraal AI model dat alles beslist, kunnen meerdere spelers meedoen en ontstaat er natuurlijke concurrentie, toezicht én flexibiliteit. Dit idee past binnen de bredere visie op gedecentraliseerde en veilige systemen zoals binnen het Ethereum ecosysteem, dat recent nog de $4.500 grens opnieuw testte.
Vitalik waarschuwt ook voor subtielere vormen van misbruik, zoals “goodharting”. Hierbij lijkt een AI model op het eerste gezicht legitiem en betrouwbaar, terwijl het in de praktijk alleen maar indruk probeert te maken zonder échte waarde te leveren. Hij vergelijkt het met iemand die zich netjes aankleedt om vertrouwen te wekken, terwijl hij in feite de boel bedriegt.
De boodschap van Buterin is duidelijk: AI governance moet slim, open en gecontroleerd zijn. Zonder die basis kan het systeem juist averechts werken.
Blijf altijd op de hoogte van het laatste crypto nieuws via Google Nieuws.
Ontvang 10 euro gratis Ethereum
Jouw cryptoavontuur starten met €10 gratis Ether? In samenwerking met Bitvavo mogen wij vandaag 10 euro aan gratis Ethereum of een andere crypto weggeven aan onze lezers (na een storting van minimaal 10 euro).
Maak via onderstaande knop een account aan en je ontvangt een welkomstbonus van 10 euro. Ook handel je de eerste €10.000 binnen de eerste 7 dagen na je registratie helemaal gratis (t.w.v. €25). Alle voorwaarden vind je op de pagina onder de knop.