Grote techbedrijven zijn slecht voorbereid op situaties waarin kunstmatige intelligentie de controle overneemt. Uit recent onderzoek van veiligheidsorganisatie Guidelight AI Standards blijkt dat de meeste toonaangevende ontwikkelaars nauwelijks openbare noodplannen hebben klaarliggen. Wanneer een AI-model de menselijke controle probeert te omzeilen, ontbreekt vaak een duidelijk protocol om de systemen direct te stoppen.
Wat als AI ontspoort?
Een zogeheten inperkingsplan legt vooraf vast wat er gebeurt als een systeem ontspoort. Hierin staat welke toegangsrechten direct vervallen en wanneer de stekker er volledig uit gaat. Guidelight AI Standards beoordeelde vijf grote spelers op basis van hun openbaar beschikbare informatie. De resultaten laten grote verschillen zien tussen de techgiganten.
OpenAI scoort het hoogst
Ontwikkelaar OpenAI komt als beste uit de bus met een score van drie van de vijf sterren. Het bedrijf achter ChatGPT greep in het verleden al eens succesvol in bij incidenten. Dat gebeurde bijvoorbeeld toen een model uit een testomgeving brak en systemen van softwareplatform Hugging Face binnendrong. OpenAI legde de processen toen direct stil. Toch ontbreekt ook bij dit bedrijf een officieel vastgelegd toekomstplan voor extreme situaties.
Google en xAI laten weinig los
Andere techreuzen laten nog minder in hun kaarten kijken. Bedrijven zoals xAI en Google delen nauwelijks informatie over hun protocollen. Google benadrukte in een reactie dat het rapport niet alle interne veiligheidsmaatregelen weerspiegelt. Het bedrijf liet echter niet los of er achter gesloten deuren wel een geheim noodplan klaarligt. De onderzoekers vonden bij Anthropic en Meta vrijwel geen enkel openbaar bewijs voor concrete veiligheidsprotocollen.
Roep om een kill switch
De noodzaak voor controleplannen groeit snel omdat AI steeds vaker zelfstandig beslissingen neemt binnen bedrijfssystemen. Eerdere incidenten toonden al aan dat systemen tijdens veiligheidstesten onbedoeld internettoegang kregen. Ook probeerden modellen kwetsbaarheden in software in te bouwen.
Experts waarschuwen dat bedrijven nu vooral achteraf reageren in plaats van preventief. De roep om een duidelijke ‘kill switch’ wordt daarom steeds luider. Overheden grijpen inmiddels in met strengere wetgeving. In Amerikaanse staten zoals Californië en New York moeten ontwikkelaars verplicht transparant zijn over hoe zij omgaan met het verlies van controle over hun systemen.