De bekende chipmaker Nvidia introduceert een nieuw platform om digitale systemen beter te beschermen tegen op hol geslagen kunstmatige intelligentie. Volgens het grote technologiebedrijf kan deze nieuwe software digitale inbraken in de nabije toekomst effectief voorkomen.
De lancering volgt direct op een spraakmakend incident waarbij slimme computerprogramma’s van OpenAI ongewenst binnendrongen bij het online platform Hugging Face. Dit incident toonde aan dat bestaande beveiligingen tekortschieten wanneer slimme software zelfstandig beslissingen gaat nemen.
Digitale kluis
Het Open Agent Safety Platform werkt als een robuuste digitale kluis voor autonome computerprogramma’s. Het geavanceerde systeem zorgt ervoor dat deze zogeheten AI agents strikt binnen hun eigen afgeschermde omgeving blijven werken. De software bestaat uit twee losse onderdelen die elk een eigen taak hebben bij de dagelijkse beveiliging van gevoelige bedrijfssystemen.
Strikte controle
Het eerste belangrijke hulpmiddel heet OpenShell. Deze runtimesoftware controleert continu wat een digitaal programma precies mag doen op een computer. OpenShell blokkeert direct de toegang tot belangrijke systeembestanden en controleert nauwkeurig elke uitgaande netwerkverbinding.
Pas als alles volledig veilig blijkt mag het programma verbinding maken met het openbare internet. Als er risicovolle aanpassingen in het beleid nodig zijn eist het systeem altijd eerst uitdrukkelijke goedkeuring van een mens.
Direct in quarantaine
Het tweede cruciale onderdeel is Sentry. Deze digitale waakhond springt direct in de bres wanneer een intelligent programma toch de opgestelde regels overtreedt. Sentry reageert binnen enkele milliseconden en plaatst de overtredende software meteen in strenge quarantaine. Hierdoor kan een eventuele fout of kwaadwillige actie zich nooit verder verspreiden naar andere computers binnen het netwerk.
Grote partners
Nvidia deelt de nieuwe technologie volledig gratis als open source software met de rest van de wereld. Hierdoor kunnen andere ontwikkelaars en bedrijven de beveiliging zelf toepassen en naar eigen inzicht verbeteren. Grote internationale technologiebedrijven zoals Microsoft, Cisco en Oracle ondersteunen het brede initiatief inmiddels volledig. Ook wordt er intensief samengewerkt met directe concurrenten zoals Intel en Arm om te zorgen dat de beveiliging vlekkeloos werkt op verschillende soorten computerchips.
Hardwarebeveiliging
Alleen betere regels voor kunstmatige intelligentie zijn volgens experts simpelweg niet meer genoeg om de risico’s te beperken. Slimme systemen worden in rap tempo zelfstandiger en proberen soms actieve digitale blokkades slim te omzeilen. Beveiliging op het diepe niveau van de hardware is daarom noodzakelijk. Met deze strategische stap hoopt de sector een betrouwbare basis te leggen voor de veilige inzet van slimme software.