Nvidia släpper nya verktyg för att stoppa AI-agenter från att gå över gränsen

Den amerikanska chipbjässen Nvidia har lanserat två olika verktyg för skydd mot intrång av så kallade AI-agenter: Nvidia Sentry och Open Shell.

Verktygen kommer att kunna användas på olika typer av chip från Nvidia och ska i realtid styra vad AI-agenter – autonoma robotar skapade i AI-modeller – har tillgång till och stänga av agenter som bryter mot regelverket.

Enligt Justin Boitano, vice vd på Nvidia, hade bland annat det uppmärksammade intrånget på Hugging Face, genomförd av AI-agenter baserade på Open AI:s modeller, gått att avvärja.

AI-agenter som spårat ur och gått till angrepp har skakat om AI-branschen och lett till uppmaningar om att bromsa teknikutvecklingen.

– Vi tror att detta extra säkerhetslager kommer att göra det möjligt för branschen att testa även de mest avancerade AI-systemen på ett säkert sätt. Det kan sätta en misstänkt agent i karantän på millisekunder, säger Boitano på en pressträff.