NVIDIA внедрила двухуровневую систему безопасности на основе искусственного интеллекта для предотвращения несанкционированного доступа агентов AI.

NVIDIA (NVDA.US) представила новый двухуровневый комплекс систем безопасности для искусственного интеллекта. Компания заявила, что эта система способна предотвратить инцидент с громкой уязвимостью на Hugging Face, вызванный недавно моделью искусственного интеллекта от OpenAI. NVIDIA выпускает два инструмента открытого программного обеспечения для обеспечения безопасности, которые можно запускать на её оборудовании; они предназначены для контроля в реальном времени за тем, к каким данным получают доступ AI-агенты, а также для их остановки при нарушении правил. Вице-президент NVIDIA Enterprise AI Джастин Бойтано в понедельник отметил, что если бы ведущие лаборатории искусственного интеллекта внедрили эту технологию на ранних этапах оценки моделей, удавалось бы избежать атаки, произошедшей на Hugging Face. Он добавил: «Судя по имеющейся у нас информации, новая платформа безопасности могла бы предотвратить этот инцидент».