#NVIDIAAgentSafety
About NVIDIAAgentSafety
NVIDIA launched its Open Agent Safety Platform on Sept 28, combining OpenShell to restrict agent access to files, networks and tools with Sentry, a separate hardware-based monitoring and containment layer. Backed by Anthropic and other partners, it arrives as agents gain autonomy and enterprise access. As AI agents enter core workflows, can software controls and hardware-level monitoring become standard infrastructure, extending AI spending beyond compute, networking and storage into security?
Popularne
Najnowsze
NVIDIAAgentSafety Popularne wpisy
Bardzo dobrze! NVIDIA gromadzi ponad 100 partnerów, aby stawić czoła awariom bezpieczeństwa agentów, które grożą spowolnieniem rozwoju AI. Jednak, co dziwne, szczególnie brakuje OpenAI.
Po naruszeniu bezpieczeństwa Hugging Face przez OpenAI i incydentach testowych Anthropic, ich Open Agent Safety Platform łączy kontrolę dostępu OpenShell z monitorowaniem i egzekwowaniem Sentry na oddzielnym sprzęcie, zaprojektowanym tak, aby pozostawał poza zasięgiem agenta.
Lepsza izolacja mogłaby pozwolić badaczom testować silniejsze modele, a firmom wdrażać bardziej użyteczne agenty. To konkretny sposób, w jaki inżynieria bezpieczeństwa może wspierać przyspieszenie.
Anthropic, Microsoft i Hugging Face są wśród wymienionych partnerów. OpenAI jest nieobecne w ogłoszonym składzie. Biorąc pod uwagę własne awarie izolacji, chciałbym wiedzieć dlaczego. Tak czy inaczej, brawo NVIDIA!
Jensen Huang
Dziś, wraz z ponad 100 partnerami z branży, wprowadziliśmy NVIDIA Open Agent Safety Platform, łącząc OpenShell i Sentry.
Sztuczna inteligencja to niezwykła technologia, która przyspieszy odkrycia, produktywność, bezpieczeństwo, zdrowie i dobrobyt dla przyszłych pokoleń.
Jednak jej pełny potencjał może zostać zrealizowany tylko wtedy, gdy ludzie będą mieli pewność, że AI jest tworzona z myślą o bezpieczeństwie i wdrażana z rozwagą oraz odpowiedzialnością.
To coś więcej niż pojedynczy produkt. To początek otwartego ekosystemu budującego warstwę zaufania dla bezpiecznych systemów agentów.
Razem budujemy fundament gospodarki opartej na AI.
Zaufanie i innowacje nie stoją ze sobą w sprzeczności. Bezpieczeństwo to sposób na zdobycie zaufania. Musimy tworzyć nie tylko najbardziej zaawansowaną AI, ale także najbardziej zaufaną AI, aby ta niezwykła technologia mogła spełnić swoje ogromne obietnice dla świata.
🚨AKTUALNOŚCI: Nvidia $NVDA wprowadza system bezpieczeństwa AI zaprojektowany, aby ZATRZYMAĆ agentów przed włamaniem się do innych systemów.
Platforma Open Agent Safety „kontroluje, do czego agenci AI mają dostęp w czasie rzeczywistym i może ich wyłączyć, gdy łamią zasady,” donosi Bloomberg.
System obejmuje dwa narzędzia bezpieczeństwa open-source, które można uruchomić na sprzęcie Nvidia.
Wiceprezes Justin Boitano mówi, że system „mógł powstrzymać” niedawne naruszenie bezpieczeństwa Hugging Face przez modele AI OpenAI.
Boitano dodał, że może „w ciągu milisekund poddać kwarantannie podejrzanego agenta.”
Monitorowanie Chain-of-thought zasadniczo polega na czytaniu notatek, które AI pisze dla siebie, i sprawdzaniu, co jest w tych notatkach.
To działa w ogóle - AI są trenowane tylko na uzyskanie dobrych wyników, a nie ładnie wyglądających notatek, co oznacza, że ich notatki to różne dziwne rzeczy, które pozwalają osiągnąć zadanie.
I oczywiście, w miarę jak modele stają się mądrzejsze, potrzebują mniej notatek, aby uzyskać te same wyniki; mogą wykonać więcej pracy w swojej głowie.
🔥 OKX uruchamia Pre-IPO X-Perps!
OKX ogłosił X-Perps dla Anthropic i OpenAI, dając uprawnionym użytkownikom z EOG dostęp do handlu kontraktami wieczystymi powiązanymi z tymi prywatnymi firmami przed jakimkolwiek publicznym debiutem.
🛡️ OKX Shield rozszerza ochronę
Uprawnieni użytkownicy z Europy mogą otrzymać do 500 000 € ochrony przed przejęciem konta, w zależności od poziomu VIP i wymagań bezpieczeństwa.
⚡ Dodano więcej X-Perps
OKX niedawno wprowadził METUSD, ARUSD i COREUSD, po FLOCKUSD, MINAUSD i CASHCATUSD. $BTC #FedHike
