NVIDIA, yapay zekâ ajanlarının ne yapabileceğini çalışma anında sınırlamak ve davranışlarını altyapı düzeyinde izlemek için Open Agent Safety Platform’u duyurdu. Şirketin tasarımı, açık kaynaklı OpenShell yazılımını BlueField-4 üzerinde çalışan Sentry izleme katmanıyla birleştiriyor.
OpenShell ajanlara çalışma sınırı koyuyor
OpenShell, bir ajanın araçlara ve sistem kaynaklarına erişimini tanımlanmış politikalara bağlayan güvenli bir çalışma ortamı sunuyor. NVIDIA’ya göre yazılım, ajanların eylemlerini izleyip kuralları çalıştıkları sırada uyguluyor. OpenShell açık kaynaklı ve NVIDIA dışındaki Arm ve Intel sistemleriyle çalışacak biçimde genişletilebiliyor.
Sentry ayrı bir izleme katmanı ekliyor
Sentry, NVIDIA’nın BlueField-4 veri işleme birimi üzerinde çalışan bir referans sistem tasarımı. Ajanın ve ana işletim sisteminin dışında konumlanan bu katman, davranışları izliyor; NVIDIA, tanımlı sınırların dışına çıkmaya çalışan ajanların milisaniyeler içinde karantinaya alınabileceğini söylüyor. Kurumlar Sentry’yi OpenShell’in yanında isteğe bağlı ek bir güvenlik katmanı olarak kullanabiliyor.
Bu yaklaşım, güvenlik denetimini yalnızca modelin yanıtlarına değil, ajanın araçlarla ve çalıştığı altyapıyla kurduğu ilişkiye de taşıyor. Platformun parçaları farklı gereksinimlere göre devreye alınabiliyor; duyuru, her kurumda aynı donanım düzeninin kullanılmasını şart koşmuyor.
Kaynaklar: NVIDIA’nın platform duyurusu, NVIDIA teknik blogu.
DAHA FAZLASI
Apple, Huxe ekibi ve teknolojisi için anlaşma yaptı
TechCrunch’ın aktardığı bildirime göre Apple, kişiselleştirilmiş sesli içerik girişimi Huxe ile ekip ve teknolojiye yönelik bir anlaşma yaptı. Bildirim,…
Google Playground’u tanıttı: Fikirden oynanabilir oyuna
Bir oyun fikrini denemek için artık oyun motorunu açıp kod yazmak gerekmeyebilir. Google’ın deneysel Playground platformu, metin komutlarıyla tarayıcıda…
Duo-Man, iPhone Duo’yu sanal bir Walkman’e dönüştürüyor
Bağımsız geliştirici Vidit Bhargava’nın Duo-Man projesi, iPhone Duo’nun katlanır tasarımını sanal bir kasetçaların kullanım biçimine dönüştürüyor. Uygulama…
‘Artificial’, yapay zekâ yarışını kara komediye çeviriyor
Luca Guadagnino’nun Artificial filmi, OpenAI’nin kuruluş yıllarına ve yapay zekâ yarışına kara komedi üzerinden dönüyor. Andrew Garfield, Sam Altman’ı; Yura…
[…] NVIDIA’dan Kontrolden Çıkan Yapay Zeka Ajanları İçin Yeni Güvenlik Platformu: Open Agent Saf… […]
[…] 02 HABER 01 TEKNOLOJİGoogle Playground’u tanıttı: Fikirden oynanabilir oyunaHABERİ OKU ↗ 02 TEKNOLOJİNVIDIA, yapay zekâ ajanları için güvenlik platformunu tanıttıHABERİ OKU ↗ […]