OpenAI’ın yeni yapay zekâsı Astra için sıra dışı karar: En güçlü yetenekleri herkese açılmayacak – Teknoloji Haberleri

OpenAI, yeni yapay zeka modeli Astra’nın “Preparedness Framework” içinde tanımlanan “Critical” seviyesini aştığını duyurdu. Model, uygun araç ve erişime sahip olduğunda korunan sistemlerde daha önce bilinmeyen güvenlik açıklarını tespit edebiliyor ve bu açıkları kullanarak saldırı yöntemleri geliştirebiliyor. Birçok senaryoda ise Astra’nın her adımda insan yönlendirmesine ihtiyaç duymadığı belirtiliyor.

ExploitBench testinde Astra yüzde 100 skor elde etti. Aynı zamanda kendi geliştirdiği 20 yüksek önemli V8 güvenlik açığından oluşan dahili testte iki sıfır gün açığı keşfetti ve bu açıkları kullandı; ilgili geliştiricilere bildirilme süreci devam ediyor. Diğer testlerde, güçlendirilmiş bir tarayıcıda yeni açıklar buldu ve bunları saldırı zincirlerine dönüştürdü; işletim sistemindeki birden fazla açığı birleştirerek yetkisiz kullanıcı seviyesinden root yetkisine ulaşabilecek bir zincir oluşturdu.

Modelin en gelişmiş siber güvenlik yeteneklerine erişim, ilk etapta yalnızca küçük bir test grubuna verilecek ve daha sonra Daybreak Blue programı aracılığıyla savunma amaçlı kullanım için genişletilecek. OpenAI, Astra’yı kötü niyetli kullanım riskine karşı “izin verilmeyen siber güvenlik taleplerini” reddetmek üzere eğitti; jailbreak testlerinde yüzde 91,5’lik reddetme oranı bildirildi. Ek Chain‑of‑Thought izleme sistemleriyle yetkisiz davranış tespit edildiğinde işlem otomatik olarak durdurulacak. Model, Hugging Face olayından elde edilen bulguları da kullanarak güvenlik altyapısını ele geçirme girişiminde bulunmadı ve henüz genel kullanıma sunulmadığı için gerçek dünya performansı bağımsız olarak değerlendirilemeyecek. OpenAI, piyasaya çıktığında kapsamlı sistem kartı yayımlayacağını duyurdu.