OpenAI’ın yeni yapay zekâsı Astra için sıra dışı karar: En güçlü yetenekleri herkese açılmayacak – Teknoloji Haberleri

OpenAI, yeni yapay zeka modeli Astra’nın “Preparedness Framework” içinde belirlediği “Critical” eşiğini aşarak ilk kez bu seviyeye ulaşan model olduğunu açıkladı. Eşik, modelin uygun araçlar ve erişim sağlandığında, iyi korunmuş sistemlerde daha önce bilinmeyen güvenlik açıklarını tespit edebileceğini ve bu açıkları kullanmak için yöntemler geliştirebileceğini gösteriyor. Açıklamalara göre Astra, bazı görevlerde her adımda insan yönlendirmesine ihtiyaç duymadan çalışabiliyor.

Modelin güvenlik yetenekleri, ExploitBench testinde yüzde 100 puan alarak ortaya kondu. OpenAI, ayrıca yakın zamanda yayımlanan 20 yüksek öneme sahip V8 güvenlik açığından oluşan dahili bir testte, Astra’nın bir exploit zinciri içinde iki sıfır gün güvenlik açığı keşfettiğini ve kullandığını belirtti. Uzman testleri, güçlendirilmiş bir tarayıcıda daha önce bilinmeyen açıklar bulup bunları saldırı zincirlerine dönüştürdüğünü ve işletim sistemindeki birden fazla açığı birleştirerek root yetkisine ulaşabilecek bir zincir oluşturduğunu gösterdi.

Astra’nın piyasaya sürülmesiyle ilgili olarak, OpenAI, modelin en gelişmiş siber güvenlik yeteneklerine erişimin ilk aşamada küçük bir test grubuna kısıtlanacağını ve daha sonra Daybreak Blue programı aracılığıyla savunma amaçlı kullanımın genişletileceğini duyurdu. Model, siber jailbreak taleplerinin yüzde 91,5’ini reddetmek üzere eğitildi; yüksek riskli hesaplarda ise daha sıkı davranış sergileyecek. Ek chain‑of‑thought izleme sistemleri sayesinde, sistem yetkisiz veya beklenmeyen davranış gösterirse işlem otomatik olarak durdurulacak. Astra henüz genel kullanıma sunulmadığından, gerçek‑dünya performansının ve güvenlik önlemlerinin etkinliğinin bağımsız olarak değerlendirilmesi şu an için sınırlı; OpenAI, piyasaya çıktığında kapsamlı bir sistem kartı yayınlamayı planlıyor.