Anthropic, yapay zeka sistemlerinin kötüye kullanımına yönelik endişe verici bir rapor paylaştı

Anthropic, bugün yapay zeka modellerinin kötüye kullanımına dair bir rapor yayınladı. Rapor, son sekiz ayda model bazlı operasyonların tespit edildiğini ve engellendiğini bildiriyor. Kötüye kullanım alanları arasında siber operasyonlar, etki operasyonları, gözetim, dolandırıcılık, biyolojik silah araştırması, konvansiyonel silah geliştirme ve model damıtma yer alıyor.

Rapor, tehdit aktörlerini devlet destekli gruplar, maddi kazanç odaklı suçlular, ticari casus yazılım sağlayıcıları, devlet propaganda kurumları ve siyasi motivasyonlu kişiler olarak tanımlıyor. Ayrıca, Yemen’in kuzeyinde faaliyet gösteren bir grup, Claude Code’u çok kademeli balistik füze (>2.000 km menzil), güdümlü roket ve hipersonik hava aracı projelerinde kullanmış. Ekip, Claude’u rehberlik, navigasyon, kontrol yazılımları, uçuş bilgisayarı entegrasyonu, simülasyon ve kod inceleme gibi görevlerde bir yazılım mühendisi gibi kullanmış.

Anthropic, çok sayıda isteği engellemesine rağmen grubun bazı korumaları aşarak çalışmalarını farklı oturumlara bölmesini gözlemlemiş. Şirket, Claude ile operasyonel bir silah üretildiğine dair kanıt bulmadığını, ancak grubun bir güdümlü roketle test atışı gerçekleştirdiğini ve başarısızlık sonrası hatayı tespit etmek için tekrar Claude’a başvurduğunu belirtiyor.