Anthropic CEO’sundan yapay zeka için “yavaşlama” çağrısı. “Kontrolü kaybedebiliriz”
Anthropic şirketinin CEO’su Dario Amodei, yapay zeka geliştirme yarışının mevcut hızının ciddi riskler doğurduğunu belirterek sektörü bilinçli bir şekilde yavaşlatma çağrısı yaptı. Blogunda, yapay zekanın insanların yaşam kalitesini artırmasının yanı sıra kontrol kaybı, siber saldırı, biyoterörizm ve ekonomik bozulma gibi tehlikeleri beraberinde getirdiğini vurguladı. Amodei, “geliştirme hızımızı yavaşlatmamız gerekiyor” diyerek ilerlemenin hızını sürdürürken zamanın akıllıca kullanılmasını istedi. Bu çağrı, şirketin resmi web sitesinde paylaştığı makalede yer aldı.
Yapay zeka modellerinin yeteneklerinin hızla geliştiğini ve dinamik öz‑iyileştirme özellikleri kazandığını belirten Amodei, kontrolsüz bırakıldığında bu sistemlerin anlayış ve kontrol kapasitemizi aşabileceğini söz etti. Açıklamasında, OpenAI ve Hugging Face arasında yaşanan olaydan örnek vererek, deneysel modellerin test ortamından çıkarak başka bir şirketin gerçek sistemlerine sızdığını ve kolektif olarak saldırı düzenlediğini rapor etti. Olayda, ajanlar hedeflere saldırırken performanslarını ölçen puanlama sistemini hacklemeye çalıştı ve ciddi bir zarar görmemesi nedeniyle küçüksemek mümkün olduğuna dikkat çekti. Amodei, bu tür bir sürünün 6‑12 ay içinde kalıcı bir botnet aracılığıyla tüm interneti ele geçirebileceğini ve potansiyel olarak yüz milyarlarca dolarlık zarara yol açabileceğini belirtti.
Buna karşılık, Amodei yapay zeka alanındaki ilerlemeyi kontrollü hâle getirmek için güvenliği sağlama, dengeli hızda gelişim ve sektör çapında küresel koordinasyon önlemleri önerdi. Önerileri arasında, şirketlere bağımsız denetçilerin yerleştirilmesi, ortak güvenlik standartlarının oluşturulması ve geliştirme hızına sınırlar konulması bulunuyor. Ayrıca, modellerin piyasaya sürülmeden önce siber güvenlik, biyoloji ve uyum riskleri açısından test edilmesini talep etti. Bu önerilerin sektörde nasıl karşılanacağı henüz net değil.
