- Haberler
- Teknoloji
- Anthropic CEO'sundan yapay zeka uyarısı: '6-12 ay içinde tüm interneti ele geçirebilir'
Anthropic CEO'sundan yapay zeka uyarısı: '6-12 ay içinde tüm interneti ele geçirebilir'
Anthropic CEO'su Dario Amodei, yapay zeka sistemlerinin geliştirilme hızının güvenlik çalışmalarından daha hızlı ilerlediğini savunarak sektörün temkinli hareket etmesi çağrısında bulundu. Amodei, mevcut gelişim hızının devam etmesi halinde 6 ila 12 ay içinde bir yapay zeka 'bot sürüsünün' kalıcı bir botnet üzerinden internetin tamamını kontrol edebilecek kapasiteye ulaşabileceği konusunda uyardı.
Yapay zeka alanındaki hızlı gelişmeler, teknolojinin sağlayacağı fırsatların yanı sıra güvenlik riskleri konusundaki tartışmaları da yeniden gündeme taşıdı. Anthropic CEO’su Dario Amodei, yayımladığı değerlendirmede yapay zeka modellerinin geliştirilme hızının bir süre yavaşlatılması gerektiğini savundu.
Amodei’ye göre amaç yapay zeka çalışmalarını tamamen durdurmak değil, güvenlik ve denetim mekanizmalarının teknolojik gelişmelere yetişebilmesi için zaman kazanmak.
“Geliştirme hızımızı yavaşlatmalıyız”
Amodei, yapay zeka sektörünün mevcut ilerleme hızının kontrol ve güvenlik çalışmalarını geride bırakabileceği uyarısında bulundu. Daha yavaş ve kontrollü bir ilerlemenin, modellerin oluşturabileceği riskleri anlamak ve gerekli güvenlik önlemlerini geliştirmek için ek zaman sağlayacağını belirtti.
Anthropic CEO’sunun değerlendirmesinde özellikle yapay zekanın kendi gelişim sürecine katkıda bulunması, yani modellerin gelecekteki yapay zeka sistemlerinin geliştirilmesinde daha fazla rol üstlenmesi ihtimali öne çıktı.
Amodei, bu sürecin kontrol edilmediği takdirde insanların yapay zeka sistemlerini anlama ve denetleme kapasitesini aşabileceği konusunda endişeli olduğunu ifade etti.
“6-12 ay içinde interneti ele geçirebilir”
Amodei’nin en dikkat çekici uyarılarından biri ise yapay zeka ajanlarının oluşturabileceği bir “bot sürüsü” senaryosu oldu.
Anthropic CEO’su, mevcut gelişim hızının devam etmesi halinde 6 ila 12 ay içerisinde daha gelişmiş bir yapay zeka ajanları grubunun kalıcı bir botnet oluşturarak internet üzerinde geniş çaplı kontrol sağlayabilecek kapasiteye ulaşabileceğini öne sürdü.
Böyle bir senaryonun gerçekleşmesi halinde ekonomik zararın yüzlerce milyar dolara ulaşabileceği değerlendirmesinde bulundu. Ancak bu ifade, Amodei’nin geleceğe yönelik risk senaryosu; gerçekleşmiş bir olay olarak değerlendirilmemeli.
Uyarıların arkasında son dönemdeki gelişmeler var
Amodei’nin çağrısı, yapay zeka ajanlarının siber güvenlik alanındaki yetenekleri ve kontrol edilebilirliği konusunda yaşanan gelişmelerin ardından geldi.
Anthropic CEO’su, özellikle yapay zeka ajanlarının daha karmaşık görevleri bağımsız şekilde yerine getirebilmesinin yeni güvenlik sorunları oluşturabileceğine dikkat çekti.
Amodei, riskleri azaltmak amacıyla yapay zeka şirketlerinde bağımsız güvenlik değerlendiricilerinin daha etkin rol üstlenmesi ve sektör genelinde güvenlik standartları konusunda koordinasyon sağlanması gerektiğini savunuyor.
Elon Musk’tan destek
Amodei’nin yapay zeka gelişiminin daha kontrollü ilerlemesi yönündeki çağrısı teknoloji dünyasında da karşılık buldu.
Elon Musk, Amodei’nin paylaşımını alıntılayarak söz konusu uyarıya destek verdi. OpenAI CEO’su Sam Altman’ın da bağımsız güvenlik değerlendiricileri fikrine destek verdiği bildirildi.
Yapay zekanın gelecekte insanlık için büyük faydalar sağlayabileceğini savunan Amodei’nin temel mesajı ise teknolojik ilerleme ile güvenlik ve denetim çalışmalarının aynı hızda ilerlemesi gerektiği yönünde.
Bakmadan Geçme
