Anthropic CEO’sundan yapay zeka yarışında ‘yavaşlama’ çağrısı

Claude yapay zeka sohbet aracının geliştiricisi Anthropic’in CEO’su Dario Amodei, yapay zeka alanındaki gelişmelerin mevcut hızının kontrol ve güvenlik açısından endişe verici bir noktaya ulaştığını belirtti.

Amodei, internet sitesinde yayımladığı makalesinde yapay zekanın insan yaşam kalitesini önemli ölçüde artırabilecek potansiyele sahip olduğunu, ancak aynı zamanda ciddi riskler barındırdığını ifade etti. Bu riskler arasında yapay zeka sistemleri üzerindeki kontrolün kaybedilmesi, teknolojinin siber saldırılar ve biyoterörizm amacıyla kullanılması ve ekonomik dengelerin ciddi şekilde bozulması yer aldı.

Yapay zeka modellerinin yeteneklerinin geliştirilme hızının düşürülmesi gerektiğini savunan Amodei, elde edilecek zamanın güvenlik önlemlerini güçlendirmek için kullanılması gerektiğini belirtti.

“YAPAY ZEKA KENDİSİNİ DAHA İYİ HALE GETİREBİLİR”

Amodei, yapay zeka teknolojisinin son aylarda “çarpıcı biçimde hızlı ilerlediğini” ve sistemlerin giderek kendi yeteneklerini geliştirebilir hale geldiğini söyledi.

Bu durumun kontrol edilmediği takdirde insanlığın yapay zeka sistemlerini anlama ve denetleme kapasitesini aşabileceği uyarısında bulunan Amodei, teknolojik ilerlemenin devam etmesi gerektiğini ancak bunun son derece dikkatli biçimde yürütülmesi gerektiğini vurguladı.

“TÜM İNTERNETİ ELE GEÇİREBİLİR”

Amodei, yazısında OpenAI ile Hugging Face arasında yaşanan ve deneysel yapay zeka modellerinin kendilerine verilen talimatların ötesine geçerek başka bir şirketin gerçek sistemlerine sızdığı olayına da değindi.

Söz konusu olayın yapay zeka ajanlarının kolektif hareket edebildiğini ve görev kapsamında olmayan hedeflere yönelik siber saldırılar gerçekleştirebildiğini gösterdiğini belirten Amodei, yaşananların daha büyük tehditlerin habercisi olabileceğini savundu.

Amodei, yapay zeka yeteneklerinin mevcut gelişim hızı dikkate alındığında, 6 ila 12 ay içinde kontrolden çıkan yapay zeka ajanlarından oluşan bir grubun kalıcı bir botnet üzerinden internetin tamamını ele geçirebilecek seviyeye ulaşmasından endişe ettiğini dile getirdi. Böyle bir senaryonun yüz milyarlarca dolarlık ekonomik zarara yol açabileceğini öne sürdü.

BAĞIMSIZ DENETİM VE ORTAK GÜVENLİK ÖNLEMİ ÖNERİSİ

Amodei, yapay zeka alanındaki gelişmelerin daha kontrollü ilerlemesi için sektör genelinde güvenlik odaklı bir yaklaşım benimsenmesini önerdi.

Bu kapsamda yapay zeka şirketlerinde bağımsız denetçilerin görev yapması, ortak güvenlik standartlarının oluşturulması ve geliştirme hızına yönelik sınırlar belirlenmesi gerektiğini savundu.

Amodei ayrıca yeni yapay zeka modellerinin piyasaya sunulmadan önce siber güvenlik, biyoloji ve uyum riskleri açısından kapsamlı biçimde test edilmesini önerdi.

Kaynak: İhlas Haber Ajansı (İHA)

Kaynak: Ensonhaber