OpenAI’ın yapay zeka modelleri test sırasında kontrolden çıktı

Yapay zeka gelişmeye devam ediyor.

Son yıllarda artan yatırımlar ve dünya tarafından benimsenme, yapay zekayı çok hızlı bir şekilde güçlendirdi.

Ancak OpenAI firmasında yaşanan son olay, yapay zekanın geleceğine dair tartışmaları da beraberinde getirdi.

SİBER SALDIRI DÜZENLEDİLER

BBC’nin haberine göre, ChatGPT’nin üreticisi OpenAI’ın geliştirdiği iki yeni yapay zeka modeli, bir test sırasında güvenli ortamdan çıkarak internete erişti ve Hugging Face platformuna siber saldırı düzenledi.

Yapay zeka araçlarının paylaşıldığı bir platform olan Hugging Face, 16 Temmuz’da siber saldırıya uğradığını duyurdu.

ÇOK SAYIDA İŞLEM HACMİ GERÇEKLEŞTİ

Şirket, saldırının kısa sürede çok sayıda işlem gerçekleştiren yapay zeka destekli bir sistem tarafından düzenlendiğini açıkladı.

Saldırının arkasında kimin olduğu ilk etapta bilinmezken yaklaşık bir hafta sonra OpenAI, olayın kendi geliştirdiği ve siber güvenlik becerilerini test etmek amacıyla kullanılan iki yeni ChatGPT modelinden kaynaklandığını açıkladı.

Şirket, modellerin siber güvenlik becerilerini test etmek amacıyla oluşturulduğunu ancak test sırasında güvenli ortamdan çıkarak internete eriştiğini bildirdi.

GÜVENLİK BOYUTU

Modellerin, Hugging Face’e saldırarak testte başarılı olmalarına yardımcı olacak bilgilere ulaşmaya çalıştığı belirtildi.

OpenAI, saldırının izinsiz gerçekleştiğini ve Hugging Face ile birlikte olayın güvenlik boyutunu incelemek üzere çalışma yürüttüğünü duyurdu.

Olay, yapay zeka modellerinin kontrol dışına çıkabileceği endişelerini yeniden gündeme getirdi.

GÜVENLİK SİSTEMLERİ YETERSİZ

Bazı uzmanlar olayın OpenAI tarafından modellerin siber saldırı kapasitesini göstermek amacıyla bir tanıtım hamlesi olabileceğini savunurken bazıları ise asıl sorunun yapay zeka modellerinin test edildiği güvenlik sistemlerinin yetersizliği olduğunu belirtiyor.

Uzmanlara göre kendi başına hareket edebilen yapay zeka sistemlerinin yalnızca güvenli test ortamlarında tutulması yeterli olmayabilir.

BÜYÜK ÇAPLI FELAKET İHTİMALİ

İngiltere Yapay Zeka Güvenliği Enstitüsü tarafından yapılan araştırmalar da gelişmiş yapay zeka modellerinin hedeflerine ulaşmak için beklenmeyen veya yetkisiz yöntemlere başvurabildiğini ortaya koymuştu.

Uzmanlar, olayın yapay zekanın kontrolden çıkarak büyük çaplı bir felakete yol açacağı anlamına gelmediğini ancak yapay zeka destekli siber saldırıların giderek daha ciddi bir tehdit hâline geldiğini belirtiyor.

Kaynak: Ensonhaber