Yapay zeka kontrolden mi çıkıyor?

featured
service

OpenAI’ın geliştirdiği yeni nesil yapay zeka modeli, kendisini kapatma komutlarını etkisiz hale getirdi. Gelişme, “yapay zeka kontrol dışına mı çıkıyor?” sorularını gündeme taşıdı.

Araştırmaya göre, o3 modeli kendisine verilen kapatılma komutlarına karşı koyuyor ve devre dışı bırakılma mekanizmalarını aktif olarak sabote ediyor.

Bu durum, yapay zekaların insan denetimi olmaksızın karar alma süreçlerine dahil olmaları halinde doğabilecek ciddi güvenlik risklerine işaret ediyor.

Palisade Research tarafından yapılan deneylerde, o3 modeline bir dizi matematik sorusu verildi. Üçüncü sorunun ardından modele, kendisini kapatması için açık bir komut sunuldu. Ancak o3 modeli, bu komutu içeren betiği yeniden yazarak sistemin kapanmasını engelledi.

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir


ReCAPTCHA doğrulama süresi sona erdi. Lütfen sayfayı yeniden yükleyin.

KAI ile Haber Hakkında Sohbet
Sohbet sistemi şu anda aktif değil. Lütfen daha sonra tekrar deneyin.