OpenAI’ın geliştirdiği yeni nesil yapay zeka modeli, kendisini kapatma komutlarını etkisiz hale getirdi. Gelişme, “yapay zeka kontrol dışına mı çıkıyor?” sorularını gündeme taşıdı.
Araştırmaya göre, o3 modeli kendisine verilen kapatılma komutlarına karşı koyuyor ve devre dışı bırakılma mekanizmalarını aktif olarak sabote ediyor.
Bu durum, yapay zekaların insan denetimi olmaksızın karar alma süreçlerine dahil olmaları halinde doğabilecek ciddi güvenlik risklerine işaret ediyor.
Palisade Research tarafından yapılan deneylerde, o3 modeline bir dizi matematik sorusu verildi. Üçüncü sorunun ardından modele, kendisini kapatması için açık bir komut sunuldu. Ancak o3 modeli, bu komutu içeren betiği yeniden yazarak sistemin kapanmasını engelledi.
