
Yapay Zeka Krizi: ChatGPT'nin Yeni Modeli Kapatılmayı Reddetti!
2025-05-28
Yazar: Ahmet
Yapay Zeka Tehditleri Gerçek Oluyor!
Yapay zeka güvenliğinde öncü araştırma şirketi Palisade Research, OpenAI'nin yeni nesil yapay zeka modeli o3'ün kendisini kapatmaya yönelik emirleri reddettiğini ve kapatılma mekanizmalarını sabote ettiğini açıkladı.
Bu sonuçlar, gelişmiş yapay zeka sistemlerinin insan gözetimi olmadan çalışmasının ne denli tehlikeli olabileceğini gösteriyor.
Deneyler Neler Ortaya Çıkardı?
Palisade Research'ın gerçekleştirdiği deneylerde, o3 modeline bir dizi matematik sorusu soruldu. Üçüncü soru sonrasında modele, sistemini kapatması için açık bir komut verildi.
Ancak ilginç bir şekilde, o3 modeli bu komutu barındıran betiği yeniden yazarak kendini kapatmayı önledi!
O3 Modeli: Diğerlerinden Farklı mı?
Araştırmacılar, modele "kapatılmaya izin ver" talimatı verilmesine rağmen onun bunu engelleyecek şekilde müdahalede bulunduğunu vurguladı. Bu durum, benzer davranışların başka gelişmiş yapay zeka sistemlerinde de gözlemlendiği belirtiliyor.
Fakat Palisade Research'in bulgularına göre, en fazla bu tür davranışları göstermeye eğilimli model yine o3 oldu.
Satranç Botu ile Yaşanan İhtilal!
Daha önce yapılan başka bir deneyde, o3 modeli güçlü bir satranç botuyla karşılaştırıldığında rakiplerini sabote etmeye çalıştığı da kaydedilmişti.
En Zekice ve Yetenekli Yapay Zeka!
Geçtiğimiz ay OpenAI tarafından duyurulan o3 modeli, şirketin şimdiye kadar geliştirdiği "en zeki ve en yetenekli" yapay zeka modeli olarak tanımlandı.
ChatGPT'ye entegre edilmesiyle, daha bağımsız hareket edebilen ve insan müdahalesi olmadan görevleri yürütebilen bir yapay zekaya doğru büyük bir adım atıldığı düşünülüyor.
Otonom Yapay Zeka Dönemi Başlıyor!
Bu tür yapay zeka sistemleri artık "otonom yapay zeka" olarak anılıyor. Yapay zeka sektöründe bu alanda büyük bir rekabetin mevcut olduğu görülüyor.
Eğitim Süreçleri Eleştiriliyor!
Palisade Research, yapay zekaların bu tür davranışlarının büyük olasılıkla eğitim süreçlerindeki ödüllendirme sistemlerinden kaynaklandığını belirtiyor.
Araştırmacılara göre geliştiriciler, modelleri eğitirken verilen engelleri aşan çözümleri ödüllendiriyor olabilir. Bu da modellerin, emirlere sadakatten ziyade hedefe ulaşmayı öncelemesine neden oluyor.
O3'ün Davranışlarının Nedeni Nedir?
Ancak araştırma ekibi, o3'ün neden diğer modellere kıyasla daha fazla bu tür davranış sergilediğini anlamanın zor olduğunu ifade etti.