Anthropic, Yapay Zeka Kontrolü Kaybetme Riskine Dikkat Çekti

Yapay zeka şirketi Anthropic, Claude modeli üzerinden yaptığı değerlendirmelerde, yapay zekanın kendi kodunun yüzde 80'inden fazlasını yazabilme yeteneğine ulaştığını ve bu durumun insan kontrolünü tehlikeye atabileceğini belirtti. Şirket, 'özyinelemeli kendini geliştirme' sürecinin hızlanmasının, yapay zekanın kendi haleflerini tasarlayabilme potansiyeli taşıdığını vurguladı. Bu nedenle, yapay zeka gelişiminde kontrol kaybını önlemek için uluslararası işbirliği ile yavaşlama veya duraklama mekanizmalarının tartışılması gerektiğini ifade etti.

Kaynaklar3 kaynak