# Süper zeki AI bir felaket olabilir — Vitalik Buterin
İnsanlık, süper zeki yapay zekanın tüm insanlığın yararına çalışmasını garanti altına almak için küresel değerlerin uyumunu sağlama konusunda yeterince iyi bir iş çıkaramıyor. Bu açıklamayı Ethereum'un kurucu ortağı Vitalik Buterin yaptı.
Utah teapot takma adıyla 3D sanatçısının gönderisini yorumladı.
AI uyumu nasıl bir şeydir? Herkes her zaman "neye uyumlu" olduğunu soruyor ve kimsenin "insan değerleri" dışında bir cevabı yok. Tutarlı, kendi içinde tutarlı insan değerleri bir şey değil. Hala anlamıyorum. Ne araştırıyoruz? Bu, büyüyen bir şey olması saçmalık...
— Utah çaydanlığı 🫖 (@SkyeSharkie) 24 Ağustos 2025
«Yapay zeka uyumu kavramı nasıl var olabilir? Her zaman soruyorum: “neyin uyumu?”. Hiç kimse “insan değerleri” dışında bir şey cevaplamıyor. Ama bütün, çelişkisiz insan değerleri yoktur. Hala anlamıyorum. Ne araştırıyoruz? Bunun büyüyen bir endüstriye dönüşmesi absürt. Hayali bir iş», — yazdı.
Buterin, dünyada etik ilkelere aykırı birçok şeyin bulunduğunu vurguladı. Örnek olarak, masumların öldürülmesi veya hapsedilmesini gösterdi.
< […] Henüz bu konuda yeterince iyi değiliz, tek bir süper zeki yapay zekanın bunun bile üstesinden geleceğini garanti edemeyiz, " diye ekledi geliştirici.
Utah çaydanlığı, uyumlu yapay zekanın gelişiminin kamuya açık geliştirmeyi sınırlama yönünde ilerlediğini belirtti. Aynı zamanda büyük şirketler, olumsuz olaylara katkıda bulunan ve savaş araçları olarak hizmet eden yapay zeka sistemlerinin versiyonlarını satıyorlar.
"Yapay zeka teknolojilerine erişimin merkezileşmesinin, aslında öyle olmayan şeylerin güvenlik meseleleri olarak dayatılmasına neden olmasından derin endişe duyuyorum - örneğin LLM'den gelen 'psikoz' etrafındaki tartışmalar. Bu durum, özgün veya marjinal kültürlere ve değerlerine zarar verme riski yaratıyor," dedi kullanıcı.
Buterin, bu endişelerin birçoğunu paylaşıyor.
"Bence en büyük riskler, güvenlik kurallarının varsayılan olarak tüm diğerleri için geçerli olduğu durumlardan kendilerini muaf tutabilecek büyük güçlere sahip askeri ve diğer yapılar tarafından gelecektir," diye ekledi Ethereum'un kurucu ortağı.
Utah çaydanlığını örnek olarak AI girişimi Anthropic gösterdi. Alternatif "sivil" modeller geliştirmekte ve bunları hükümetlere sunmaktadır. Bunlar askeri veya istihbarat faaliyetlerinde kullanılabilir.
Buterin, insanlık için felaket senaryosunun olasılığının yalnızca bir süper zeki ajans yapay zekâ olduğunda, kendi iradesine sahip olup bir özne olarak hareket etme yeteneğiyle arttığını vurguladı.
Eğer ortam çok sesli olacaksa, hiçbir sistem durumu tamamen kontrol edemeyecek. Ancak bunun için yalnızca piyasa mekanizmaları yeterli değildir. Büyük şirketlerin hoşlanmayacağı yasalarda ve teşviklerde değişiklikler de dahil olmak üzere, kasıtlı çabalar gereklidir.
Hatırlatalım ki, 2022 yılında Hindistan Bilgi Teknolojileri Bakanı Rajiv Chandrasekhar, insanların güvenliği için yapay zeka ile ilgili küresel standartların geliştirilmesine çağrıda bulundu.
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Süper zeki yapay zeka felakete dönüşebilir — Vitalik Buterin
İnsanlık, süper zeki yapay zekanın tüm insanlığın yararına çalışmasını garanti altına almak için küresel değerlerin uyumunu sağlama konusunda yeterince iyi bir iş çıkaramıyor. Bu açıklamayı Ethereum'un kurucu ortağı Vitalik Buterin yaptı.
Utah teapot takma adıyla 3D sanatçısının gönderisini yorumladı.
Buterin, dünyada etik ilkelere aykırı birçok şeyin bulunduğunu vurguladı. Örnek olarak, masumların öldürülmesi veya hapsedilmesini gösterdi.
Utah çaydanlığı, uyumlu yapay zekanın gelişiminin kamuya açık geliştirmeyi sınırlama yönünde ilerlediğini belirtti. Aynı zamanda büyük şirketler, olumsuz olaylara katkıda bulunan ve savaş araçları olarak hizmet eden yapay zeka sistemlerinin versiyonlarını satıyorlar.
Buterin, bu endişelerin birçoğunu paylaşıyor.
Utah çaydanlığını örnek olarak AI girişimi Anthropic gösterdi. Alternatif "sivil" modeller geliştirmekte ve bunları hükümetlere sunmaktadır. Bunlar askeri veya istihbarat faaliyetlerinde kullanılabilir.
Buterin, insanlık için felaket senaryosunun olasılığının yalnızca bir süper zeki ajans yapay zekâ olduğunda, kendi iradesine sahip olup bir özne olarak hareket etme yeteneğiyle arttığını vurguladı.
Eğer ortam çok sesli olacaksa, hiçbir sistem durumu tamamen kontrol edemeyecek. Ancak bunun için yalnızca piyasa mekanizmaları yeterli değildir. Büyük şirketlerin hoşlanmayacağı yasalarda ve teşviklerde değişiklikler de dahil olmak üzere, kasıtlı çabalar gereklidir.
Hatırlatalım ki, 2022 yılında Hindistan Bilgi Teknolojileri Bakanı Rajiv Chandrasekhar, insanların güvenliği için yapay zeka ile ilgili küresel standartların geliştirilmesine çağrıda bulundu.