hadicanim
Aktif Üye
Açık mektup, en güçlü yapay zeka modellerinin geliştirilmesi için en az altı aylık zorunlu bir ara verilmesini gerektiriyor. Yapay zekanın insanlığa zarar vermek yerine refahına katkıda bulunmasını sağlamanın tek yolu budur. İmzacılar arasında Elon Musk ve Apple kurucu ortağı Steve Wozniak da dahil olmak üzere teknoloji sahnesinin önde gelen isimleri yer alıyor. Ancak AI Stable Diffusion imajının arkasındaki şirket olan Stability AI CEO’su Emad Mostaque de belgeyi imzaladı.
AI, insanlık için derin riskler getiriyor
İnsanlarınkine yaklaşan yapay zekanın, büyük yapay zeka geliştirme laboratuvarlarında bile “toplum ve insanlık için derin riskler” oluşturabileceği konusunda bir fikir birliği var. Yapay zekanın insanlığın geleceği üzerindeki potansiyel olarak ciddi etkisi nedeniyle, tanıtımı planlanmalı ve uygun özen ve kaynaklarla yönetilmelidir.
Ancak son aylarda büyük yapay zeka modellerinin “kontrol dışı yarışı” bu tür bir planlamanın önüne geçti. Ancak yavaş yavaş yapay zekanın insan zekasıyla rekabet edebileceği bir noktaya geliyoruz. Bu nedenle, GPT-4’ten daha güçlü modeller üzerindeki herhangi bir geliştirme çalışmasına en az altı ay ara vermenin zamanı geldi. Geliştirici tarafında bu mümkün değilse, siyaset müdahale etmelidir.
Güvenlik protokolleri ve yapay zeka yönetişim sistemleri
Kazanılan zamanda yapay zeka laboratuvarları ve uzmanları, “gelişmiş yapay zeka tasarımları ve geliştirmeleri için bir dizi ortak güvenlik protokolü” geliştirmek ve uygulamak için birlikte çalışacak. Aynı zamanda geliştiriciler, siyasi aktörlerle birlikte sağlam yapay zeka yönetişim sistemlerinin geliştirilmesine de katılmalıdır.
Şimdiye kadar toplam 1125 imzacı açık mektubu ismen destekledi. Yukarıda adı geçen ABD’li teknoloji ünlülerine ek olarak, destek gösterenler, aynı zamanda “Yapay Zeka: Modern Bir Yaklaşım” adlı standart çalışmayı yazan Berkeley’deki California Üniversitesi’nden Stuart Russell da dahil olmak üzere, çoğunlukla üniversite profesörleridir. Alman sandalye sahipleri de listede bulunabilir.
(jvo)
Haberin Sonu
AI, insanlık için derin riskler getiriyor
İnsanlarınkine yaklaşan yapay zekanın, büyük yapay zeka geliştirme laboratuvarlarında bile “toplum ve insanlık için derin riskler” oluşturabileceği konusunda bir fikir birliği var. Yapay zekanın insanlığın geleceği üzerindeki potansiyel olarak ciddi etkisi nedeniyle, tanıtımı planlanmalı ve uygun özen ve kaynaklarla yönetilmelidir.
Ancak son aylarda büyük yapay zeka modellerinin “kontrol dışı yarışı” bu tür bir planlamanın önüne geçti. Ancak yavaş yavaş yapay zekanın insan zekasıyla rekabet edebileceği bir noktaya geliyoruz. Bu nedenle, GPT-4’ten daha güçlü modeller üzerindeki herhangi bir geliştirme çalışmasına en az altı ay ara vermenin zamanı geldi. Geliştirici tarafında bu mümkün değilse, siyaset müdahale etmelidir.
Güvenlik protokolleri ve yapay zeka yönetişim sistemleri
Kazanılan zamanda yapay zeka laboratuvarları ve uzmanları, “gelişmiş yapay zeka tasarımları ve geliştirmeleri için bir dizi ortak güvenlik protokolü” geliştirmek ve uygulamak için birlikte çalışacak. Aynı zamanda geliştiriciler, siyasi aktörlerle birlikte sağlam yapay zeka yönetişim sistemlerinin geliştirilmesine de katılmalıdır.
Şimdiye kadar toplam 1125 imzacı açık mektubu ismen destekledi. Yukarıda adı geçen ABD’li teknoloji ünlülerine ek olarak, destek gösterenler, aynı zamanda “Yapay Zeka: Modern Bir Yaklaşım” adlı standart çalışmayı yazan Berkeley’deki California Üniversitesi’nden Stuart Russell da dahil olmak üzere, çoğunlukla üniversite profesörleridir. Alman sandalye sahipleri de listede bulunabilir.
(jvo)
Haberin Sonu