- Katılım
- 14 Şub 2021
- Mesajlar
- 613
- Puanları
- 1
Elon Musk da dahil olmak üzere 1000’den fazla teknoloji lideri ve araştırmacı, yapay zeka laboratuvarlarını en gelişmiş sistemleri geliştirmeyi bırakmaya çağırdı ve açık bir mektupta AI araçlarının “toplum ve insanlık için derin riskler” oluşturduğu konusunda uyarıda bulundu.
Kar amacı gütmeyen kuruluş Çarşamba günü Group Future of Life tarafından yayınlanan mektupta, AI geliştiricilerinin “hiç kimsenin – yaratıcılarının bile – anlayamayacağı, tahmin edemeyeceği veya güvenilir bir şekilde kontrol edemeyeceği, giderek daha güçlü dijital zihinler geliştirmek ve dağıtmak için kontrolden çıkmış bir yarışa yakalandıklarını” söyledi. Enstitü.
Mektubu imzalayanlar arasında Apple’ın kurucu ortaklarından Steve Wozniak; 2020 ABD başkanlık seçimlerinde girişimci ve aday olan Andrew Yang; ve Kıyamet Saati’ni sağlayan Atom Bilimcileri Bülteni Başkanı Rachel Bronson.
Yapay zeka, ChatGPT, Microsoft’un Bing’i ve Google’ın Bard’ı gibi insan benzeri konuşmalar yapabilen, sonsuz çeşitlilikte konularda denemeler oluşturabilen ve bilgisayar kodu yazmak gibi daha karmaşık görevleri gerçekleştirebilen sohbet robotlarına güç verir.
Daha güçlü sohbet robotları yaratma baskısı, teknoloji endüstrisindeki bir sonraki liderleri belirleyebilecek bir yarışı ateşledi. Ancak bu araçlar, ayrıntıları yanlış sunmak ve yanlış bilgi yaymakla eleştirildi.
Açık mektup, Bay Musk’ın kurucu ortağı olduğu OpenAI araştırma laboratuvarı tarafından bu ay başlatılan GPT-4’ten daha güçlü AI sistemlerinin geliştirilmesinde bir duraklama çağrısında bulundu. Mektupta, duraklamanın AI sistemleri için “ortak güvenlik protokollerini” uygulamak için zaman tanıyacağı belirtildi. “Böyle bir duraklama hızlı bir şekilde yasalaştırılamazsa, hükümetler devreye girmeli ve bir moratoryum getirmelidir” diye ekledi.
Mektupta, güçlü yapay zeka sistemlerinin geliştirilmesinin “yalnızca etkilerinin olumlu olacağından ve risklerinin yönetilebilir olacağından emin olduğumuzda devam etmesi” gerektiği belirtiliyor.
Mektupta, “İnsanlık yapay zeka ile müreffeh bir geleceğin tadını çıkarabilir” yazıyor. “Güçlü yapay zeka sistemleri geliştirmeyi başardıktan sonra artık ödülleri topladığımız, bu sistemleri herkesin yararına olacak şekilde geliştirdiğimiz ve topluma uyum sağlama şansı verdiğimiz bir ‘Yapay zeka yazının’ tadını çıkarabiliriz.”
Kar amacı gütmeyen kuruluş Çarşamba günü Group Future of Life tarafından yayınlanan mektupta, AI geliştiricilerinin “hiç kimsenin – yaratıcılarının bile – anlayamayacağı, tahmin edemeyeceği veya güvenilir bir şekilde kontrol edemeyeceği, giderek daha güçlü dijital zihinler geliştirmek ve dağıtmak için kontrolden çıkmış bir yarışa yakalandıklarını” söyledi. Enstitü.
Mektubu imzalayanlar arasında Apple’ın kurucu ortaklarından Steve Wozniak; 2020 ABD başkanlık seçimlerinde girişimci ve aday olan Andrew Yang; ve Kıyamet Saati’ni sağlayan Atom Bilimcileri Bülteni Başkanı Rachel Bronson.
Yapay zeka, ChatGPT, Microsoft’un Bing’i ve Google’ın Bard’ı gibi insan benzeri konuşmalar yapabilen, sonsuz çeşitlilikte konularda denemeler oluşturabilen ve bilgisayar kodu yazmak gibi daha karmaşık görevleri gerçekleştirebilen sohbet robotlarına güç verir.
Daha güçlü sohbet robotları yaratma baskısı, teknoloji endüstrisindeki bir sonraki liderleri belirleyebilecek bir yarışı ateşledi. Ancak bu araçlar, ayrıntıları yanlış sunmak ve yanlış bilgi yaymakla eleştirildi.
Açık mektup, Bay Musk’ın kurucu ortağı olduğu OpenAI araştırma laboratuvarı tarafından bu ay başlatılan GPT-4’ten daha güçlü AI sistemlerinin geliştirilmesinde bir duraklama çağrısında bulundu. Mektupta, duraklamanın AI sistemleri için “ortak güvenlik protokollerini” uygulamak için zaman tanıyacağı belirtildi. “Böyle bir duraklama hızlı bir şekilde yasalaştırılamazsa, hükümetler devreye girmeli ve bir moratoryum getirmelidir” diye ekledi.
Mektupta, güçlü yapay zeka sistemlerinin geliştirilmesinin “yalnızca etkilerinin olumlu olacağından ve risklerinin yönetilebilir olacağından emin olduğumuzda devam etmesi” gerektiği belirtiliyor.
Mektupta, “İnsanlık yapay zeka ile müreffeh bir geleceğin tadını çıkarabilir” yazıyor. “Güçlü yapay zeka sistemleri geliştirmeyi başardıktan sonra artık ödülleri topladığımız, bu sistemleri herkesin yararına olacak şekilde geliştirdiğimiz ve topluma uyum sağlama şansı verdiğimiz bir ‘Yapay zeka yazının’ tadını çıkarabiliriz.”