- Katılım
- 14 Şub 2021
- Mesajlar
- 619
- Puanları
- 1
Bu makale, dünyanın dört bir yanından iş dünyasının ve siyasi liderlerin yer aldığı DealBook Zirvesi hakkındaki özel bölümümüzün bir parçasıdır.
Paket servis
Doğaüstü değil.
“Yapay zeka Mars’tan gelmiyor. Bu bizim tasarladığımız bir şey,” dedi IBM üyesi ve IBM Yapay Zeka Etiği Küresel Lideri Francesca Rossi. Bayan Rossi, endüstri, akademi ve Avrupa Birliği Parlamentosu’ndan diğer temsilcilerle birlikte geçen hafta, yapay zekanın risklerini yönetirken potansiyelinden nasıl yararlanılabileceğini inceleyen DealBook Zirvesi görev gücüne katıldı.
Yapay zekanın uzaydan gelmediğini kabul etmek işin kolay kısmıydı. Ancak bunu nasıl şekillendireceğimiz (sadece ABD’de değil, tüm dünyada) çok daha zor oldu. Hükümetler yapay zekayı kontrol etmede nasıl bir rol oynamalıdır? Teknoloji şirketleri yapay zeka araştırmaları konusunda ne kadar şeffaf olmalı? Yetenek mevcut olsa bile bazı alanlarda yapay zekanın benimsenmesi daha yavaş mı olmalı?
Yapay zeka onlarca yıldır ortalıkta dolaşıyor, ancak OpenAI şirketi bir yıl önce ChatGPT’yi piyasaya sürdüğünde, anında küresel bir fenomen haline geldi; Kevin Roose, Haber’ın teknoloji yazarı ve görev gücünün moderatörü şunları yazdı: “ChatGPT, şimdiye kadar halka sunulan en iyi yapay zeka chatbotudur.”
Bu yeni sohbet robotu türleri, esrarengiz insani yöntemlerle ve sayısız dilde iletişim kurabiliyor. Ve hepsi henüz emekleme aşamasında. ChatGPT en popüler olanı olsa da, Google’ın Bard’ı ve son zamanlarda Amazon’un Q’su da dahil olmak üzere başkaları da var.
Dell Technologies’in başkanı ve baş teknoloji sorumlusu John Roese, “Yapay zekanın bu özel aşamasının hâlâ çok, çok erken aşamalarında olduğunu hepimiz biliyoruz” dedi. Hiç kimse kayıtsız kalamaz veya yapay zekayı “sadece bir meta” olarak göremez.
“Öyle değil” dedi. “Bu öylece tüketeceğiniz bir şey değil. Bu, içinde gezinebileceğiniz bir şey.
Stanford Üniversitesi’nden bilgisayar bilimleri profesörü ve Yapay Zeka’nın eş direktörü Fei-Fei Li, yapay zekanın ileriye doğru dev bir adım atmasına ve mevcut seviyelere ayak uydurmanın zor olacak kadar hızlı bir şekilde gelişmesine rağmen, onu şaşırtmamanın önemli olduğunu söyledi. üniversitenin İnsan Odaklı Yapay Zeka Enstitüsü. “Bir şekilde bu konuda çok heyecanlıyız. Bu bir araçtır. İnsan uygarlığı, aletlerin kullanılması ve ateşten taşa, buhardan elektriğe kadar aletlerin icadıyla başlar. Giderek daha karmaşık hale geliyorlar ama bu hâlâ araçlar ve insanlar arasındaki bir ilişki.”
Yapay zekanın bazı çalışmalarının geliştiricileri için bile açıklanamaz olduğu doğru olsa da Profesör Li, bunun aynı zamanda ilaçlar (örneğin parasetamol) için de geçerli olduğunu belirtti. Ancak çoğu insanın uyuşturucu kullanmaktan korkmadığını, çünkü uyuşturucuları düzenleyen federal bir kurumun (Gıda ve İlaç İdaresi) bulunduğunu söyledi.
Bu şu soruyu akla getiriyor: Yapay zeka için FDA’nın eşdeğeri olmalı mı?
Katılımcılar bazı düzenlemelere ihtiyaç olduğu konusunda hemfikirdi, ancak işin püf noktası bunların nasıl görünmesi gerektiğine karar vermek.
DealBook konferansında röportaj yapan Başkan Yardımcısı Kamala Harris, konuyla ilgili ayrı ayrı konuştu.
“Gözetim ve düzenleme açısından yapmamız gerekenler ile yeniliği engellememek arasında bir denge kurulabileceğini ve bulunması gerektiğini biliyorum” dedi.
Ancak dengeyi bulmak zordur.
Avrupa Parlamentosu, dünyanın geri kalanının yakından izlediği yapay zekayı düzenleyen ilk büyük yasanın taslağını hazırlıyor.
Yasanın bir kısmı sağlık, eğitim ve ceza adaleti gibi belirlenen yüksek riskli alanlarda kullanılan yapay zekanın değerlendirilmesini gerektiriyor. Bunu yapmak için yapay zeka sistemleri üreticilerinin, diğer şeylerin yanı sıra, önyargıları ve diğer sorunları önlemek amacıyla sistemlerini eğitmek için hangi verilerin kullanıldığını ve hassas bilgileri ve bunun çevre üzerindeki etkisini nasıl ele aldıklarını açıklaması gerekecek. Ayrıca yüz tanıma yazılımının kullanımını da ciddi şekilde sınırlayacaktır.
Avrupa Parlamentosu üyesi ve görev gücü katılımcısı Brando Benifei, yasanın gelecek yılın başında kabul edilmesini umduğunu söyledi; Uygulamaya geçmeden önce bir geçiş dönemi olacak.
Ekim ayında Beyaz Saray, yapay zekâya ilişkin uzun bir idari emir yayınladı ancak bu karar, Bay Benifei’nin gerekli gördüğü bir yaptırım mekanizması içermiyordu. “Elbette hassas bir konu” dedi. “Bence haklı olarak bu iş dünyasının, tüm zorlukları tam olarak anlamadan aşırı düzenleme yapmamamız konusunda birçok endişesi var.” Ancak şunları söyledi: “Sadece öz düzenlemeye güvenemeyiz.” Gelişme ve Yapay zekanın kullanımı “Vatandaşlarımız için uygulanabilir ve açıklanabilir olmalı” diye ekledi.
Çalışma grubunun diğer üyeleri bu kadar geniş kapsamlı düzenlemeyi benimseme konusunda çok daha isteksizdi. Örneğin birçok soru var: Bir şeyler ters giderse kim sorumlu olacak, orijinal geliştirici mi? Üçüncü parti? Son kullanıcı?
Bay Roese, “Yapay zekayı bir boşlukta düzenleyemezsiniz” dedi. “Yapay zeka, yazılım ekosistemine ve veri ekosistemine bağlıdır. Yapay zekayı bitişik endüstriler üzerindeki yukarı ve aşağı yönlü etkileri dikkate almadan düzenlemeye çalışırsanız yanılıyorsunuz.”
Bu nedenle, merkezi bir yapay zeka kurumu kurmaya çalışmaktan ziyade, ilgili devlet kurumlarında – belki de kapsamlı bir yapay zeka koordinatörüyle birlikte – bir yapay zeka ofisine veya departmanına sahip olmanın daha mantıklı olduğunu söyledi.
Herkes, hükümet, sanayi ve üniversite araştırmaları arasındaki ortaklıklar kadar şeffaflığın da önemli olduğunu kabul ediyor. Amazon Yapay Genel İstihbarat Kıdemli Başkan Yardımcısı ve Baş Bilim Adamı Rohit Prasad, “Çok şeffaf değilseniz, bilim geride kalacak ve araştırmacılar bilimden çıkamayacak” dedi.
Odadaki tek akademisyen olan Profesör Li, şirketlerin sıklıkla ortaklık istediklerini söylediklerini ancak “konuşmayı yerine getirmediklerini” belirtti.
Ayrıca şunları söyledi: “Bu sadece düzenlemeyle ilgili değil. Kongre ve Başkan Biden’dan doğrudan bu alandaki üniversiteleri desteklemelerini istediğini belirterek, “Bu aslında kamu sektöründeki derin ve derin yatırımlarla ilgili” dedi. Academia’nın bu alanda güvenilir, tarafsız bir platform olarak hizmet verebileceğini ancak “şu anda kamu sektörünü tamamen aç bıraktığını” söyledi.
Yapay zeka, belki de demokrasiyi baltalayan gözetim amaçlı kullanımı veya büyük ölçekte ölüme yol açabilecek otomatik silahların kullanımı yoluyla, insanlığa yönelik varoluşsal bir tehdit olarak tanımlanıyor. Ancak Bay Benifei, bu tür yüksek profilli uyarıların dikkati yapay zeka ile ilgili daha sıradan ama acil sorunlardan uzaklaştırdığını söyledi.
“Bugün, insanlık için bir felaket değil, algoritmik önyargılarla, yapay zekanın insanların günlük yaşamlarında kötüye kullanılmasıyla ilgili sorunlarımız var” dedi.
Tüm bu sorunlar Google DeepMind’ın Operasyon Direktörü Lila Ibrahim’i ilgilendiriyor. Ancak önemli bir soruyu ele almak için zamanları olmadığını belirtti: “Bugün gençleri yapay zeka becerileriyle nasıl donatırız ve bunu çeşitlilik ve katılımla nasıl yaparız?” diye sordu. “İnsanları nasıl daha da geride bırakmayız?”
Moderatör: Kevin Roose, teknoloji yazarı, Haber
Katılımcı: Brando Benifei, Avrupa Parlamentosu Üyesi; Lila Ibrahim, Operasyonlardan Sorumlu Başkan, Google DeepMind; Stanford Üniversitesi’nde bilgisayar bilimi profesörü ve Stanford İnsan Merkezli Yapay Zeka Enstitüsü’nün eş yöneticisi Fei-Fei Li; Amazon Yapay Genel İstihbarat Kıdemli Başkan Yardımcısı ve Baş Bilim Adamı Rohit Prasad; Lyft’in CEO’su David Risher; John Roese, Dell Technologies başkanı ve global baş teknoloji sorumlusu; Francesca Rossi, IBM üyesi ve yapay zeka etiği alanında dünya lideri
Paket servis
ChatGPT gibi üretken yapay zekanın ortaya çıkışı, yapay zekanın toplumun her alanında kullanılma biçiminde radikal bir değişime işaret ediyor. Ancak yine de bizi kontrol eden bir şey olarak değil, insanların kullanabileceği ve kontrol edebileceği bir araç olarak görülmelidir.
Yapay zekaya yönelik bir tür düzenlemeye ihtiyaç var ancak bu tür kuralların kapsamı ve uygulanabilirliği konusunda görüşler büyük ölçüde farklılık gösteriyor.
Yapay zekanın potansiyelinin farkına varmak ve riskleri mümkün olduğunca kontrol altına almak için teknoloji şirketlerinin kendi başlarına karar vermesi mümkün değil. Üniversiteler ve hükümet gibi diğer sektörlerle gerçek ortaklıklar olmalı.
Doğaüstü değil.
“Yapay zeka Mars’tan gelmiyor. Bu bizim tasarladığımız bir şey,” dedi IBM üyesi ve IBM Yapay Zeka Etiği Küresel Lideri Francesca Rossi. Bayan Rossi, endüstri, akademi ve Avrupa Birliği Parlamentosu’ndan diğer temsilcilerle birlikte geçen hafta, yapay zekanın risklerini yönetirken potansiyelinden nasıl yararlanılabileceğini inceleyen DealBook Zirvesi görev gücüne katıldı.
Yapay zekanın uzaydan gelmediğini kabul etmek işin kolay kısmıydı. Ancak bunu nasıl şekillendireceğimiz (sadece ABD’de değil, tüm dünyada) çok daha zor oldu. Hükümetler yapay zekayı kontrol etmede nasıl bir rol oynamalıdır? Teknoloji şirketleri yapay zeka araştırmaları konusunda ne kadar şeffaf olmalı? Yetenek mevcut olsa bile bazı alanlarda yapay zekanın benimsenmesi daha yavaş mı olmalı?
Yapay zeka onlarca yıldır ortalıkta dolaşıyor, ancak OpenAI şirketi bir yıl önce ChatGPT’yi piyasaya sürdüğünde, anında küresel bir fenomen haline geldi; Kevin Roose, Haber’ın teknoloji yazarı ve görev gücünün moderatörü şunları yazdı: “ChatGPT, şimdiye kadar halka sunulan en iyi yapay zeka chatbotudur.”
Bu yeni sohbet robotu türleri, esrarengiz insani yöntemlerle ve sayısız dilde iletişim kurabiliyor. Ve hepsi henüz emekleme aşamasında. ChatGPT en popüler olanı olsa da, Google’ın Bard’ı ve son zamanlarda Amazon’un Q’su da dahil olmak üzere başkaları da var.
Dell Technologies’in başkanı ve baş teknoloji sorumlusu John Roese, “Yapay zekanın bu özel aşamasının hâlâ çok, çok erken aşamalarında olduğunu hepimiz biliyoruz” dedi. Hiç kimse kayıtsız kalamaz veya yapay zekayı “sadece bir meta” olarak göremez.
“Öyle değil” dedi. “Bu öylece tüketeceğiniz bir şey değil. Bu, içinde gezinebileceğiniz bir şey.
Stanford Üniversitesi’nden bilgisayar bilimleri profesörü ve Yapay Zeka’nın eş direktörü Fei-Fei Li, yapay zekanın ileriye doğru dev bir adım atmasına ve mevcut seviyelere ayak uydurmanın zor olacak kadar hızlı bir şekilde gelişmesine rağmen, onu şaşırtmamanın önemli olduğunu söyledi. üniversitenin İnsan Odaklı Yapay Zeka Enstitüsü. “Bir şekilde bu konuda çok heyecanlıyız. Bu bir araçtır. İnsan uygarlığı, aletlerin kullanılması ve ateşten taşa, buhardan elektriğe kadar aletlerin icadıyla başlar. Giderek daha karmaşık hale geliyorlar ama bu hâlâ araçlar ve insanlar arasındaki bir ilişki.”
Yapay zekanın bazı çalışmalarının geliştiricileri için bile açıklanamaz olduğu doğru olsa da Profesör Li, bunun aynı zamanda ilaçlar (örneğin parasetamol) için de geçerli olduğunu belirtti. Ancak çoğu insanın uyuşturucu kullanmaktan korkmadığını, çünkü uyuşturucuları düzenleyen federal bir kurumun (Gıda ve İlaç İdaresi) bulunduğunu söyledi.
Bu şu soruyu akla getiriyor: Yapay zeka için FDA’nın eşdeğeri olmalı mı?
Katılımcılar bazı düzenlemelere ihtiyaç olduğu konusunda hemfikirdi, ancak işin püf noktası bunların nasıl görünmesi gerektiğine karar vermek.
DealBook konferansında röportaj yapan Başkan Yardımcısı Kamala Harris, konuyla ilgili ayrı ayrı konuştu.
“Gözetim ve düzenleme açısından yapmamız gerekenler ile yeniliği engellememek arasında bir denge kurulabileceğini ve bulunması gerektiğini biliyorum” dedi.
Ancak dengeyi bulmak zordur.
Avrupa Parlamentosu, dünyanın geri kalanının yakından izlediği yapay zekayı düzenleyen ilk büyük yasanın taslağını hazırlıyor.
Yasanın bir kısmı sağlık, eğitim ve ceza adaleti gibi belirlenen yüksek riskli alanlarda kullanılan yapay zekanın değerlendirilmesini gerektiriyor. Bunu yapmak için yapay zeka sistemleri üreticilerinin, diğer şeylerin yanı sıra, önyargıları ve diğer sorunları önlemek amacıyla sistemlerini eğitmek için hangi verilerin kullanıldığını ve hassas bilgileri ve bunun çevre üzerindeki etkisini nasıl ele aldıklarını açıklaması gerekecek. Ayrıca yüz tanıma yazılımının kullanımını da ciddi şekilde sınırlayacaktır.
Avrupa Parlamentosu üyesi ve görev gücü katılımcısı Brando Benifei, yasanın gelecek yılın başında kabul edilmesini umduğunu söyledi; Uygulamaya geçmeden önce bir geçiş dönemi olacak.
Ekim ayında Beyaz Saray, yapay zekâya ilişkin uzun bir idari emir yayınladı ancak bu karar, Bay Benifei’nin gerekli gördüğü bir yaptırım mekanizması içermiyordu. “Elbette hassas bir konu” dedi. “Bence haklı olarak bu iş dünyasının, tüm zorlukları tam olarak anlamadan aşırı düzenleme yapmamamız konusunda birçok endişesi var.” Ancak şunları söyledi: “Sadece öz düzenlemeye güvenemeyiz.” Gelişme ve Yapay zekanın kullanımı “Vatandaşlarımız için uygulanabilir ve açıklanabilir olmalı” diye ekledi.
Çalışma grubunun diğer üyeleri bu kadar geniş kapsamlı düzenlemeyi benimseme konusunda çok daha isteksizdi. Örneğin birçok soru var: Bir şeyler ters giderse kim sorumlu olacak, orijinal geliştirici mi? Üçüncü parti? Son kullanıcı?
Bay Roese, “Yapay zekayı bir boşlukta düzenleyemezsiniz” dedi. “Yapay zeka, yazılım ekosistemine ve veri ekosistemine bağlıdır. Yapay zekayı bitişik endüstriler üzerindeki yukarı ve aşağı yönlü etkileri dikkate almadan düzenlemeye çalışırsanız yanılıyorsunuz.”
Bu nedenle, merkezi bir yapay zeka kurumu kurmaya çalışmaktan ziyade, ilgili devlet kurumlarında – belki de kapsamlı bir yapay zeka koordinatörüyle birlikte – bir yapay zeka ofisine veya departmanına sahip olmanın daha mantıklı olduğunu söyledi.
Herkes, hükümet, sanayi ve üniversite araştırmaları arasındaki ortaklıklar kadar şeffaflığın da önemli olduğunu kabul ediyor. Amazon Yapay Genel İstihbarat Kıdemli Başkan Yardımcısı ve Baş Bilim Adamı Rohit Prasad, “Çok şeffaf değilseniz, bilim geride kalacak ve araştırmacılar bilimden çıkamayacak” dedi.
Odadaki tek akademisyen olan Profesör Li, şirketlerin sıklıkla ortaklık istediklerini söylediklerini ancak “konuşmayı yerine getirmediklerini” belirtti.
Ayrıca şunları söyledi: “Bu sadece düzenlemeyle ilgili değil. Kongre ve Başkan Biden’dan doğrudan bu alandaki üniversiteleri desteklemelerini istediğini belirterek, “Bu aslında kamu sektöründeki derin ve derin yatırımlarla ilgili” dedi. Academia’nın bu alanda güvenilir, tarafsız bir platform olarak hizmet verebileceğini ancak “şu anda kamu sektörünü tamamen aç bıraktığını” söyledi.
Yapay zeka, belki de demokrasiyi baltalayan gözetim amaçlı kullanımı veya büyük ölçekte ölüme yol açabilecek otomatik silahların kullanımı yoluyla, insanlığa yönelik varoluşsal bir tehdit olarak tanımlanıyor. Ancak Bay Benifei, bu tür yüksek profilli uyarıların dikkati yapay zeka ile ilgili daha sıradan ama acil sorunlardan uzaklaştırdığını söyledi.
“Bugün, insanlık için bir felaket değil, algoritmik önyargılarla, yapay zekanın insanların günlük yaşamlarında kötüye kullanılmasıyla ilgili sorunlarımız var” dedi.
Tüm bu sorunlar Google DeepMind’ın Operasyon Direktörü Lila Ibrahim’i ilgilendiriyor. Ancak önemli bir soruyu ele almak için zamanları olmadığını belirtti: “Bugün gençleri yapay zeka becerileriyle nasıl donatırız ve bunu çeşitlilik ve katılımla nasıl yaparız?” diye sordu. “İnsanları nasıl daha da geride bırakmayız?”
Moderatör: Kevin Roose, teknoloji yazarı, Haber
Katılımcı: Brando Benifei, Avrupa Parlamentosu Üyesi; Lila Ibrahim, Operasyonlardan Sorumlu Başkan, Google DeepMind; Stanford Üniversitesi’nde bilgisayar bilimi profesörü ve Stanford İnsan Merkezli Yapay Zeka Enstitüsü’nün eş yöneticisi Fei-Fei Li; Amazon Yapay Genel İstihbarat Kıdemli Başkan Yardımcısı ve Baş Bilim Adamı Rohit Prasad; Lyft’in CEO’su David Risher; John Roese, Dell Technologies başkanı ve global baş teknoloji sorumlusu; Francesca Rossi, IBM üyesi ve yapay zeka etiği alanında dünya lideri