- Katılım
- 14 Şub 2021
- Mesajlar
- 568
- Puanları
- 1
Geçen yıl Sam Altman, OpenAI’yi teknoloji endüstrisinde ön sıralara taşıdı. Son derece popüler sohbet robotu ChatGPT sayesinde, San Francisco’daki startup yapay zeka patlamasının merkezindeydi ve OpenAI CEO’su Bay Altman, teknoloji endüstrisindeki en tanınabilir kişilerden biri haline gelmişti.
Ancak bu başarı şirket içinde gerilimlere yol açtı. OpenAI’yi Bay Altman ve diğer dokuz kişiyle birlikte kuran saygın bir AI araştırmacısı olan Ilya Sutskever, OpenAI teknolojisinin tehlikeli olabileceğinden ve Bay Altman’ın bu riske yeterince dikkat etmediğinden giderek daha fazla endişe duymaya başladı. o insanların düşüncesi. İki kişiye göre, şirketin yönetim kurulu üyesi Bay Sutskever de şirket içindeki sınırlı rolü olarak gördüğü durumu protesto etti.
Hızlı büyüme ile yapay zeka güvenliği arasındaki bu çatışma, Cuma öğleden sonra Bay Altman’ın, Bay Sutskever liderliğindeki OpenAI’nin altı yönetim kurulu üyesinden dördü tarafından işinden uzaklaştırılmasıyla vurgulandı. Bu hamle, OpenAI çalışanlarını ve şirkete 13 milyar dolar yatırım yapan Microsoft da dahil olmak üzere teknoloji sektörünün geri kalanını şok etti. Sektörün içinden bazı kişiler, bölünmenin Steve Jobs’un 1985’te Apple’dan kovulduğu zamanki kadar önemli olduğunu söyledi.
38 yaşındaki Bay Altman’ın görevden alınması, yapay zeka toplumunda uzun süredir devam eden bir ayrılığın altını çizdi: Yapay zekanın bir neslin en büyük iş fırsatı olduğuna inananlar ile çok hızlı hareket etmenin tehlikeli olabileceğinden korkanlar arasında. Ve sonbahar, yapay zeka korkusuna adanmış felsefi bir hareketin teknoloji kültürünün nasıl kaçınılmaz bir parçası haline geldiğini gösterdi.
ChatGPT’nin neredeyse bir yıl önce piyasaya sürülmesinden bu yana yapay zeka, ilaç keşfi veya çocuklara eğitim verme gibi önemli görevlerde kullanılabileceği umuduyla halkın hayal gücünü ele geçirdi. Ancak bazı yapay zeka bilim insanları ve siyasi liderler, işlerin otomatikleştirilmesi veya insan kontrolünün ötesinde otonom savaş gibi risklerden endişe duyuyor.
AI araştırmacılarının tehlikeli bir şey inşa edeceğine dair korkular OpenAI kültürünün ayrılmaz bir parçasıdır. Kurucular, bu riskleri anladıkları için bunu inşa edecek doğru insanlar olduklarına inanıyorlardı.
OpenAI yönetim kurulu, bir blog yazısında kendileriyle dürüst bir şekilde iletişim kurduğuna inanmadığını söylemek dışında, Bay Atman’ı neden görevden aldığına dair belirli bir neden belirtmedi. Haber tarafından görüntülenen bir mesaja göre, Cumartesi sabahı OpenAI çalışanlarına, onun görevden alınmasının “suçlarla veya mali, ticari, güvenlik veya gizlilik uygulamalarımızla ilgili herhangi bir şeyle” hiçbir ilgisi olmadığı söylendi.
Şirketin bir diğer kurucu ortağı ve başkanı Greg Brockman, protesto amacıyla Cuma akşamı istifa etti. OpenAI’nin araştırma direktörü de öyle. Yarım düzine mevcut ve eski çalışana göre şirket Cumartesi sabahı kaos içindeydi ve yaklaşık 700 çalışanı yönetim kurulunun bu hamleyi neden yaptığını anlamakta zorlanıyordu.
OpenAI’nin baş operasyon sorumlusu Brad Lightcap, OpenAI çalışanlarına yazdığı bir notta, “Eminim hepiniz kafanız karışmış, üzgün ve belki de biraz korkuyorsunuzdur” dedi. Tamamen sorunu kontrol altına almaya, çözüm ve netlik için baskı yapmaya ve işe geri dönmeye odaklandık.”
Bay Altman’dan Cuma günü öğlen San Francisco’daki yönetim kurulu toplantısına video aracılığıyla katılması istendi. Konuya aşina bir kişiye göre, 37 yaşındaki Bay Sutskever, şirketin dakikalar sonra yayınladığı blog yazısına çok benzeyen bir senaryoyu okudu. Gönderide Bay Altman’ın “yönetim kuruluyla iletişiminde tutarlı bir şekilde açık olmadığı ve bunun da yönetim kurulunun sorumluluklarını yerine getirme yeteneğini etkilediği” belirtiliyor.
Ancak ilerleyen saatlerde OpenAI çalışanları ve diğerleri, yalnızca Bay Altman’ın ne yapmış olabileceğine değil, aynı zamanda San Francisco’daki startup’ın yapılanma şekline ve yapay zekanın tehlikelerine dair aşırı görüşlere de odaklandılar. Şirketin 2015 yılında kurulduğundan bu yana yaptığı çalışmalar.
Cumartesi günü yorum yapmak için Bay Sutskever ve Bay Altman’a ulaşılamadı.
ChatGPT’nin kalbindeki teknoloji olan GPT-4’ü denetleyen Jakob Pachocki, geçtiğimiz haftalarda şirketin araştırma direktörlüğüne terfi etti. Konuya aşina iki kişiye göre, daha önce Bay Sutskever’in altında bir pozisyonda görev yaptıktan sonra, Bay Sutskever’in yanında bir pozisyona terfi ettirildi.
Halk, Bay Brockman’dan kısa bir süre sonra Bay Pachocki’nin Cuma günü geç saatlerde şirketten ayrıldığını söyledi. Günün erken saatlerinde OpenAI, Bay Brockman’ın genel müdürlük görevinden alındığını ve yeni geçici genel müdür Mira Murati’ye rapor vereceğini söyledi. Aralarında iki kıdemli araştırmacı Szymon Sidor ve Aleksander Madry’nin de bulunduğu Bay Altman’ın diğer müttefikleri de şirketten ayrıldı.
Bay Brockman bir tanesinde şunları söyledi: X’te yayınla, eski Twitter’dan, yönetim kurulu başkanı olmasına rağmen Bay Altman’ın görevden alındığı yönetim kurulu toplantısına katılmadığını söyledi. Geriye Bay Sutskever ve diğer üç yönetim kurulu üyesi kaldı: Soru-cevap sitesi Quora’nın genel müdürü Adam D’Angelo; RAND Corporation’da kıdemli yönetim uzmanı olan Tasha McCauley; ve Georgetown Üniversitesi Güvenlik ve Gelişen Teknoloji Merkezi’nde strateji ve temel araştırma bursları direktörü Helen Toner.
Cumartesi günü yorum yapmak için kendilerine ulaşılamadı.
Bayan McCauley ve Bayan Toner’in, yapay zekanın bir gün insanlığı yok edebileceğinden derin endişe duyan bir topluluk olan Rasyonalist ve Etkili Altruist hareketlerle bağları var. Günümüzün yapay zeka teknolojisi insanlığı yok edemez. Ancak bu topluluk, teknolojinin güçlenmesiyle bu tehlikelerin artacağına inanıyor.
2021 yılında, yine bu toplulukla bağları olan Dario Amodei adlı bir araştırmacı ve yaklaşık 15 OpenAI çalışanı, Anthropic adında yeni bir yapay zeka şirketi kurmak için şirketten ayrıldı.
Bay Sutskever bu inançları giderek daha fazla benimsedi. Sovyetler Birliği’nde doğdu, gelişim yıllarını İsrail’de geçirdi ve genç yaşta Kanada’ya göç etti. Toronto Üniversitesi’nde bir öğrenci olarak sinir ağları adı verilen bir yapay zeka teknolojisinin öncülüğüne yardımcı oldu.
2015 yılında Bay Sutskever, Google’daki işinden ayrıldı ve Bay Altman, Bay Brockman ve Tesla CEO’su Elon Musk ile birlikte OpenAI’nin kurulmasına yardımcı oldu. Laboratuvarı kar amacı gütmeyen bir kuruluş olarak kurdular ve bunun Google ve diğer şirketlerin aksine ticari teşviklerle yönlendirilmeyeceğini söylediler. Beynin yapabileceği her şeyi yapabilen bir makine olan yapay genel zeka (AGI) adı verilen bir makine inşa etme sözü verdiler.
Bay Altman, 2018 yılında OpenAI’yi kâr amacı güden bir şirkete dönüştürdü ve Microsoft ile 1 milyar dolarlık bir yatırım için pazarlık yaptı. Bu kadar büyük miktarda para, bu yılın başında piyasaya sürülen GPT-4 gibi teknolojilerin geliştirilmesi için çok önemli. Microsoft, ilk yatırımından bu yana şirkete 12 milyar dolar daha aktardı.
Şirket kar amacı gütmeyen bir kurul tarafından yönetilmeye devam etti. Microsoft gibi yatırımcılar OpenAI’den kâr elde etse de kârları sınırlıdır. Limiti aşan para kar amacı gütmeyen kuruluşa geri dönüyor.
GPT-4’ün gücünün farkında olan Bay Sutskever, teknolojinin gelecekteki sürümlerinin zarar vermemesini sağlamanın yollarını aramak üzere şirket içinde yeni bir Süper Hizalama ekibinin oluşturulmasına yardımcı oldu.
Bay Altman bu endişelere açıktı ama aynı zamanda OpenAI’nin çok daha büyük rakiplerinin önünde kalmasını da istiyordu. Konuya aşina iki kaynağa göre Bay Altman, yatırımcılarla görüşmek üzere Eylül ayının sonlarında Orta Doğu’ya uçtu. ChatGPT gibi yapay zeka teknolojilerini çalıştıracak bir donanım cihazı üretecek potansiyel bir OpenAI şirketi için Masayoshi Son liderliğindeki Japon teknoloji yatırımcısı SoftBank’tan 1 milyar dolara kadar finansman başvurusunda bulundu.
OpenAI aynı zamanda çalışanların şirket hisselerini nakde çevirmelerine olanak sağlayacak “ihale teklifi” finansmanı hakkında da görüşmelerde bulunuyor. Bu anlaşma, OpenAI’nin değerini 80 milyar dolardan fazla hale getirecek; bu da yaklaşık altı ay önceki değerinin neredeyse üç katı anlamına geliyor.
Ancak şirketin başarısı, yapay zekada bir şeylerin ters gidebileceği yönündeki endişeleri artırmış gibi görünüyor
Bay Sutskever 2 Kasım’da yayınlanan bir podcast’te, “İnsanlardan çok daha akıllı bilgisayarlara (veri merkezlerine) sahip olmamız pek de olası görünmüyor” dedi. “Bu tür yapay zekalar ne yapar? Bilmiyorum.”
Kevin Roose Ve Tripp Mickle raporlamaya katkıda bulunmuştur.
Ancak bu başarı şirket içinde gerilimlere yol açtı. OpenAI’yi Bay Altman ve diğer dokuz kişiyle birlikte kuran saygın bir AI araştırmacısı olan Ilya Sutskever, OpenAI teknolojisinin tehlikeli olabileceğinden ve Bay Altman’ın bu riske yeterince dikkat etmediğinden giderek daha fazla endişe duymaya başladı. o insanların düşüncesi. İki kişiye göre, şirketin yönetim kurulu üyesi Bay Sutskever de şirket içindeki sınırlı rolü olarak gördüğü durumu protesto etti.
Hızlı büyüme ile yapay zeka güvenliği arasındaki bu çatışma, Cuma öğleden sonra Bay Altman’ın, Bay Sutskever liderliğindeki OpenAI’nin altı yönetim kurulu üyesinden dördü tarafından işinden uzaklaştırılmasıyla vurgulandı. Bu hamle, OpenAI çalışanlarını ve şirkete 13 milyar dolar yatırım yapan Microsoft da dahil olmak üzere teknoloji sektörünün geri kalanını şok etti. Sektörün içinden bazı kişiler, bölünmenin Steve Jobs’un 1985’te Apple’dan kovulduğu zamanki kadar önemli olduğunu söyledi.
38 yaşındaki Bay Altman’ın görevden alınması, yapay zeka toplumunda uzun süredir devam eden bir ayrılığın altını çizdi: Yapay zekanın bir neslin en büyük iş fırsatı olduğuna inananlar ile çok hızlı hareket etmenin tehlikeli olabileceğinden korkanlar arasında. Ve sonbahar, yapay zeka korkusuna adanmış felsefi bir hareketin teknoloji kültürünün nasıl kaçınılmaz bir parçası haline geldiğini gösterdi.
ChatGPT’nin neredeyse bir yıl önce piyasaya sürülmesinden bu yana yapay zeka, ilaç keşfi veya çocuklara eğitim verme gibi önemli görevlerde kullanılabileceği umuduyla halkın hayal gücünü ele geçirdi. Ancak bazı yapay zeka bilim insanları ve siyasi liderler, işlerin otomatikleştirilmesi veya insan kontrolünün ötesinde otonom savaş gibi risklerden endişe duyuyor.
AI araştırmacılarının tehlikeli bir şey inşa edeceğine dair korkular OpenAI kültürünün ayrılmaz bir parçasıdır. Kurucular, bu riskleri anladıkları için bunu inşa edecek doğru insanlar olduklarına inanıyorlardı.
OpenAI yönetim kurulu, bir blog yazısında kendileriyle dürüst bir şekilde iletişim kurduğuna inanmadığını söylemek dışında, Bay Atman’ı neden görevden aldığına dair belirli bir neden belirtmedi. Haber tarafından görüntülenen bir mesaja göre, Cumartesi sabahı OpenAI çalışanlarına, onun görevden alınmasının “suçlarla veya mali, ticari, güvenlik veya gizlilik uygulamalarımızla ilgili herhangi bir şeyle” hiçbir ilgisi olmadığı söylendi.
Şirketin bir diğer kurucu ortağı ve başkanı Greg Brockman, protesto amacıyla Cuma akşamı istifa etti. OpenAI’nin araştırma direktörü de öyle. Yarım düzine mevcut ve eski çalışana göre şirket Cumartesi sabahı kaos içindeydi ve yaklaşık 700 çalışanı yönetim kurulunun bu hamleyi neden yaptığını anlamakta zorlanıyordu.
OpenAI’nin baş operasyon sorumlusu Brad Lightcap, OpenAI çalışanlarına yazdığı bir notta, “Eminim hepiniz kafanız karışmış, üzgün ve belki de biraz korkuyorsunuzdur” dedi. Tamamen sorunu kontrol altına almaya, çözüm ve netlik için baskı yapmaya ve işe geri dönmeye odaklandık.”
Bay Altman’dan Cuma günü öğlen San Francisco’daki yönetim kurulu toplantısına video aracılığıyla katılması istendi. Konuya aşina bir kişiye göre, 37 yaşındaki Bay Sutskever, şirketin dakikalar sonra yayınladığı blog yazısına çok benzeyen bir senaryoyu okudu. Gönderide Bay Altman’ın “yönetim kuruluyla iletişiminde tutarlı bir şekilde açık olmadığı ve bunun da yönetim kurulunun sorumluluklarını yerine getirme yeteneğini etkilediği” belirtiliyor.
Ancak ilerleyen saatlerde OpenAI çalışanları ve diğerleri, yalnızca Bay Altman’ın ne yapmış olabileceğine değil, aynı zamanda San Francisco’daki startup’ın yapılanma şekline ve yapay zekanın tehlikelerine dair aşırı görüşlere de odaklandılar. Şirketin 2015 yılında kurulduğundan bu yana yaptığı çalışmalar.
Cumartesi günü yorum yapmak için Bay Sutskever ve Bay Altman’a ulaşılamadı.
ChatGPT’nin kalbindeki teknoloji olan GPT-4’ü denetleyen Jakob Pachocki, geçtiğimiz haftalarda şirketin araştırma direktörlüğüne terfi etti. Konuya aşina iki kişiye göre, daha önce Bay Sutskever’in altında bir pozisyonda görev yaptıktan sonra, Bay Sutskever’in yanında bir pozisyona terfi ettirildi.
Halk, Bay Brockman’dan kısa bir süre sonra Bay Pachocki’nin Cuma günü geç saatlerde şirketten ayrıldığını söyledi. Günün erken saatlerinde OpenAI, Bay Brockman’ın genel müdürlük görevinden alındığını ve yeni geçici genel müdür Mira Murati’ye rapor vereceğini söyledi. Aralarında iki kıdemli araştırmacı Szymon Sidor ve Aleksander Madry’nin de bulunduğu Bay Altman’ın diğer müttefikleri de şirketten ayrıldı.
Bay Brockman bir tanesinde şunları söyledi: X’te yayınla, eski Twitter’dan, yönetim kurulu başkanı olmasına rağmen Bay Altman’ın görevden alındığı yönetim kurulu toplantısına katılmadığını söyledi. Geriye Bay Sutskever ve diğer üç yönetim kurulu üyesi kaldı: Soru-cevap sitesi Quora’nın genel müdürü Adam D’Angelo; RAND Corporation’da kıdemli yönetim uzmanı olan Tasha McCauley; ve Georgetown Üniversitesi Güvenlik ve Gelişen Teknoloji Merkezi’nde strateji ve temel araştırma bursları direktörü Helen Toner.
Cumartesi günü yorum yapmak için kendilerine ulaşılamadı.
Bayan McCauley ve Bayan Toner’in, yapay zekanın bir gün insanlığı yok edebileceğinden derin endişe duyan bir topluluk olan Rasyonalist ve Etkili Altruist hareketlerle bağları var. Günümüzün yapay zeka teknolojisi insanlığı yok edemez. Ancak bu topluluk, teknolojinin güçlenmesiyle bu tehlikelerin artacağına inanıyor.
2021 yılında, yine bu toplulukla bağları olan Dario Amodei adlı bir araştırmacı ve yaklaşık 15 OpenAI çalışanı, Anthropic adında yeni bir yapay zeka şirketi kurmak için şirketten ayrıldı.
Bay Sutskever bu inançları giderek daha fazla benimsedi. Sovyetler Birliği’nde doğdu, gelişim yıllarını İsrail’de geçirdi ve genç yaşta Kanada’ya göç etti. Toronto Üniversitesi’nde bir öğrenci olarak sinir ağları adı verilen bir yapay zeka teknolojisinin öncülüğüne yardımcı oldu.
2015 yılında Bay Sutskever, Google’daki işinden ayrıldı ve Bay Altman, Bay Brockman ve Tesla CEO’su Elon Musk ile birlikte OpenAI’nin kurulmasına yardımcı oldu. Laboratuvarı kar amacı gütmeyen bir kuruluş olarak kurdular ve bunun Google ve diğer şirketlerin aksine ticari teşviklerle yönlendirilmeyeceğini söylediler. Beynin yapabileceği her şeyi yapabilen bir makine olan yapay genel zeka (AGI) adı verilen bir makine inşa etme sözü verdiler.
Bay Altman, 2018 yılında OpenAI’yi kâr amacı güden bir şirkete dönüştürdü ve Microsoft ile 1 milyar dolarlık bir yatırım için pazarlık yaptı. Bu kadar büyük miktarda para, bu yılın başında piyasaya sürülen GPT-4 gibi teknolojilerin geliştirilmesi için çok önemli. Microsoft, ilk yatırımından bu yana şirkete 12 milyar dolar daha aktardı.
Şirket kar amacı gütmeyen bir kurul tarafından yönetilmeye devam etti. Microsoft gibi yatırımcılar OpenAI’den kâr elde etse de kârları sınırlıdır. Limiti aşan para kar amacı gütmeyen kuruluşa geri dönüyor.
GPT-4’ün gücünün farkında olan Bay Sutskever, teknolojinin gelecekteki sürümlerinin zarar vermemesini sağlamanın yollarını aramak üzere şirket içinde yeni bir Süper Hizalama ekibinin oluşturulmasına yardımcı oldu.
Bay Altman bu endişelere açıktı ama aynı zamanda OpenAI’nin çok daha büyük rakiplerinin önünde kalmasını da istiyordu. Konuya aşina iki kaynağa göre Bay Altman, yatırımcılarla görüşmek üzere Eylül ayının sonlarında Orta Doğu’ya uçtu. ChatGPT gibi yapay zeka teknolojilerini çalıştıracak bir donanım cihazı üretecek potansiyel bir OpenAI şirketi için Masayoshi Son liderliğindeki Japon teknoloji yatırımcısı SoftBank’tan 1 milyar dolara kadar finansman başvurusunda bulundu.
OpenAI aynı zamanda çalışanların şirket hisselerini nakde çevirmelerine olanak sağlayacak “ihale teklifi” finansmanı hakkında da görüşmelerde bulunuyor. Bu anlaşma, OpenAI’nin değerini 80 milyar dolardan fazla hale getirecek; bu da yaklaşık altı ay önceki değerinin neredeyse üç katı anlamına geliyor.
Ancak şirketin başarısı, yapay zekada bir şeylerin ters gidebileceği yönündeki endişeleri artırmış gibi görünüyor
Bay Sutskever 2 Kasım’da yayınlanan bir podcast’te, “İnsanlardan çok daha akıllı bilgisayarlara (veri merkezlerine) sahip olmamız pek de olası görünmüyor” dedi. “Bu tür yapay zekalar ne yapar? Bilmiyorum.”
Kevin Roose Ve Tripp Mickle raporlamaya katkıda bulunmuştur.