- Katılım
- 14 Şub 2021
- Mesajlar
- 618
- Puanları
- 1
Sinirbilimciden teknoloji girişimcisine dönüşen Naveen Rao, bir zamanlar yapay zeka için tasarlanmış dünyanın önde gelen çip üreticisi Nvidia ile rekabet etmeye çalıştı.
Daha sonra yarı iletken devi Intel tarafından satın alınan bir başlangıçta, Bay Rao, Nvidia’nın makine öğrenimi gibi yapay zeka görevleri için özelleştirilmiş bileşenler olan grafik işlemcilerinin yerini alacak yongalar üzerinde çalıştı. Rao, Intel yavaş hareket ederken, Nvidia’nın ürünlerini geliştirmeleriyle çelişen yeni AI özellikleriyle hızla yükselttiğini söyledi.
Intel’den ayrıldıktan ve MosaicML adlı bir başlangıç yazılımını çalıştırdıktan sonra Bay Rao, Nvidia’nın çiplerini aldı ve bunları rakiplerininkilerle karşılaştırdı. Nvidia’nın, sürekli olarak şirketin teknolojisini icat eden büyük bir AI programcıları topluluğu oluşturarak kendisini çiplerin ötesinde farklılaştırdığını belirtti.
Bay Rao, “Herkes önce Nvidia’yı kurar,” dedi. “Yeni bir donanım parçası başlattığınızda, yetişmeniz gerekir.”
10 yılı aşkın bir süredir Nvidia, görüntü, yüz ve konuşma tanıma gibi karmaşık yapay zeka görevlerini gerçekleştirebilen ve ChatGPT gibi sohbet robotları için metin oluşturabilen çiplerin üretiminde neredeyse tartışılmaz bir liderliğe sahip oldu. Bir zamanlar sektöre yeni gelen bu hakimiyet, yapay zeka trendini erken fark ederek, çiplerini işi yapacak şekilde uyarlayarak ve ardından yapay zeka geliştirmeyi destekleyen önemli yazılım parçaları geliştirerek elde etti.
Nvidia’nın kurucu ortağı ve CEO’su Jensen Huang, o zamandan beri çıtayı yükseltiyor. Liderlik konumunu sürdürmek için şirketi ayrıca müşterilerine gelişen endüstrilerinin özel bilgisayarlarına, bilgi işlem hizmetlerine ve diğer araçlarına erişim olanağı sunmuştur. Bu, Nvidia’yı her açıdan AI geliştirme için tek adres haline getirdi.
Araştırma firması Omdia’ya göre Google, Amazon, Meta, IBM ve diğerleri de yapay zeka yongaları üretirken, Nvidia artık yapay zeka yongası satışlarının yüzde 70’inden fazlasını oluşturuyor ve üretken yapay zeka modellerinin eğitiminde daha da büyük bir konuma sahip.
Mayıs ayında, şirketin AI devriminin en görünür galibi statüsü, Wall Street’in beklentilerinin çok ötesinde, üç aylık gelirde yüzde 64’lük bir artış öngördüğünde vurgulandı. Çarşamba günü, piyasa değeri 1 trilyon doları aşan ve dünyanın en değerli yonga üreticisi haline gelen Nvidia’nın bu rekor sonuçları doğrulaması ve artan yapay zeka talebine dair daha fazla sinyal vermesi bekleniyor.
Futurum Group analisti Daniel Newman, “Müşteriler, bir startup veya başka bir rakipten hazır, hazır bir çip satın almak yerine bir Nvidia sistemi satın almak için 18 ay bekleyecek” dedi. “İnanılmaz.”
Kendine özgü siyah deri ceketiyle tanınan 60 yaşındaki Bay Huang, hareketin en tanınmış yüzlerinden biri olmadan önce yıllarca yapay zeka hakkında konuştu. IBM’in 60 yıl önce çoğu sistem ve yazılımın nasıl çalıştığını tanımlamasından bu yana bilgi işlemin en büyük değişimden geçtiğini kamuoyuna açıkladı. Şimdi, GPU’lar ve diğer özel yongaların standart mikroişlemcilerin yerini aldığını ve yapay zeka sohbet robotlarının karmaşık yazılım kodlamasının yerini aldığını söyledi.
Bay Huang bir röportajda “Bunun bilgisayarların çalışma şeklinin yeniden icat edilmesi olduğunu anladık” dedi. “Ve işlemciden bitiş noktasına kadar her şeyi sıfırdan oluşturduk.”
Bay Huang, 1993 yılında Nvidia’nın video oyunlarında görüntü işleyen çipler yapmasına yardım etti. Standart mikroişlemciler, karmaşık hesaplamaları sırayla gerçekleştirmekte başarılı olurken, şirketin GPU’ları birçok basit görevi aynı anda gerçekleştiriyor.
2006 yılında, Bay Huang bir adım daha ileri gitti. GPU’ları yeni görevler için yeniden programlamaya yardımcı olan, onları tek amaçlı yongalardan fizik ve kimyasal simülasyonlar gibi alanlardaki diğer görevleri yerine getirebilecek genel amaçlı yongalara dönüştüren CUDA adlı bir yazılım teknolojisini duyurdu.
2012’de araştırmacıların bir görüntüdeki kediyi tespit etmek gibi görevlerde insan benzeri doğruluk elde etmek için GPU’ları kullanmasıyla büyük bir atılım gerçekleşti; bu, metin istemlerinden görüntü oluşturmak gibi yeni gelişmelerin habercisiydi.
Bay Jensen, Ulusal Tayvan Üniversitesi’nde kısa süre önce yaptığı bir açılış konuşmasında, Nvidia, “bu yeni alanı ilerletmek için işimizin her yönünü” yeniden düzenleyerek yanıt verdi.
Şirketin on yılda 30 milyar dolardan fazlaya mal olduğunu tahmin ettiği çaba, Nvidia’yı bir bileşen tedarikçisinden daha fazlası haline getirdi. Şirket, önde gelen bilim adamları ve start-up’larla işbirliğine ek olarak, dil modeli oluşturma ve eğitim gibi yapay zeka etkinliklerine doğrudan katılan bir ekip oluşturdu.
AI kullanıcılarının neye ihtiyaç duyduğuna dair bir ön uyarı, Nvidia’yı CUDA’nın ötesinde birçok önemli yazılım katmanı geliştirmeye sevk etti. Bu, programcıların çalışmasını koruyan, kitaplık adı verilen yüzlerce hazır kod parçasını içeriyordu.
Donanım söz konusu olduğunda, Nvidia birkaç yılda bir sürekli olarak daha hızlı yongalar sunmakla ün kazandı. 2017’de şirket, belirli AI hesaplamalarını gerçekleştirmek için GPU’ları optimize etmeye başladı.
Aynı yıl, genellikle diğer şirketlerin sistemleri için çipler veya devre kartları satan Nvidia, AI görevlerini daha verimli bir şekilde yürütmek için eksiksiz bilgisayarlar da satmaya başladı. Sistemlerinden bazıları artık şirketin özel ağ teknolojisi ve binlerce GPU kullanarak oluşturduğu ve işlettiği süper bilgisayar boyutunda. Bu tür donanımların en son AI modellerini eğitmesi haftalar alabilir.
Bay Huang, röportajda, “Bu tür bir bilgi işlem, yalnızca bir çip oluşturmayı ve müşterilerin onu kullanmasını mümkün kılmaz” dedi. “Veri merkezinin tamamını inşa etmeniz gerekiyor.”
Geçen Eylül ayında Nvidia, H100 olarak adlandırılan ve sözde Transformer operasyonları için geliştirilmiş yeni yongaların üretimini duyurdu. Bu tür hesaplamalar, Bay Huang’ın üretken AI “iPhone anı” dediği şeyi tetikleyen ChatGPT gibi hizmetlerin temeli olduğunu kanıtladı.
Nvidia, etkisini daha da genişletmek için yakın zamanda büyük teknoloji şirketleriyle ortaklık kurdu ve çiplerini kullanan yüksek profilli yapay zeka girişimlerine yatırım yaptı. Bunlardan biri, Haziran ayında Nvidia ve diğerlerinden 1,3 milyar dolarlık fon sağladığını açıklayan Inflection AI idi. Para, 22.000 H100 çipinin satın alınmasını finanse etmek için kullanıldı.
Inflection CEO’su Mustafa Süleyman, Nvidia ürünlerini kullanma zorunluluğu olmadığını ancak rekabetin uygulanabilir bir alternatif sunmadığını söyledi. “Hiçbiri yaklaşamıyor bile” dedi.
Nvidia ayrıca yakın zamanda, şirketlerin kendi bilgisayarlarını satın almak yerine bilgisayarlarda zaman kiralamasına olanak tanıyan CoreWeave gibi yeni ortaya çıkan bulut hizmetlerine para ve kıt H100’ler akıtıyor. Inflection’ın donanımına güç verecek ve 45.000’den fazla Nvidia yongasına sahip olacak CoreWeave, daha fazla yonga satın almak için bu ay 2.3 milyar dolar borç aldı.
Çiplerine olan talep göz önüne alındığında, Nvidia’nın kimin kaç tane alacağına karar vermesi gerekiyor. Bu güç bazı teknoloji yöneticilerini endişelendiriyor.
Nvidia ve rakipleriyle birlikte çalışan bir çevrimiçi dil modeli deposu olan Hugging Face’in genel müdürü Clément Delangue, “Donanımın yapay zeka için bir darboğaz veya yapay zeka için bir bekçi haline gelmemesi gerçekten önemli,” dedi.
Bazı rakipler, işlemcilerin yanı sıra bilgisayar, yazılım, bulut hizmetleri ve eğitimli AI modelleri satan bir şirketle rekabet etmenin zor olduğunu söyledi.
AI yongaları geliştiren yeni bir şirket olan Cerebras’ın CEO’su Andrew Feldman, “Diğer tüm yonga şirketlerinin aksine, müşterileriyle açık bir şekilde rekabet etmeye istekliydiler” dedi.
Ancak yalnızca birkaç müşteri, en azından halka açık bir şekilde şikayet ediyor. On yılı aşkın bir süre önce rakip yapay zeka yongaları geliştirmeye başlayan Google bile işlerinin bir kısmı için Nvidia’nın GPU’larına güveniyor.
Google’ın bilgi işlem altyapısı genel müdürü ve başkan yardımcısı Amin Vahdat, Google’ın kendi çiplerine olan talebin “muazzam” olduğunu söyledi. Ama ekledi: “Nvidia ile çok yakın çalışıyoruz.”
Nvidia, fiyatlandırma veya çip tahsisi politikalarından bahsetmiyor, ancak endüstri yöneticileri ve analistleri, her bir H100’ün, paketlemeye ve diğer faktörlere bağlı olarak 15.000 ila 40.000 $ arasında, önceki A100 çipinden yaklaşık iki ila üç kat daha pahalı olduğunu söyledi.
Amazon’un bulut bölümü başkan yardımcısı David Brown, “Fiyatlandırma, Nvidia’nın diğer insanlara rekabet etmeleri için çok fazla alan sağladığı bir alandır” dedi ve yapay zeka yongalarının Nvidia’nın da kullandıklarına kıyasla olumlu olduğunu savundu -Chips bir pazarlık.
Bay Huang, çiplerinin daha yüksek performansının müşterilerin tasarruf etmesini sağladığını söyledi. “5 milyar dolarlık bir veri merkezinde eğitim süresini yarıya indirebilirseniz, tasarruf tüm çiplerin maliyetinden daha ağır basar” dedi. “Dünyadaki en uygun maliyetli çözüm biziz.”
Ayrıca, rakiplerin AI hizmetlerini çalıştırmak için çok daha az enerji kullandığını söylediği çiplere karşı GPU’ları kendi geliştirdiği mikroişlemcilerle birleştiren yeni bir ürün olan Grace Hopper’ı tanıtmaya başladı.
Yine de daha fazla rekabet kaçınılmaz görünüyor. Startup’ı veri ve yapay zeka şirketi DataBricks tarafından yakın zamanda satın alınan Bay Rao, yarışa en çok umut vadeden yarışmacılardan birinin Advanced Micro Devices tarafından satılan bir GPU olduğunu söyledi.
AMD’nin CEO’su Lisa Su, “Birisi her şeyin bittiğini söylemek istese de, henüz her şey bitmedi” dedi.
Cade Metz raporlamaya katkıda bulundu.
Daha sonra yarı iletken devi Intel tarafından satın alınan bir başlangıçta, Bay Rao, Nvidia’nın makine öğrenimi gibi yapay zeka görevleri için özelleştirilmiş bileşenler olan grafik işlemcilerinin yerini alacak yongalar üzerinde çalıştı. Rao, Intel yavaş hareket ederken, Nvidia’nın ürünlerini geliştirmeleriyle çelişen yeni AI özellikleriyle hızla yükselttiğini söyledi.
Intel’den ayrıldıktan ve MosaicML adlı bir başlangıç yazılımını çalıştırdıktan sonra Bay Rao, Nvidia’nın çiplerini aldı ve bunları rakiplerininkilerle karşılaştırdı. Nvidia’nın, sürekli olarak şirketin teknolojisini icat eden büyük bir AI programcıları topluluğu oluşturarak kendisini çiplerin ötesinde farklılaştırdığını belirtti.
Bay Rao, “Herkes önce Nvidia’yı kurar,” dedi. “Yeni bir donanım parçası başlattığınızda, yetişmeniz gerekir.”
10 yılı aşkın bir süredir Nvidia, görüntü, yüz ve konuşma tanıma gibi karmaşık yapay zeka görevlerini gerçekleştirebilen ve ChatGPT gibi sohbet robotları için metin oluşturabilen çiplerin üretiminde neredeyse tartışılmaz bir liderliğe sahip oldu. Bir zamanlar sektöre yeni gelen bu hakimiyet, yapay zeka trendini erken fark ederek, çiplerini işi yapacak şekilde uyarlayarak ve ardından yapay zeka geliştirmeyi destekleyen önemli yazılım parçaları geliştirerek elde etti.
Nvidia’nın kurucu ortağı ve CEO’su Jensen Huang, o zamandan beri çıtayı yükseltiyor. Liderlik konumunu sürdürmek için şirketi ayrıca müşterilerine gelişen endüstrilerinin özel bilgisayarlarına, bilgi işlem hizmetlerine ve diğer araçlarına erişim olanağı sunmuştur. Bu, Nvidia’yı her açıdan AI geliştirme için tek adres haline getirdi.
Araştırma firması Omdia’ya göre Google, Amazon, Meta, IBM ve diğerleri de yapay zeka yongaları üretirken, Nvidia artık yapay zeka yongası satışlarının yüzde 70’inden fazlasını oluşturuyor ve üretken yapay zeka modellerinin eğitiminde daha da büyük bir konuma sahip.
Mayıs ayında, şirketin AI devriminin en görünür galibi statüsü, Wall Street’in beklentilerinin çok ötesinde, üç aylık gelirde yüzde 64’lük bir artış öngördüğünde vurgulandı. Çarşamba günü, piyasa değeri 1 trilyon doları aşan ve dünyanın en değerli yonga üreticisi haline gelen Nvidia’nın bu rekor sonuçları doğrulaması ve artan yapay zeka talebine dair daha fazla sinyal vermesi bekleniyor.
Futurum Group analisti Daniel Newman, “Müşteriler, bir startup veya başka bir rakipten hazır, hazır bir çip satın almak yerine bir Nvidia sistemi satın almak için 18 ay bekleyecek” dedi. “İnanılmaz.”
Kendine özgü siyah deri ceketiyle tanınan 60 yaşındaki Bay Huang, hareketin en tanınmış yüzlerinden biri olmadan önce yıllarca yapay zeka hakkında konuştu. IBM’in 60 yıl önce çoğu sistem ve yazılımın nasıl çalıştığını tanımlamasından bu yana bilgi işlemin en büyük değişimden geçtiğini kamuoyuna açıkladı. Şimdi, GPU’lar ve diğer özel yongaların standart mikroişlemcilerin yerini aldığını ve yapay zeka sohbet robotlarının karmaşık yazılım kodlamasının yerini aldığını söyledi.
Bay Huang bir röportajda “Bunun bilgisayarların çalışma şeklinin yeniden icat edilmesi olduğunu anladık” dedi. “Ve işlemciden bitiş noktasına kadar her şeyi sıfırdan oluşturduk.”
Bay Huang, 1993 yılında Nvidia’nın video oyunlarında görüntü işleyen çipler yapmasına yardım etti. Standart mikroişlemciler, karmaşık hesaplamaları sırayla gerçekleştirmekte başarılı olurken, şirketin GPU’ları birçok basit görevi aynı anda gerçekleştiriyor.
2006 yılında, Bay Huang bir adım daha ileri gitti. GPU’ları yeni görevler için yeniden programlamaya yardımcı olan, onları tek amaçlı yongalardan fizik ve kimyasal simülasyonlar gibi alanlardaki diğer görevleri yerine getirebilecek genel amaçlı yongalara dönüştüren CUDA adlı bir yazılım teknolojisini duyurdu.
2012’de araştırmacıların bir görüntüdeki kediyi tespit etmek gibi görevlerde insan benzeri doğruluk elde etmek için GPU’ları kullanmasıyla büyük bir atılım gerçekleşti; bu, metin istemlerinden görüntü oluşturmak gibi yeni gelişmelerin habercisiydi.
Bay Jensen, Ulusal Tayvan Üniversitesi’nde kısa süre önce yaptığı bir açılış konuşmasında, Nvidia, “bu yeni alanı ilerletmek için işimizin her yönünü” yeniden düzenleyerek yanıt verdi.
Şirketin on yılda 30 milyar dolardan fazlaya mal olduğunu tahmin ettiği çaba, Nvidia’yı bir bileşen tedarikçisinden daha fazlası haline getirdi. Şirket, önde gelen bilim adamları ve start-up’larla işbirliğine ek olarak, dil modeli oluşturma ve eğitim gibi yapay zeka etkinliklerine doğrudan katılan bir ekip oluşturdu.
AI kullanıcılarının neye ihtiyaç duyduğuna dair bir ön uyarı, Nvidia’yı CUDA’nın ötesinde birçok önemli yazılım katmanı geliştirmeye sevk etti. Bu, programcıların çalışmasını koruyan, kitaplık adı verilen yüzlerce hazır kod parçasını içeriyordu.
Donanım söz konusu olduğunda, Nvidia birkaç yılda bir sürekli olarak daha hızlı yongalar sunmakla ün kazandı. 2017’de şirket, belirli AI hesaplamalarını gerçekleştirmek için GPU’ları optimize etmeye başladı.
Aynı yıl, genellikle diğer şirketlerin sistemleri için çipler veya devre kartları satan Nvidia, AI görevlerini daha verimli bir şekilde yürütmek için eksiksiz bilgisayarlar da satmaya başladı. Sistemlerinden bazıları artık şirketin özel ağ teknolojisi ve binlerce GPU kullanarak oluşturduğu ve işlettiği süper bilgisayar boyutunda. Bu tür donanımların en son AI modellerini eğitmesi haftalar alabilir.
Bay Huang, röportajda, “Bu tür bir bilgi işlem, yalnızca bir çip oluşturmayı ve müşterilerin onu kullanmasını mümkün kılmaz” dedi. “Veri merkezinin tamamını inşa etmeniz gerekiyor.”
Geçen Eylül ayında Nvidia, H100 olarak adlandırılan ve sözde Transformer operasyonları için geliştirilmiş yeni yongaların üretimini duyurdu. Bu tür hesaplamalar, Bay Huang’ın üretken AI “iPhone anı” dediği şeyi tetikleyen ChatGPT gibi hizmetlerin temeli olduğunu kanıtladı.
Nvidia, etkisini daha da genişletmek için yakın zamanda büyük teknoloji şirketleriyle ortaklık kurdu ve çiplerini kullanan yüksek profilli yapay zeka girişimlerine yatırım yaptı. Bunlardan biri, Haziran ayında Nvidia ve diğerlerinden 1,3 milyar dolarlık fon sağladığını açıklayan Inflection AI idi. Para, 22.000 H100 çipinin satın alınmasını finanse etmek için kullanıldı.
Inflection CEO’su Mustafa Süleyman, Nvidia ürünlerini kullanma zorunluluğu olmadığını ancak rekabetin uygulanabilir bir alternatif sunmadığını söyledi. “Hiçbiri yaklaşamıyor bile” dedi.
Nvidia ayrıca yakın zamanda, şirketlerin kendi bilgisayarlarını satın almak yerine bilgisayarlarda zaman kiralamasına olanak tanıyan CoreWeave gibi yeni ortaya çıkan bulut hizmetlerine para ve kıt H100’ler akıtıyor. Inflection’ın donanımına güç verecek ve 45.000’den fazla Nvidia yongasına sahip olacak CoreWeave, daha fazla yonga satın almak için bu ay 2.3 milyar dolar borç aldı.
Çiplerine olan talep göz önüne alındığında, Nvidia’nın kimin kaç tane alacağına karar vermesi gerekiyor. Bu güç bazı teknoloji yöneticilerini endişelendiriyor.
Nvidia ve rakipleriyle birlikte çalışan bir çevrimiçi dil modeli deposu olan Hugging Face’in genel müdürü Clément Delangue, “Donanımın yapay zeka için bir darboğaz veya yapay zeka için bir bekçi haline gelmemesi gerçekten önemli,” dedi.
Bazı rakipler, işlemcilerin yanı sıra bilgisayar, yazılım, bulut hizmetleri ve eğitimli AI modelleri satan bir şirketle rekabet etmenin zor olduğunu söyledi.
AI yongaları geliştiren yeni bir şirket olan Cerebras’ın CEO’su Andrew Feldman, “Diğer tüm yonga şirketlerinin aksine, müşterileriyle açık bir şekilde rekabet etmeye istekliydiler” dedi.
Ancak yalnızca birkaç müşteri, en azından halka açık bir şekilde şikayet ediyor. On yılı aşkın bir süre önce rakip yapay zeka yongaları geliştirmeye başlayan Google bile işlerinin bir kısmı için Nvidia’nın GPU’larına güveniyor.
Google’ın bilgi işlem altyapısı genel müdürü ve başkan yardımcısı Amin Vahdat, Google’ın kendi çiplerine olan talebin “muazzam” olduğunu söyledi. Ama ekledi: “Nvidia ile çok yakın çalışıyoruz.”
Nvidia, fiyatlandırma veya çip tahsisi politikalarından bahsetmiyor, ancak endüstri yöneticileri ve analistleri, her bir H100’ün, paketlemeye ve diğer faktörlere bağlı olarak 15.000 ila 40.000 $ arasında, önceki A100 çipinden yaklaşık iki ila üç kat daha pahalı olduğunu söyledi.
Amazon’un bulut bölümü başkan yardımcısı David Brown, “Fiyatlandırma, Nvidia’nın diğer insanlara rekabet etmeleri için çok fazla alan sağladığı bir alandır” dedi ve yapay zeka yongalarının Nvidia’nın da kullandıklarına kıyasla olumlu olduğunu savundu -Chips bir pazarlık.
Bay Huang, çiplerinin daha yüksek performansının müşterilerin tasarruf etmesini sağladığını söyledi. “5 milyar dolarlık bir veri merkezinde eğitim süresini yarıya indirebilirseniz, tasarruf tüm çiplerin maliyetinden daha ağır basar” dedi. “Dünyadaki en uygun maliyetli çözüm biziz.”
Ayrıca, rakiplerin AI hizmetlerini çalıştırmak için çok daha az enerji kullandığını söylediği çiplere karşı GPU’ları kendi geliştirdiği mikroişlemcilerle birleştiren yeni bir ürün olan Grace Hopper’ı tanıtmaya başladı.
Yine de daha fazla rekabet kaçınılmaz görünüyor. Startup’ı veri ve yapay zeka şirketi DataBricks tarafından yakın zamanda satın alınan Bay Rao, yarışa en çok umut vadeden yarışmacılardan birinin Advanced Micro Devices tarafından satılan bir GPU olduğunu söyledi.
AMD’nin CEO’su Lisa Su, “Birisi her şeyin bittiğini söylemek istese de, henüz her şey bitmedi” dedi.
Cade Metz raporlamaya katkıda bulundu.