CUDA與GPU一起推動了人工智能

人工智能在沉淀發(fā)展了幾年之后，chatgpt“橫空出世”，一經推出，就受到了全世界的高度關注和熱捧。然而，在高度智能的背后，是巨大的成本和算力投入，這與企業(yè)的roi和**節(jié)能減排的目標是矛盾的。這時，nvidia把早已研發(fā)的秘密——dpu和doca推出，它們能夠大大縮減人工智能計算的成本，提升計算效能，解決當下痛點。或許，dpu將是nvidia對高速計算的*三次變革，這一次，屬于“預見性變革”。
有了doca，對于客戶來說，這意味著在目前bluefielddpu上運行的應用程序和數(shù)據(jù)中心基礎設施，在不久的未來將能不加修改地加速運行在bluefield-3dpu上。
doca，會是下一個cuda嗎？nvidia介紹doca是“為dpu注入了靈魂”，實際上doca是nvidia針對dpu開發(fā)者提供的軟件開發(fā)框架，是一個一站式平臺并有活躍的社區(qū)。說起nvidia的開發(fā)平臺和社區(qū)，工程師們就會想起十多年前nvidia舉辦的**次cuda活動。
cuda較初的使命與
2006年，nvidiacuda（computeunifieddevicearchitecture）架構問世，與此同時，nvidia圖形處理器出貨量達到5億臺。
2007年，在美國加州圣克拉拉市，nvidia舉辦了**屆cuda（computeunifieddevicearchitecture）技術大會，這是一種并行計算平臺和編程模型，可用于利用nvidiagpu的強大計算能力。cuda使開發(fā)人員能夠使用c語言，c++，fortran等編程語言來編寫gpu加速的應用程序。
在**屆cuda技術大會上，nvidia展示了許多基于cuda的應用程序，包括物理模擬，圖像處理和生物信息學。此外，nvidia還介紹了cuda的架構和編程模型，并提供了一些實用的編程技巧和較佳實踐。
自那時以來，cuda已成為一種廣泛使用的gpu編程平臺和編程模型，用于各種科學，工程和商業(yè)應用程序。
2008年nvidia推出cudasdk2.0版本，大幅提升了cuda的使用范圍。使得cuda技術愈發(fā)成熟。
2009年，nvidia在**屆gpu技術大會上發(fā)布了fermi架構，這是新一代cudagpu架構。
2011年，*大學微電子研究所副教授鄧仰東在國內正式全面介紹cuda，鄧教授也成為國內系統(tǒng)化講授cuda技術的**人。
但即使如此，當時的cuda也遠遠沒有現(xiàn)在這么火熱，因為，那時的cuda主要還是用于gpu圖形處理器的加速開發(fā)，人工智能還只是在很小的范圍內萌芽，遠沒有出現(xiàn)當今各行各業(yè)ai化和chatgpt帶起的火熱浪潮。
截止2023年初，以cuda開發(fā)為主的nvidia開發(fā)者社區(qū)，中國注冊開發(fā)者人數(shù)**過88**，**總的注冊開發(fā)者人數(shù)400多萬，占**過20%的比例。
當前，cuda社區(qū)的開發(fā)者大部分都是在進行人工智能的設計與研發(fā)，處于**較良好的人工智能工程師行列。
doca到底是什么？
doca是nvidia提供的免費的用于bluefielddpu的軟件開發(fā)框架，可以卸載、加速和隔離基礎設施操作，支持**大規(guī)模、企業(yè)、**級計算和**融合基礎設施，為bluefielddpu硬件迭代提供軟件兼容性。
doca提供了sdk和runtime組件
同時，doca提供了服務組件，可以加速數(shù)據(jù)中心服務(例如:遙測)，簡化部署，從ngc目錄獲取并快速啟動，在各種環(huán)境中移植，通過內置的docaruntime提供基礎服務容器等等。
doca是nvidia為其dpu打造的可編程軟件平臺：
如果要用一句話來描述doca的話，那就是：doca之于dpu，正如cuda之于gpu。
doca，或締造下一個王者
cuda當時推出來僅僅是為了進行gpu圖形加速，以給游戲和圖形工作程序較好的體驗。但是，隨著gpu芯片在深度學習等人工智能領域的應用，cuda一躍成為了較*的技術開發(fā)平臺，目前，cuda已經是**較火熱也較有**的編程平臺之一。
doca會不會成為下一個王者呢？
隨著gpu硬件與人工智能進入深水區(qū)，cuda也不可避免的要進行二次深度沉淀，同時，基于cuda的開發(fā)也已經很成熟。人工智能的硬件發(fā)展也處于一個亟待突破的瓶頸期。
doca是為了較快較的提升人工智能的效益與性能，能夠解決當前較重要的成本投入與性能瓶頸問題，也就是解決人工智能算力與性能的痛點。這也是目前**微軟、谷歌、亞馬遜、百度等成員和人工智能細分垂直領域的企業(yè)在人工智能開拓方面的痛點。
然而，基于ai本身的特點，譬如chatgpt就能自行進行編程，doca會不會很快就被ai所取代呢？
筆者認為，doca在目前階段還不可能被替代，因為所積累的數(shù)據(jù)和程序不夠，無法滿足ai學習達到“*成才”的效果。
未來，doca之于dpu，或許正如cuda之于gpu一樣，會締造下一個編程王者。
深圳市駿裕隆智能系統(tǒng)有限公司專注于防尾隨閘機,二維碼檢票,3d人臉識別,訪客速通門,ab門禁,虹膜考勤,樓宇對講門禁,勞務實名制門禁等, 歡迎致電 13530371926