金融,到制造,再到其他行業,企業正在紛紛使用 NVIDIA 技術實現可持續 AI。
推動 NVIDIA 不斷進步的雙引擎 —— AI 和加速計算正在助力許多行業提高能效。
這一進步已得到社會各界的認可。
Lisbon Council Research 是一個成立于 2003 年、專門研究經濟和社會問題的非營利組織。該組織在一份報告中指出:“即使數據中心的能耗很快將占到全球總能耗的 4% 的這一預測成為現實, AI 也在減少其余 96% 的能耗方面發揮著重要作用。”
位于布魯塞爾的研究機構發表了一篇文章,是少數幾項嶄露頭角的宏觀 AI 政策研究之一。文章以意大利 Leonardo 超級計算機為例,該計算機配備了近 14,000 個 NVIDIA GPU,是作為系統推動汽車設計、藥物發現和天氣預測等領域工作的一個例證。
TOP500 榜單上最高效超級計算機的能效隨著時間推移在逐漸提高 資料來源:TOP500.org
為什么加速計算是可持續計算
加速計算利用 NVIDIA GPU 的并行處理能力,能夠在更短的時間內完成更多的工作。因此,與使用 CPU 一次處理一項任務的通用服務器相比,加速計算的能耗更少。
這就是為什么加速計算是可持續計算。
與 CPU 相比,加速系統利用 GPU 上的并行處理能力,能夠在更短的時間內完成更多的工作,所消耗的能源也更少
當加速系統應用 AI 時,收益會更大。這是一種固有的并行計算形式,是我們這個時代最具變革性的技術。
該報告稱:“在機器學習或深度學習等前沿應用方面,GPU 的性能比 CPU 高出一個數量級?!?/span>
如果將僅使用 CPU 的操作轉換到使用 GPU 加速系統,HPC 和 AI 工作負載每年可節省超過 40 太瓦時的能源,相當于近 500 萬個美國家庭的用電需求。
NVIDIA 提供了一種結合 GPU、CPU 和 DPU 的方案組合,通過加速計算實現能效的最大化
加速 AI 所帶來的用戶體驗
世界各地的用戶都在記錄使用 AI 和加速計算時的節能效益。
Murex 是一家總部位于巴黎的金融服務公司,每天有超過 6 萬人使用該公司的交易和風險管理平臺。Murex 公司測試了 NVIDIA Grace Hopper 超級芯片。在 Murex 的工作負載上,CPU-GPU 的組合與僅使用 CPU 的系統相比,能耗降低至其四分之一,完成時間縮短至其七分之一(見下圖)。
Murex 量化研究負責人 Pierre Spatz 表示:“在風險計算方面,Grace 不僅是速度最快的處理器,而且更加節能,從而在交易領域使得綠色 IT 成為現實。”
與僅使用 CPU 的系統相比,Grace Hopper GPU 使 Murex 的能耗降低至其四分之一,性能提高了 7 倍
在制造業領域,緯創為 NVIDIA DGX 系統進行熱應力測試的房間建立了數字副本,以改善現場的運營,其使用了工業數字化平臺 NVIDIA Omniverse 和一種能夠進行模擬仿真的 AI 的代理模型。
該數字孿生與數千個聯網傳感器相連,使緯創能夠將其設施的整體能效提升了高達 10%。這相當于每年減少 12 萬千瓦時的耗電量和高達 6 萬千克的碳排放量。
減少高達 80% 的碳排放
根據最近的一項基準測試,The RAPIDS Accelerator for Apache Spark 可以將數據分析(一種廣泛使用的機器學習形式)的碳排放量降低高達 80%,同時將平均速度提高 5 倍,并將計算成本降低至四分之一。
數千家公司(包括絕大多數《財富》500 強企業)使用 Apache Spark 來分析其日益增長的海量數據。使用 NVIDIA Spark 加速器的公司包括 Adobe 和 AT&T 和美國國稅局等。
在 Cloudera 數據平臺上使用 NVIDIA GPU 加速 Spark:
<script src="https://lf3-cdn-tos.bytescm.com/obj/cdn-static-resource/tt_player/tt.player.js?v=20160723"></script>
在醫療健康領域,得益于 NVIDIA 驅動的 AI 平臺,Insilico Medicine 發現了一種治療相對罕見呼吸道疾病的候選藥物。目前,該藥物已進入到第二階段臨床試驗。
如果使用傳統方法,這項工作將耗費超過 4 億美元且耗時長達 6 年。但通過使用生成式 AI,Insilico 只用了十分之一的成本和三分之一的時間就達到了這一階段。
Insilico Medicine 首席執行官 Alex Zhavoronkov 表示:“這項創新對我們以及 AI 加速藥物發現領域的每個人而言,都是一個重要的里程碑。”
安進、寶馬、Foxconn、PayPal 等公司也正在使用加速計算和 AI 實現突破性成果。
使用加速 AI 加快科學研究速度
在基礎研究領域,美國能源部科學局下設機構——美國國家能源研究科學計算中心(NERSC)評估了其四個關鍵高性能計算和 AI 應用在搭載四顆 NVIDIA A100 Tensor Core GPU 的服務器上的運行結果,并與在雙插槽 x86 CPU 服務器上的運行結果進行了對比。
研究人員發現,這些應用在經過 NVIDIA A100 GPU 加速后,平均能效提高了 5 倍(見下圖)。其中一款天氣預報應用的能效提高了近 10 倍。
使用 NVIDIA GPU 平均能效提高了 5 倍
全世界的科學家和研究人員都借助 AI 和加速計算來實現高性能和高效率。
NVIDIA 連續多年為 Green500 全球最節能超級計算機榜單上的系統提供支持。
被低估的節能效果
行業和科學領域的諸多效益有時在預測中被低估了,這些預測只關注了訓練超大型 AI 模型的能耗,而忽視了一個事實,AI 模型在其生命周期中大部分時間都能在消耗相對較低的能源的前提下,為用戶提供上述各種效率。
最近的一項研究引用了幾十個資料來源進行分析并指出,之前有關模型訓練消耗能源多的預測是被夸大的。
華盛頓智庫美國信息技術與創新基金會(ITIF)在其報告中表示:“正如對電子商務和視頻流媒體能源消耗的早期預測最終被證明是夸大其詞一樣,對 AI 的估計也很可能是有誤的?!?/p>
該報告指出,一個 AI 模型運行成本(以及所有效率提升)的 90% 都發生在模型訓練完成并將其部署到應用中后。
該報告作者在最近播客中提出了自己的觀點:“鑒于使用 AI 造福經濟和社會,包括向低碳未來轉型所帶來的巨大機會,政策制定者和媒體必須更加嚴謹地審核有關 AI 對環境產生影響的說法?!?/p>
其他關于 AI 節能效益的說法
另一個來自華盛頓特區的組織 R Street Institute 的政策分析師對此表示贊同。
該組織在一篇 1200 字的文章中寫道:“政策制定者需要做的是幫助大家認識到 AI 的潛在收益,而不是叫停?!?/p>
R Street Institute 提到了 AI 在藥物發現、銀行業務、股票交易和保險方面的明顯優勢并表示:“加速計算以及 AI 的興起為未來帶來了巨大利好,將在經濟增長和社會福利方面帶來顯著的社會效益?!?/p>
該機構還表示,AI 可以提高電網、制造業和交通運輸業的效率。
AI 助力可持續發展工作
報告還提到了加速 AI 在應對氣候變化和推動可持續發展方面的潛力。
R Street 表示:“AI 可以提高天氣建模的準確性,進而改善公共安全,并且更加準確地預測農作物的產量。AI 還有助于開發更加精準的氣候模型。”
Lisbon Council Research 在報告還指出,AI 在“推動解決氣候變化問題所需的創新工作中發揮著至關重要的作用”,例如發現更加高效的電池材料。
AI 如何幫助保護環境
ITIF 呼吁各國政府將 AI 作為實現低碳化的工具。
公共和私營組織機構已經在使用 NVIDIA AI 來保護珊瑚礁、加強對野火和極端天氣的追蹤以及促進可持續農業。
NVIDIA 也正在與數百家初創企業合作來使用 AI 解決氣候問題。NVIDIA 還宣布了 Earth-2 的計劃,該計劃有望成為全球最強大的、氣候科學專用的 AI 超級計算機。
提高整個堆棧的能效
自 1993 年成立以來,NVIDIA 一直致力于提高其所有產品的能效,包括 GPU、CPU、DPU、網絡、系統和軟件以及 Omniverse 等平臺。
在 AI 領域,AI 模型的首要任務是通過推理來提供洞察以幫助用戶提高效率。NVIDIA GB200 Grace Blackwell 超級芯片在 AI 推理方面的能效實現了顯著提升。
在過去八年中,NVIDIA GPU 運行大語言模型的能效提高了 45,000 倍(見下圖)。
得益于 NVIDIA GPU 的進步,LLM 推理能耗在八年內降低至原本的四萬五千分之一
TensorRT-LLM 是軟件領域的最新創新成果之一。它可以幫助 GPU 將 LLM 推理的能耗降低至三分之一。
一個令人驚訝的數據:如果汽車效率的提升可以像 NVIDIA 在其加速計算平臺上所實現的 AI 效率的提升一樣高的程度,那么汽車的油耗可達到每加侖 28 萬英里。這意味著你可以用不到 1 加侖的汽油開車到月球。
從 2016 年到 2025 年,NVIDIA 的 AI 訓練和推理效率提高了 10,000 倍,與汽車燃油效率的提升幅度形成了天壤之別(見下圖)。
從 NVIDIA P100 GPU 到 NVIDIA Grace Blackwell 的 AI 效率躍升幅度與汽車燃油效率提升幅度的比較
提高數據中心效率
NVIDIA 通過系統級創新實現了多種優化。例如,NVIDIA BlueField-3 DPU 通過在效率較低的 CPU 上卸載必要的數據中心網絡和基礎設施功能,減少了 30% 的功耗。
如果網絡基礎設施運營過渡到 DPU,數據中心運營商每臺服務器可節約 30% 的能源
去年,NVIDIA 設計了一種新型數據中心液冷技術,該技術的運行效率將比目前的風冷技術高出 20%,而且碳排放量更小。
這些只是 NVIDIA 為提高數據中心能效所作貢獻的部分方式。
借助 NVIDIA 硬件、軟件和網絡,超級計算機可以實現能效提升
數據中心既是最高效的能源使用者之一,也是可再生能源的最大使用者之一。
ITIF 的報告指出,2010 年至 2018 年間,全球數據中心的計算實例增加了 550%,存儲容量增加了 2400%,但由于硬件和軟件方面的改進,能耗僅增加了 6%。
NVIDIA 將繼續提升加速 AI 的能效,幫助科學界、政府和各行業用戶加速實現可持續計算。
使用 NVIDIA 能效計算器找到提高能效的方法。了解更多信息,請訪問 NVIDIA 可持續計算網站:|可持續計算解決方案 NVIDIANVIDIA HomeMenuMenuCloseCloseCloseCaret down iconCaret down iconCaret up iconCaret right iconCaret right iconCaret right iconCaret left iconCaret left iconCaret left iconShopping CartSearch iconNVIDIA 引領人工智能計算NVIDIANVIDIA。
有沒有遇到過這樣的情況:剛買來的電腦使用起來非常流暢,但用不了多久,打開個文件都要等半天。許多人在遇到這種問題時,都會感到不知所措。你可能會懷疑是不是硬件出了問題,甚至想著要不要換一臺新電腦,但其實很多時候,只需要進行一些簡單的優化操作,就能夠大大提升電腦的性能。
今天,我就來和大家分享一下Windows必做的十大性能優化,讓你的電腦煥發新生。
以上就是Windows必做的十大性能優化,通過這些優化,不僅可以讓你的電腦速度更快,還能延長電腦的使用壽命,不妨動手試一試。
你還有哪些好用的優化方法嗎?歡迎在評論區分享你的經驗和心得。如果覺得本文對你有幫助,別忘了點贊、評論、轉發,讓更多的小伙伴受益!關注我,獲取更多實用的電腦技巧和資訊。
腦運行卡頓了怎么辦?
1. 不管是升級什么,肯定是升級硬件才能治本,不更換硬件最多就是重新安裝系統,安裝軟件多了時間一長還是會卡頓。這里說的是升級硬件,不過首先升級硬件要錢,花錢后當然是想提升的性能越高越好。
2. 今天就來教大家分析升級哪個硬件最具性價比。
題外話:想要提升速度必須升級硬件,其他的都是虛的。如果想不花錢升級硬件就想提升那就請繞道。
3. 準備工作:想要升級電腦首先要知道自己電腦是筆記本還是臺式機,即電腦類型,確定里面各個硬件參數和接口,以防買回來不能用就尷尬了。當然必要的電腦硬件基礎知識要懂,不懂也沒關系,可以聯系我們免費幫你。
4. 這里升級硬件首選硬盤和內存條,其他硬件沒必要。詳解這兩個硬件的作用:
- 硬盤是電腦中的存儲設備,系統和運行的軟件、文件都在電腦硬盤中儲存并運行。
- 內存是電腦的 Ram 設備,程序運行所占用的內存就是這個,理論上容量大同時運行的軟件就多。
5. 電腦的整個速度是由所有硬件綜合決定的,不是哪個強一個弱就會快,這就是木桶效應。
總的來說,對于老舊電腦如果不想換新,又想提升運行速度,那么更換固態硬盤和增加內存條是非常不錯的選擇,能從根本上提升電腦運行速度。
在選擇方面,如果運行內存不足、硬盤性能可以,就加內存條;如果硬盤不行、內存足夠,就更換固態硬盤;如果兩者性能都很差,可以選擇折中處理,加一個差不多的內存條和更換一個差不多的固態硬盤,以此提升電腦運行速度。