天繼續講項目,也是一個非常好的項目,也是Depin+AI賽道的項目,可以注意到此次的牛市是被AI和Depin所引領的,而且他還是sol生態上的,目前銀河上有80萬人在做這個項目的任務,可想而知其熱度,他就是Io.net,有這么多人關注,那么他一定有特別之處,我們今天來研究下,大家趕緊去銀河做任務,因為還沒有發幣,所以可以擼空投。
簡介背景
io.net Cloud是一種先進的分布式計算網絡,允許機器學習工程師以較低成本訪問分布式云集群。
現代機器學習模型經常利用并行和分布式計算。利用多個系統上的多個核心的力量來優化性能或擴展到更大的數據集和模型是至關重要的。訓練和推理過程不僅僅是在單一設備上運行的簡單任務,而是通常涉及一組協調工作的GPU,它們相互協同工作。
不幸的是,由于在公共云中需要更多的GPU,獲取分布式計算資源存在一些挑戰。其中一些最突出的問題包括:
1.有限的可用性:使用AWS、GCP或Azure等云服務通常需要花費幾周的時間才能獲得對硬件的訪問權限,而且常用的GPU型號通常不可用。
2.選擇有限:用戶在GPU硬件、位置、安全級別、延遲等選項方面的選擇很少。
3.高成本:獲取好的GPU非常昂貴,項目很容易在培訓和推斷方面每月花費數十萬美元。
io.net通過聚合來自未充分利用的源的GPU,例如獨立數據中心、加密礦工以及像Filecoin、Render等加密項目,解決了這個問題。這些資源在分布式物理基礎設施網絡(DePIN)中組合,使工程師能夠在一個可訪問、可定制、成本效益高且易于實施的系統中獲得大量計算能力。
通過io.net,團隊可以在最小調整的情況下將其工作負載擴展到一個GPU網絡上。該系統處理編排、調度、容錯和擴展,并支持各種任務,如預處理、分布式訓練、超參數調整、強化學習和模型服務。它專為Python工作負載的通用計算而設計。
io.net的提供專為四個核心功能而構建:
1. 批量推理和模型服務:對傳入數據批次進行推理可以通過將已訓練模型的架構和權重導出到共享對象存儲來并行化。io.net允許機器學習團隊在分布式GPU網絡上構建推理和模型服務工作流。
2. 并行訓練:在單個設備上訓練模型時,CPU/GPU內存限制和順序處理工作流程構成了一個巨大的瓶頸。io.net利用分布式計算庫編排和批處理訓練任務,使它們可以通過數據和模型并行在許多分布式設備上并行運行。
3. 并行超參數調整:超參數調整實驗本質上是并行的,io.net利用具有先進超參數調整的分布式計算庫,以簡化的方式進行最佳結果的檢查點、優化調度和指定搜索模式。
4.強化學習:io.net使用開源的強化學習庫,支持生產級、高度分布式的強化學習工作負載,并提供簡單的API集。
IO的發展歷史
在2022年6月之前,io.net專注于開發面向機構的量化交易系統,涵蓋美國股市和加密貨幣市場。主要的挑戰是構建必要的基礎設施,以適應具有重要計算能力的強大后端交易系統。
IO的交易策略接近高頻交易(HFT),需要實時監控超過1,000支股票和150種加密貨幣的逐筆數據。高頻交易是一種使用強大的計算機程序在幾分之一秒內執行許多訂單的交易方法。
它使用復雜的算法分析多個市場,并根據市場條件執行訂單。此外,系統必須在實時動態地為每種資產回測和調整算法參數的同時,還被優化以方便在ETrade.com、Alpaca Markets和Binance.com等平臺上為超過30,000名個別客戶進行交易,保持從市場事件到系統在客戶賬戶上對訂單執行的反應的延遲低于200毫秒。
Ray.io的發現
這樣的基礎設施需要一支專門的MLOps和DevOps專業團隊。然而,他們發現Ray.io,這是一個由OpenAI用于在超過300,000個CPU和GPU上分布GPT-3/4訓練的開源庫,簡化了基礎設施管理。此外,IO將構建后端的速度從六個多月提高到不到60天。
在將Ray整合到IO的后端并準備在GPU和CPU工作節點集群上部署應用程序以處理大量計算能力時,IO團隊面臨了由于昂貴的GPU按需云服務提供商而導致的運行此系統的高價問題。
價格問題的發現
例如,NVIDIA A100卡的價格超過每卡80美元/天。IO需要超過50張這樣的卡,平均每月運行25天,總額為80美元 x 50張卡 x 25天 = 100,000美元/月。
這種成本對IO以及其他自負盈虧的人工智能/機器學習行業的初創公司都構成了嚴重的挑戰。
即使在如此高的價格下,人工智能應用的計算需求每三個月翻一番,每18個月翻10倍;因此,OpenAI不得不租用超過300,000個CPU和10,000個GPU來訓練GPT3,而這僅僅是個開始。
產品
1.IO Cloud
IO Cloud的目的是部署和管理按需的分布式GPU集群。
期望的結果是為用戶提供靈活、可擴展的GPU資源訪問,無需昂貴的硬件投資和基礎設施管理。該平臺旨在利用來自分布式節點網絡(IO workers)的分布式資源;盡管節點是分散的,該平臺旨在為ML工程師/開發人員提供與任何云服務提供商相同的體驗。
IO Cloud的基本構建塊是集群。集群是完全互聯且自我修復的GPU系統。
這是一個分布式、分散網絡的GPU/CPU集群,能夠執行基于Python的機器學習代碼。這個容易擴展的系統能夠適應波動的需求。
2.IO Worker
IO Worker的目的是為用戶提供一個全面且用戶友好的界面,以在Web應用程序上有效地管理他們的供應操作。該產品的范圍包括與用戶帳戶管理、計算活動監控、實時數據顯示、溫度和功耗跟蹤、安裝協助、錢包管理、安全措施和盈利計算相關的功能。
產品的起源:
該產品起源于對AI模型計算需求和流行度的不斷增長。隨著越來越多的個人和企業參與AI處理活動,這些活動變得越來越昂貴。需要一個強大而高效的平臺來簡化和優化AI學習過程。
另一方面,世界各地存在著大量未被使用的計算能力,以分散的GPU形式存在于各種來源。Workers應用程序的開發旨在滿足這種需求,并為用戶和企業提供一個方便而安全的解決方案,以高效地管理他們的硬件上的操作和收益,為AI領域提供實際的服務。
3.IO Explorer
IO Explorer的目的是提供一個窗口,深入了解網絡的內部運作,為用戶提供全面的統計數據和們GPU云的全方位視圖。IO Explorer背后的主要目標是賦予用戶輕松監測、分析和理解io.net網絡復雜細節的能力,通過提供對網絡活動、關鍵統計數據、數據點和獎勵交易的完全可見性。
通過使用透明的實時指標,使訪問我們的云數據變得民主化,包括集群預訂、部署和網絡設備。所有這些都在隱藏并牢固保護任何私人信息的情況下進行。
4.IO coin
io.net是一個全球AI計算網絡,連接來自全球各地的強大GPU和部署AI與機器學習工作負載的團隊。這導致了一個通用計算資源被商品化的生態系統,開辟了AI和ML部署的新領域。
本地資產是為了調整網絡激勵而需要的。它們將用于以下方面:
1. 向IO Workers(GPU提供者)分發與其可用性和性能成比例的激勵。確保節點運營商以他們選擇的貨幣(美元、代幣或兩者的組合)獲得對其工作的補償。
2. 以代幣為單位向AI工程師(AI和ML工作負載部署團隊)獎勵忠誠積分,以鼓勵他們持續使用網絡。
3. 在需求和供應雙方引入游戲化機制,確保網絡平衡增長。
4. 將IO Worker設備的價格定為與計算單元掛鉤的商品,并通過去中心化透明的定價預言機,根據其硬件和網絡性能建立設備的明確去中心化定價。
5. 用于網絡的治理代幣。持幣者將有機會通過對關鍵決策進行投票來影響網絡的未來。這可能涉及網絡費用結構等問題,以及引入新功能或服務,確保我們網絡的真正去中心化和民主治理。
io.net團隊
Ahmad Shadid是io.net的創始人兼CEO。
Tory Green是io.net的首席運營官和首席財務官,三個月前全職加入。他的職業生涯始于企業,包括銀行、私募股權和企業戰略職位。他在web2時代共同創立了一家數字出版公司,他從投資者轉變為運營者,幫助投資組合公司進行銷售、營銷、財務、運營和戰略。他在Hum Capital擔任首席執行官和首席財務官近兩年,這是一家機器學習公司。在此期間,他對AI領域有了深入的了解。自2016年以來,他一直對加密貨幣感興趣。
融資信息:23年種子輪融資270萬美元,今年3月5日再獲A輪融資3000萬美元,估值10億美元,HackVC、OKX、Animoca Brands.
Foresight ventures等眾多知名VC參投。
最后總結下,目前你可以認為他是sol鏈上的rndr項目,rndr是把閑散GPU用來渲染,而它是用來AI計算的,本質上差不多,但是SOL鏈上缺一個超級Depin賽道的白馬項目,而且SOL生態的爆發力不言而喻,向之前的meme系列bonk,defi-jup,預言機pyth,都是百倍項目,而且這個項目的關注非常高,twitter上有36萬,銀河上有80萬,discord上有十幾萬,所以關注的越多,項目價值越高,而且項目整體看來還是不錯的,又是熱門賽道,大家要重點關注
林雪萍:北京聯訊動力咨詢公司總經理
屈凱峰:北京云道智造科技公司創始人
計算機輔助工程CAE的理論基礎,起源于20世紀40年代的有限元分析法。在1960~1970年,CAE軟件還處于探索時期,分析對象主要是航空航天及核電等大型裝備的強度和剛度等。此時的CAE,只能運行在Unix工作站上。這是一個算力貧乏的時代。為了節省資源,連顯示器和存儲器也往往都是兩臺機器。龐大的計算機硬件僅僅看體型就讓人望而生畏,一臺計算機充滿一間屋子是常見的事情。軟件,不過是計算機硬件的附屬品。
圍繞大型機誕生的最早一代仿真軟件,有來自NASA的Nastran、也有來自西屋核電的ANSYS和非線性軟件麻省理工的ADINA、布朗大學的Abaqus(跟ANSYS一樣,第一個客戶也是西屋核電)等。工作站作為一種昂貴的稀缺資源,也是一種集中算力的體現。人們只能去指定的機房,排隊等候計算的時間。熟悉方程式的科學家們,通過命令行的組合,完成特定場景下的仿真分析。既然軟件使用門檻如此高昂,脖子又被掐在硬件廠商的手里,它的發展動力自然大打折扣。軟件猶如深宮秘寶,少數身懷絕技的科學家和非凡的工程師,穿過不為人知的洞口和隧道,方能夠接近它。
從IBM在1981年推出第一臺真正意義上的PC機開始,桌面PC的浪潮來臨了。兼容機開始盛行,計算能力也得以提升。軟件也開始得以進行普及,使用門檻也大大降低。這期間,很多跟大型機緊密捆綁在一起的軟件,被逐一淘汰,獨立的軟件則嶄露頭角。Windows95操作系統的圖形化界面,則更是橫掃一切可能的阻礙。在這個過程中,無論是設計CAD軟件,還是仿真CAE軟件廠商,都在忙不迭地轉換身姿,擁抱個人機時代。設計軟件AutoCAD成功從Unix系統轉型成功,而Solidworks則直接成為Windows的原生軟件。而Ansys仿真軟件,在誕生14年之后,從1984年開始推出了適配英特爾286的電腦。界面更友好,功能更好用。體現這種鳳凰變朱雀飛入尋常家的最好例子,莫過于非線性仿真軟件四大金剛的ADINA。它早在1975年就在麻省理工誕生,但直到1988年才可以開始商業化讓更多工程師可以使用。一匹桀驁不馴的烈馬,終于有了更多的人,可以駕馭它。而目前全球排名第三的澳汰爾,就是在這個時候,隨著PC的普及誕生。全球第一的Ansys雖然創建于1970年,但直到1996年才經由風投公司之手,完成在納斯達克上市。工業軟件,仿佛從宙斯的奧林匹克仙山,降落到民間的廳堂。使用門檻降低了,資本市場也開始對它有了全新的理解。一旦它巨大的用戶群潛力得以確認,資本的擁抱自然就會超乎熱情。
很容易注意到,在一種技術引發時代的劇烈變動的時候,市場格局就開始洗牌。洗牌既有死亡,也有重生。有些企業會倒下,而新生面孔也令人欣喜。正如當下的電動汽車,人們會驚訝即使如強大的BBA三大車系或者是日本三大汽車,都有身骨瑟瑟發抖之時,但新一代的王者如特斯拉,還有中國蔚小理等造車新勢力,已經像從老人身邊呼嘯而過的孩子,歡騰中跑在前面迎接東方的曙光。
同樣的曙光,照射在仿真軟件的賽道。從2010年往后,以超算中心和云計算為代表的廉價超強算力的時代,已經來到。算力已經成為一種文明的軍備競賽,美國、日本和中國,在這里競相發力。這些超算中心的超級算力所要解決的問題,就是通過仿真問題,通過仿真軟件來計算核爆炸、天氣預測等多元參數、無限放大的復雜事件。
跟Windows時代的算力不同,云計算和超算中心看上去又重新回到了工作站時代的集中式。只不過這一次增加了一個分布式的桌面端。從表現形式來看,第一代算力:集中式的工作站;第二代算力是分散式的桌面應用;而第三代算力,就軟件應用而言,它回到了集中式的算力,但同時加上了分布式的桌面甚至手機應用,后者最常見的形式就是APP應用小程序。
算力平民化,門檻進一步降低。那么仿真軟件呢?不出意外,也正在迎來了一個全新的春天。
在上個世紀八九十年代PC機的崛起,形成了對既有軟件的大洗牌。這個過程中,許多一流的設計CAD軟件廠家被大肆洗劫,很多廠家都消失了——這些品牌的凋落,是因為它們的技術落伍,未能在工作站向PC轉型的過程中,被技術離心力甩出賽道。它們死在兩次暴風雨的切換之間。但很多CAE廠商卻頑強活下來了。它們有些品牌在更晚些的時候消逝在市場,原因跟CAD廠家有所不同。它們并非是在第一代算力向第二代算力的過程中落伍,而是在最近的二十年由于商業模式的變遷而消失:更大的魚吃掉了它們。
新的時代不能兼容它們,是因為商業原因而非技術原因,但畢竟它們還是擠進了新的時代。某種意義而言,CAE廠商表現出來的韌性,是因為CAE表現了更強的專業性。它的使用門檻還是太高。仿真軟件一般都是單物理場,只計算結構力學,或者只計算電磁。而要做出復雜的仿真結果,就需要對著多種物理場進行計算。仿真工程師需要熟悉這些不同的物理場,和不同的軟件界面。
對于一個企業而言,產品的設計人員與仿真工程師往往是兩撥人。而且仿真工程師要遠遠少于設計師。設計師往往只需要一種軟件就可以完成全部任務;但仿真工程師則需要在計算結構力學、計算熱學、計算電磁學等不同的仿真軟件之間,進行來回切換。就像在水力站轉動閥門的操作工,眼前十幾個閥門,轉動方式各不相同。既然每個閥門都需要不同的方言口令,手忙腳亂自然是最常見的事情。
然而,仿真工程師的難點,還不在于忙于打開各種奇怪的閥門,通曉每種軟件的語言,更重要的是還要對自己的行業知識有足夠的了解。他需要將工程任務中的行業Know-how跟建模語言,連接在一起。這需要相當深厚的功力。
仿真軟件,再次展現了它拒人門外的知識高冷型軟件。從極端來說,它只是一個高級的科學計算器,它與行業無關。這也展示了工業軟件盈利的最高級的一種模式,那就是只做通用計算平臺和建模語言,封裝數學模型;至于面向行業的不同瑣碎的場景,則需要由仿真工程師自行完成。
這個門檻自然很高。
于是會有一批全新的陌生客,嘗試改變了仿真軟件難用的特性。
可以說,如果按照單學科CAE(只解決力學、熱、電、磁、光等任何一個單一物理場)的方向進行突圍,道路基本已經被壟斷的寡頭封死。大型仿真軟件早已通過深挖技術壕溝、并購多個不同物理場的軟件,形成了一個平臺化的解決方案。
于是,后發者采用了另外一種思路,避開單學科對巨人進行挑戰,而是從工程應用的角度出發,從而將看上去牢不可破的大鐵門掀起了一扇縫隙。
來自瑞典斯德哥爾摩的COMSOL仿真軟件,做了工程應用仿真模塊的嘗試。就本質而言,有限元分析、工程仿真的本質,都是在算數學方程。而COMSOL起源于MATLAB的Toolbox。COMSOL主打工程模塊,而不是學科。1986年公司成立,隨后發布了FEMLAB,這是它的第一個工程應用模塊:結構力學??吹竭@個名字,就可以看出它簡直就是MatLab的寄生品。當然,因為官司糾紛,后來COMSOL也重寫代碼,斬斷了跟Matlab的聯系。兩年后發布了電磁學模塊,并隨后發布了化學、傳熱等模塊。2005年,產品名稱更改為COMSOL Multiphysics——可以說這個名字直到它成立10年之后,才真正形成了多物理場的概念。隨后,各種工程模塊不斷增加。如果記錄這個日益增長的清單,似乎是一個無聊的流水賬。然而將這些工程應用模塊看成是一面面移動的插旗,那么插旗背后則象征著不斷崛起的市場,例如它在2020年開發的燃料電池和電解槽板塊,正是在迎合冉冉升起的氫燃料產業。有了一個多物理場平臺作為基礎底座,COMSOL的上部就像是一個不斷增長的插頭口,新的行業市場不斷被加插進來。追逐熱點行業,它就像向陽花一樣,伸向不同的方向。
COMSOL的成功得益于三點,其一是基礎平臺植根于數學物理理論。從最底層的理論出發,自然表現出杰出的方程求解能力,它的偏微分方程PDE模塊非常強大。其次COMSOL為工程問題提供易于使用的軟件解決方案。產品庫中的所有產品模塊,都是標準化的界面。無論是電子、機械、化工等工程領域,或者是傳熱、流體等特定物理現象,都使用了同一個軟件界面,而操作流程也都一樣。這對于那些收購了大量軟件的大型CAE公司,提供了另外一種選擇。大型CAE公司不得不對收購的軟件,進行數據打通、界面更換等工作,在相當長時間內,用戶不得不反復切換閥門。更重要的是,COMSOL主打工程模塊,很多行業知識封裝在其中,包括電化學、等離子體等幾十款應用模塊——很多模塊往往是經典CAE軟件作為通用軟件平臺所難以擁有的功能模塊。這些帶有行業屬性的工程模塊,讓工程師松下一口氣,他們的仿真任務有了行業屬性的護欄,這是一件更容易上手的工具。它為行業,定制了特殊的工具。
仿真軟件的新突破,需要精心研究巨龍足跡所留下的縫隙。
仿真軟件的應用,在不斷簡化。仿真軟件的第一波浪潮,專用性很強,底層特性很強。它往往都是面向單一學科的通用仿真軟件,如流體、電磁、熱、結構等都是各自分離。用戶需要分別購買不同款的學科軟件。第二波軟件則更加專注于行業。以COMSOL的工程應用模塊為典型代表,它底層構建了多物理場,并且跟行業相結合,使得應用工程師可以輕松面對自己的行業進行仿真開發。
但這也并非終點。更加簡化的CAE軟件,繼續來到。它們更加專注一個行業,專門為一個行業進行仿真。最為典型的是在1998年成立的MotorCAD,它只瞄準先進電機的開發,提供了電磁、熱、機械和電機效率與性能優化這四個最關鍵的功能模塊。
好用啊,它可以實現全扭矩轉速范圍內的多物理仿真設計。于是,它在電機行業一統天下就不足為奇,全球主要的電機生產商、科研機構都在使用。而如果采用經典的仿真軟件,由于過于聚焦通用性,大量的功能其實都是不需要的。而MotorCAD的所有模塊,則可以被吸干榨盡,它就是為電機而生。
既然面向行業的專用軟件已經證明可行,下一步,更小的顆粒度在哪里,更低的門檻會是什么?那就是直接面向設備,甚至面向設備的零件。例如,可以面向某一款電機,只做無刷電機或直流電機,這意味著更小巧的APP將被開發出來,直接面向個性化的設備。如果說,COMSOL代表了以多物理場為底層的功能模塊的崛起,那么MotorCAD則是在功能模塊的基礎上直接面向垂直行業。而在此基礎上,可以構建更多的個性化場景應用APP,面向特定的設備,也就順理成章了。
第三波CAE軟件,正在呈現新的輪廓。
圖 仿真平民化的演化
COMSOL已經嗅到了這種味道,它在將自己的軟件變得更加“APP碎片化”。2014年它發布的版本中,包含“APP開發器”,并發布了服務器,支持APP分發,讓各地不同的用戶都可以在它的服務器上,運行這些專業應用程序。最讓工程師開心的是,APP開發器包含完全圖形化的編程功能,用戶可以自如的創建APP。到了2018年COMSOL終于為自己在互聯網時代定下基調,發布了編譯器。用戶可以自行將在母平臺所開發的程序,轉換為獨立運行的仿真APP。運行時候,則無需安裝COMSOL軟件。事情變得越來越簡化。
COMSOL的商業邏輯,就是面向專業細分領域,包括三十多個工程應用功能模塊,而不是通用軟件,在中國的市場乘風破浪。用戶已經在此基礎上,建立了1000多個APP案例。在ANSYS、Altair、MSC所籠罩的陰影之下,COMSOL找到屬于自己的地盤。
同樣在國內,北京云道智造也是避開經典CAE的通用軟件路線,而是在自己底層的多物理場仿真平臺之上,建立廣泛的工程應用模塊和APP應用程序,為正在崛起的中國制造提供一個更低門檻的使用機會。
如果說第一代ANSYS、Nastran所代表的軟件使用難度用高度來比喻,它就像是上海中心大廈的最高層第127層。那么從這里看下去,COMSOL的工程應用模塊離地面只有20層樓的高度。而現在COMSOL和云道的APP應用,將使得它位于第10層的位置。越來越向地氣靠攏了,人們抬頭可見。
隨著超算和云計算能力的普及,更加便利的方式在出現。如果能將開發平臺也面向行業用戶開發,讓用戶自己開發APP,那么這些應用將會出現在第一層樓的位置,觸手可及。云道正在采用更加激進的云化方式,下沉到這個位置,將多物理場的仿真平臺開放出來,并且聯合開發或者由第三方進行工程模塊和APP開發。云道基于通用底層平臺開發了電子散熱仿真軟件Simetherm,已實現對主流商業軟件Flotherm、ICEPAK的部分替代;上海一家專門做航空復合材料輕量化的專業咨詢公司,就是直接調用這個底層平臺,開發行業模塊,面向國內的飛機工廠。以前分布在不同人手里的知識,正在一個個像攤裂開來的湯圓,各種芝麻餡、五仁餡都四散開來,混在一起。更加平民化的仿真,從來沒有如此靠近過大眾人群。
工業軟件的市場,從全球格局看,就像是一個發育成熟的成人,進入了一個高度穩定的結構。這種穩定是由寡頭壟斷所決定的,它們幾乎可以采用“閉眼點菜”的方式,通過并購將各種具備創新的初創公司吞食。但在中國市場則不同,它似乎剛剛開始呈現自己舒展少年筋骨的地方。CAE軟件如何選擇突破方向,是一個極具策略的考量。采用軟件即服務的SaaS化,是其中的一條路線。國內的上海數巧、北京藍威和德國的SimScale都在采用這種路線。同一陣營的SaaS的仿真軟件OnScale僅僅成立五年,就在今年被ANSYS收購,意味著這條云化的方向已經得到了老牌仿真廠商的認可。而云道除了也在走SaaS化的路線之外,進一步推出了工程應用模塊與APP聯動的方式,采用“平臺即服務”的PaaS化,緊密地跟行業應用結合在一起。它大大降低了使用者的門檻,使得平民化仿真成為可能。瑞典的COMSOL已經證明了它的可行性。而中國現在很多新興行業如鋰電池、碳化硅,都提出了全新的場景需求,國外仿真軟件也并無成熟的工程模塊。如果能夠進一步降低使用門檻,國產CAE軟件正可以大展身手。
2015年在國際工程建模、分析和仿真社區協會NAFEMS的研討會上,業內專家提出了仿真大眾化、民主化的議題,成為國際上倡導“普惠仿真”的先聲?;诔?云計算與專業化仿真APP的廣泛應用,將引發仿真技術的普惠化革命。
憑借第三次算力浪潮的助力,第三代仿真軟件或許也可以隨之躍起。這一次,算力普及,仿真普惠。