未來,ChatGPT的成本會下降嗎?它產生的商業影響是什么呢?語言模型與現存端口會如何結合?本文作者對這三個方面,分享了他的看法,希望能給你帶來一些啟發。
本文說三件事:
結論在前:可以大膽地說,在未來,成本還會進一步下降,并且會令人難以想象。
技術優化一直在進行,2020年GPT-3發布的時候,單次訓練成本是460萬美元,而現在這個價格是140萬美元,約-70%。盡管這是訓練成本,而非推理(回答你的問題即推理)成本,但也能夠作為參考。
具體的技術優化產生在哪些方面,算法?模型結構?工程設計?定制GPU?任務調度?——不知道(我沒去搜哈哈)。但技術角度出發,成本會下降大家應該是不會懷疑的。
假設,你現在擁有全世界最領先的技術,拔劍四顧心茫然,寰球宇內一個能打的都沒有。那么你會:
我想這道選擇題應該不難做。
用另一個角度推理佐證:
那么降價90%就不難理解了,不管是技術成本優化還是商業成本優化,這場降價都必將發生(事后諸葛亮就是我了)。
假設Google的產品出來了——面對勢如烈火的微軟,面對產生動搖的云客戶。他發布基本對標產品之外,在價格上會做什么設計呢?
假設3月16日百度出來了,再過一段時間阿里、字節、騰訊等有能力的都跟進了,那么他們在價格上會形成默契的卡特爾嗎?還是像當初百團大戰一樣,不得不陷入一場爭奪數據、客戶的囚徒困境?
好玩!刺激!曾經的免費打車、免費吃飯、免費騎單車似乎在向我招手了!
結論在前:有人狂喜有人沒那么喜,走一步看三步。
現在看似降價90%,但我更傾向這是一種商業行為促使的降價,即把LLM的成本和創業公司的費用成本拉到一條線(38000字/元)。
說白了這技術還是那么貴,只是我揮淚大甩賣,大公司和創業公司站一起奔跑。
Twitter一條令我印象深刻的評論是:“這下子我可以做那些掛廣告盈利的項目了”。
因為以前也能這么低成本的,只是你不知道。
0.02美元的價格是最貴的Davinci模型(GPT3.5),而Curie模型比他弱一些也更便宜一些,價格是0.002美元——就是ChatGPT現在的價格。
所以很多以前用GPT-3的創業公司,他根本就是基于Curie,或Curie微調后的模型在跑的業務。這次降價對他們更多是效果提升而非成本下降。
而且!暫時我在官網上沒看到ChatGPT支持微調的說明(我沒找到),如果真的是這樣,一些創業公司應該正在難受——我是擁抱新模型呢?還是用現在這個微調過的舊模型將就一下?相信他們應該都在加班測試了。
之前我認為LLM模型存在一些弊端,會提供給小模型公司一定的生存空間,具體包括:實時性(車載/直播等)、私有化(金融)、成本敏感(客服)、答案精確(金融)、道德控制(心理)等要求的場景還是會使用小模型。
實時性,有點崩,最新的ChatGPT接口,有人測試后發現,響應速度是之前的4倍(不嚴謹,未多方求證)。
成本敏感,暫時堅挺。對于客服來說,哪怕是目前的價格下降90%,仍然是扛不動的的價位——客服本來就是成本中心,多花任何一分錢都是困難的。不過一旦客服做upsell追加銷售額場景跑通,成本可能就不是問題了。
私有化,OpenAI暴露出了私有化計劃,一定程度上,這也不再是小模型公司獨有的優勢了。
只剩下答案精確、道德控制這兩個LLM模型天生的缺陷死死撐住。
我比較擔心在這樣狂暴的技術演進中,小模型公司如何面對日新月異的LLM模型能力升級(我朋友圈一位朋友說,舊模型剛跑通接上,就落伍了……),如何面對大廠們卷起來的價格戰?
跟還是不跟?怎么跟?這將是纏繞在小模型公司身上陰魂不散的魔咒。
第一個原因前面提過,這個成本還會進一步下降——有一些業務你現在跑不通,或許等兩個月模式就能跑通了。
那么——你要提前下場嗎?還是等成本到尾再下場?一個典型的例子是AI繪畫領域,企業是在成本高昂時入場的,靠勉強盈虧平衡活下來,并收獲成本暴降后的紅利——順便還幸運地等來了ControlNet的二次升級,獲得了更大的商業空間。
第二個原因則與OpenAI的另一項猜測有關,有爆料稱OpenAI在預備開放支持32,000 token長度的模型——而上下文長度目前在最新的ChatGPT上是4096 token。更長的上下文可能使一些原本做不了的場景(例如長文本寫作)成為可能。
總之走一步,看三步,可能今天你覺得不行的場景,明天凌晨大洋彼岸一則公告就行了,時刻保持更新,時刻提前預判。
如果你想看全面的所有方向的解析,請看我的分析庫,因為每個方向我都要結合技術、商業做詳細分析,寫在文章里是徹頭徹尾的災難:重磅分享:40+ChatGPT商業項目庫開源分享(持續增加)
這種結合依賴于多模態+Toolformer,詳情關注我上篇文章怎么風平浪靜的?多模態+Toolformer,這波還不原地起飛?
我曾經認為語言模型會成為新時代的虛擬終端,即你無論要做什么、要用什么,你都是首先經過他——因為他太好用了!你就像吩咐你的秘書去幫你做事情一樣。
但是我發現我錯了,人類終究是實體,要與虛擬終端交互離不開實體終端,什么是實體終端?手機、電腦、音箱、VR、手表等。
微軟發布多模態這篇論文可能不是沒有原因的,自從BING上的嘗試后,他現在一路脫韁野馬一般沖向瀏覽器和Windows。
你想象一個場景→ 你用著電腦,帶著耳機聽歌,在閱讀一篇商業報道。你對報道中提到的向量化數據庫這個陌生的單詞產生了疑問,你選中單詞,向耳機語音提問,這是什么?LLM在瀏覽器的側邊欄為你列舉了詳細說明。→這時你想找一下現在向量數據庫這個方向有多少從業者、市場空間怎么樣,但是你這篇文章剛讀到10%,你想繼續讀下去不想被打亂思緒。→于是你敲了下耳機,對耳機里LLM說“幫我列一下向量數據庫的玩家是哪些,搜集一下相關的市場分析報告并總結好,下載到本地。”→當你閱讀到30%的時候,耳機叮咚一聲響,相關的分析和報告都下載好了,只等你閱讀完畢后前往桌面的文件夾“向量數據庫分析”中查看。
那么在未來,手機、電腦(其實就是Mac體系,window已經在搞了)、音箱、VR等多端聯合起來會發生什么呢?哪個端口敢于拒絕擁抱全新的人機交互范式呢?而這場擁抱又會催生出哪些復合應用呢?
我覺得在未來,互聯網陣營會圍繞脫穎而出的LLM廠商進行重新站隊重組——例如,假設蘋果自己做不出來,你說他是擁抱微軟還是擁抱Google呢?
新時代就要來了,不要只看到AIGC內容生成,也請看看這場顛覆式的交互革命吧!
本文由@馬丁的面包屑 原創發布于人人都是產品經理,未經許可,禁止轉載。
題圖來自 Unsplash,基于 CC0 協議
該文觀點僅代表作者本人,人人都是產品經理平臺僅提供信息存儲空間服務。
2018-01-27 05:17:00 作者:劉衡源
去年6月的WWDC開發者大會上,蘋果發布了自己的第一款智能音箱產品HomePod。去年6月可謂是智能音箱廝殺最激烈的時候,國產智能音箱入雨后春筍般冒出。叮咚、天貓、小米等等都發布了自己的智能音箱硬件產品。不少做硬件的廠商也把自己的音箱加了塊屏幕,裝上了安卓系統,號稱“智能”就匆匆上市了。經過大半年的時間,智能音箱市場又回到了一個穩定的狀態。現在,讓我們重新審視一下智能音箱到底是必需還是噱頭。
智能音箱是音箱的一個升級產物,是用戶上網的又一工具,也是各大互聯網企業爭相搶奪用戶入口戰場。蘋果的HomePod意圖也非常明顯,就是希望能在用戶家中占據一席之地。但是為什么不在國內上市,筆者覺得有以下幾點原因。
智能家居產品數量是硬傷
用過HomeKit的朋友至今應該也沒有多少,早在去年4月,蘋果發布智能音箱之前就曾在國貿展示過HomeKit應用案例樣板間。里面的大多數電器都能用手機中的HomeKit應用進行控制,但多是小家電。知道現在筆者在蘋果中國官網上查詢到的支持HomeKit的配件僅有16個,但在蘋果官網(apple.com)支持HomeKit的智能家居產品在60個左右,能夠滿足日常需要。而且要接入蘋果HomeKit平臺,產品就需要內置HomeKit芯片模塊,產品的售價也會提高。既然HomeKit配件匱乏,即使HomePod中國首發,很多用戶體驗到的也只是Siri功能,很短時間就會失去興趣。
蘋果國貿HomeKit樣板間(圖片來自網絡)
Siri漢語體驗還需提高
筆者用Siri還停留在設定提醒,設定鬧鐘的階段,稍微復雜一點Siri就駕馭不了,經常會跳出網頁搜索結果。相反,微軟的小娜漢語體驗卻比Siri強不少,有專人錄音,聲音聽起來比Siri更加真實流利,調戲小娜唱歌也都是真人真唱。感興趣的朋友可以在Win10種體驗微軟小娜,漢語流利程度,語意理解程度確實在Siri之上。
Siri漢語體驗有待提高
美國智能音箱普及率更高
在美國,2017年有近六分之一的人(超過5000萬)擁有智能音箱,這個數字比16年翻了一倍還多。所以,雖然亞馬遜和谷歌的智能音箱占領了大部分美國市場,但這個地區的人們會更容易接受智能音箱產品,這也是HomePod在別的國家沒有的優勢。一些沒有購買過智能音箱的用戶很有可能會購買嘗鮮。
HomePod背后有強大的影視音樂資源
Apple TV、Apple Music來幫忙
Apple TV是美國市場上第四大流媒體播放器,Apple Music付費用戶也已突破3000萬,不少音樂人和音樂愛好者更是把iTunes榜當成自己聽音樂的風向標。在未來通過HomePod控制Apple TV和內置的Apple Music播放自己喜歡的影視音樂內容也不是沒有可能。