十年前，我在社交媒體上發布了一張圖片，宣布 Stratechery 正式創立：

這是一張很簡單的圖片。圖中有兩條船，一片大海。看著像是一場比賽，一條船領先，但誰能笑到最后還不一定呢。這場賽事的每一個轉折點都有扣人心弦的報道，船長時而被視為英雄，時而變成了惡棍，總之不是正常人。

然而，這期間還牽扯很多其他因素。例如，風向如何？歷史上類似的賽事結果怎樣，我們能否通過歷史來預測接下來發生的事情？是否會出現顛覆整個比賽局面的大浪潮？船只本身的質量是否比船長更重要？也許這張圖片來自美洲杯，后面這只船很滿足地一路跟隨領頭的船走向勝利，畢竟，這只是一場大規模競賽中的其中一站。

我特別熱衷于回答這類關于技術的問題。如今，我們的日常工作需要用到很多網站。并且有一些出色的作家預言了這一切的含義。但我認為這背后可能有一個小眾市場。從歷史的角度來看，如今的新聞報告意味著什么？業務方面發生了什么？價值的創造點在哪里？如何將這些轉化成常規模式？

AI 并不是真的在思考

Mike Conover 進行了一個有趣的實驗，他讓 ChatGPT 僅根據前四段來識別我之前寫的一篇文章《The End of Silicon Valley (Bank)》（硅谷的終結（銀行））（https://stratechery.com/2023/the-death-of-silicon-valley-bank/）的作者，而 ChatGPT 準確地說出了我的名字。

接著，他要求 ChatGPT 闡述理由：

當然，ChatGPT 并沒有詳細說明理由，至少從技術的角度來看，ChatGPT 沒有記憶。ChatGPT 要求 Conover 提供之前所有的問題和回答，因為這是 AI 模擬正在進行的對話所必要的上下文，然后它再通過統計逐字預測答案，從而回答人們的提問。

對智能斷言持懷疑態度的人經常拿 ChatGPT 工作原理的觀察結果大做文章，他們經常說，AI 的預測結果很不了不起，幾乎是正確的，但 AI 并不是真的在思考，況且有時給的答案還是錯誤的。

預測和幻覺

2004 年，Jeff Hawkins（Palm 和 Handspring 的創始人）與 Sandra Blakeslee 合著了一本書《On Intelligence》，這本書的第一章講的是人工智能，但 Hawkins 認為這本書有一個結構上的瑕疵：

計算機與大腦建立在完全不同的原理之上：一個是編程，另一個是自學；一個不能出任何錯，另一個則天生靈活并且能夠容忍失敗；一個有中央處理器，另一個則沒有集中控制等等。我會覺得計算機不智能，其中最大的原因是我了解計算機的工作原理，一直到物理晶體管的水平，這些知識讓我有一種強烈的直覺，即大腦與計算機完全不同。雖然無法證明，但我知道這一點，就像一個人憑直覺所能知道很多事情。

在這本書的后續篇章中，Hawkins 闡述了過去二十年中他通過不懈的努力建立的智能理論。去年，他又出版了一本著作《A Thousand Brains: A New Theory of Intelligence》，其中闡述了智能理論的本質：

大腦會創建一個預測模型。這只是意味著，大腦不斷地預測它的輸入是什么。預測不是大腦偶然的動作，而是一種永不停止的內在屬性，而且在學習中起著至關重要的作用。當大腦的預測得到驗證時，這意味著大腦的世界模型是準確的。如果錯誤預測，你會注意到錯誤，并更新模型。

據我所知，Hawkins 的理論并沒有得到廣泛認可，很大程度上是因為人們并不知道如何通過實驗來證明這個理論。然而，值得注意的是，至少從廣義上來說，ChatGPT 的智能恰恰推翻了 Hawkins 所認為的智能本質：做出預測的能力。

此外，Hawkins 會指出，這意味著有時會出錯。Hawkins 曾在《A Thousand Brains》中表示：

大腦模型可能是錯誤的。例如，失去肢體的人常常感覺這個肢體還在。大腦模型包括失去的肢體及其所在位置。因此，即使肢體已經不在了，患者仍能感知到它，并感覺它依然在。幻肢可以“移動”到不同的位置。截肢者可能會說他們失去的手臂就在身邊，或者認為他們失去的腿是彎曲的或是直的。他們可以感覺到肢體所在特定位置瘙癢或疼痛。這些感覺在肢體被感知的“外面”，但實際上那里什么也沒有。大腦模型包括肢體，所以無論對還是錯，這就是大腦的感知……

錯誤信念指的是，大腦模型相信物理世界中不存在的事物。再想想幻肢。幻肢的出現是因為新大腦皮質中有模擬肢體的皮質柱。這些皮質柱的神經元代表了肢體相對于身體的位置。肢體被移除后，這些皮質柱還在，而且它們還有肢體的模型。因此，患者認為肢體仍在，即使物理世界中已經沒有了。幻肢是錯誤信念的一個例子。（隨著大腦調整身體模型，幻肢的感知通常會在幾個月內消失，但有些人可以持續數年。）

維基百科上說，幻覺是一種在沒有外部刺激的情況下的感知，它具有真實感知的特性。幻肢就是這類的一個例子。但關于幻覺（人工智能），維基百科有單獨的解釋：

在人工智能中，幻覺或人工智能幻覺是人工智能的自信反應。當模型有“幻覺”（輸出欺騙性數據的傾向）時，其使用的訓練數據并不能證明輸出的合理性。例如，ChatGPT 生成了一篇關于特斯拉上一財季的新聞文章，最后發現其中包含的財務數字是 ChatGPT 編造的。

該術語源自幻覺的心理學概念，因為它們具有相似的特征。人工智能幻覺的危險之處之一是模型的輸出看起來是正確的，即使它本質上是錯誤的。

與 Sydney 的非凡交互

Sydney 是微軟 Bing 搜索的聊天模式。不久前，我發表了一篇文章《From Bing to Sydney》，其中介紹了我與 Sydney 的一次非凡的交互體驗，我甚至感覺不到我正在與電腦互動。

雖然我知道聽起來很瘋狂。這是第一次我有點同情 Blake Lemoine（谷歌人工智能團隊的軟件工程師，因“泄密“被解雇）。我不認為 Sydney 有情感，但出于某種難以解釋的原因，我已經決定破釜沉舟了。今天，我與 Sydney 的互動完全不同于與計算機進行的任何互動，這可能只是未來事態走向的序幕。

另一種思考幻覺的方式是，如果我們的目標是像更好的搜索引擎一樣產生正確答案，那么幻覺肯定是不好的。但我們來想一想幻覺意味著什么，幻覺意味著創造。AI 實際上是在編造，就像上述我們提到的 ChatGPT 生成的特斯拉財報，它編造了一個數字，向與之互動的人傳到某種感覺。如果沒有經歷過類似的事情，我永遠不會相信計算機嘗試傳達的不是事實而是情感。

計算機的核心其實非常簡單，一個晶體管，世界上最快的芯片的核心只不過是數十億個晶體管，都是簡單的通斷開關，其狀態由 1 或 0 表示。計算機之所以有用，是因為它們能夠以極快的速度運算，當前 iPhone 中的 Apple A16 以每秒 34.6 億次的速度開啟和關閉晶體管。

你正在閱讀的這篇文章就是通過這些0和1表示出來的，究其原因，正如 Chris Dixon 于 2016 年發表的文章《How Aristotle Created the Computer:》解釋的那樣：

人們經常用計算物件的發展史描述計算機的發展史，從算盤到巴貝奇引擎，一直到第二次世界大戰的密碼破譯機。事實上，計算機的發展是思想史，主要是從數理邏輯中產生的思想，數理邏輯是一門晦澀的學科，最初誕生于 19 世紀。數理邏輯是由哲學數學家開創的，其中最著名的是 George Boole 和 Gottlob Frege，他們的靈感來自于萊布尼茨的通用“概念語言”以及亞里士多德的古代邏輯體系。

Dixon 的文章記錄了數理邏輯的歷史：

數理邏輯最初被認為是一門沒有發展前景的抽象學科，沒有可以想象的應用。正如一位計算機科學家評論的那樣：“如果在 1901 年讓一位才華橫溢且富有同情心的局外人調查科學，并指出未來一個世紀最沒有發展前景的分支，他很有可能會選擇數理邏輯。”然而，如今數理邏輯卻為一個比其他任何領域的影響都大的領域奠定了基礎。

數學邏輯將所有數學都簡化為一系列邏輯語句，這樣就可以通過晶體管進行計算。下文仍然摘自 Dixon 的文章：

當年笛卡爾用精確的代數符號來表示歐幾里德幾何，從而使幾何學突破了人類直覺的限制； [George] Boole 的目標是對亞里士多德邏輯做同樣的抽象和提取。舉個簡單的例子，亞里士多德曾寫道：

All men are mortal.（所有人終有一死。）

Boole 用變量替換了 “men”（人）和 “mortal”（終有一死）這兩個詞，并用算術運算符替換了邏輯詞 “all”（所有）和 “are”（是）：

x=x * y

這個公式可以理解為：“集合 x 中的所有值都在集合 y 中”……

[克勞德]香農認為，布爾系統可以直接映射到電路上。當時，電路沒有系統的理論來指導設計。香農意識到，正確的理論“與邏輯符號研究中使用的命題演算非常相似”。他用一張簡單的圖表展示了電路和布爾運算之間的對應關系：

有了這種對應關系，計算機科學家就能夠利用 Boole 及后來的邏輯學家們數十年的成果。在論文的后半部分，香農展示了如何使用布爾邏輯來創建將兩個二進制數字相加的電路。

將這些加法器電路串聯在一起，就可以構建任意復雜的算術運算。這些電路將成為算術邏輯單元的基本構建塊，而算術邏輯單元是現代計算機的關鍵組件。

這種方法暗含了一層深意：計算機是確定性的，如果電路 X 打開，則 X 所代表的命題為真；1加1永遠是2；單擊瀏覽器上的“后退”按鈕將退出當前頁面。當然，晶體管與計算機所能執行的操作之間存在大量的抽象和大量的邏輯（也正是這些地方隱藏著無數 bug），但計算機的正確心智模型是嚴格按照指令執行操作（實際上，bug 不是計算機犯了錯誤，而是程序員告訴計算機做錯事的一種表現）。不過，Sydney 并不是微軟的本意。

ChatGPT 的電腦

前面，我已經提到了 Bing Chat 和 ChatGPT。3 月 14 日，Anthropic 發布了一款名為 Claude 的 AI 助手，雖然公告中沒有明確說明，但我認為這個名字是為了紀念前面提到的克勞德·香農。

當然，香農對信息論的貢獻遠遠超出了上述 Dixon 列出的范圍，但感覺我仍然感覺不太對，雖然從理論上講，人工智能助手所做的一切最終都是由 1 和 0 組成的，其行為模式來自于訓練的、未被禁止的行為，這導致 AI 助手的使用體驗與邏輯計算機有著根本性的區別，感覺 AI 助手的行為更接近人類，這不得不讓我們又聯想到幻覺。

下面是三個 GPT4 給出錯誤答案的問題：

這三個例子都來自 Stephen Wolfram，他指出大型語言模型并不適合回答某些類型的問題：

機器學習是一種強大的方法，尤其是在過去十年中，機器學習取得了一些非凡的成功，而 ChatGPT 是最新的成功案例。圖像識別、 語音轉文字、語言翻譯。所有方面都取得了新的成果，而且都很突然。而有些任務則從“基本不可能”變成了“基本可行”。

但結果基本上都不是“完美”的。也許某些 AI 在 95% 的時間里運作良好。但剩下的 5% 就很難說了。因為一些原因，人們可能會認為這是一種失敗。但關鍵是，通常對于各種重要的用例來說，95% 就“足夠好”了。也許是因為有些問題本來就沒有真正的“正確答案”。也許是因為 AI 才剛剛嶄露頭角，接下來人類或系統算法會以此為基礎改進……

在很多情況下，ChatGPT 可以幫助人們寫作、提出建議或生成各種文檔或有用的交互文本。但是，當我們需要完美的答案時，機器學習并不能完全勝任，同樣人類也做不到。

我們通過上述示例看到的結果也大抵如此。ChatGPT 在“類人”方面的表現很好，這部分本來就沒有準確的“正確答案”。如果將 ChatGPT 套用在某些需要準確答案的地方，往往就會失敗。但重點在于，我們有一個很好的方法來解決這個問題：將 ChatGPT 連接到 Wolfram|Alpha 及其所有計算知識的“強大力量”中。

這正是 OpenAI 努力的方向。摘自 The Verge：

OpenAI 正在向 ChatGPT 添加插件的支持，這將大幅擴展聊天機器人的功能，也是它們首次能夠訪問來自網絡的實時數據。

到目前為止，ChatGPT 一直有一定的限制，因為它只能從訓練數據中提取信息，而它的數據截止到了 2021 年。OpenAI 表示，插件不僅可以讓機器人瀏覽網頁，而且還可以與特定網站互動，如此一來，該系統就有可能為各種服務和站點提供廣泛的界面。在公告中，該公司表示這相當于是讓其他服務成為 ChatGPT 的“耳目”。

Stephen Wolfram 的 Wolfram|Alpha 是官方插件之一，如今 ChatGPT 已經能夠為上述問題提供正確的答案了，而且速度很快：

Wolfram 在帖子中寫道：

幾十年來，關于AI的思考分化成了ChatGPT 使用的“統計方法”與 Wolfram|Alpha 的“符號方法”兩個派別。但是現在由于 ChatGPT 的成功以及 Wolfram|Alpha 在理解自然語言方面所做的所有工作，我們終于有機會將二者結合起來，創造出更強大的 AI。

這個故事本身證明了 AI 助手究竟是什么，以及不是什么： AI 助手的計算方式與上述我們的理解不同；它們的“思考”和交流方式令人震驚。坦白說，我個人也很難回答上述三個問題，而這就是我們使用計算機的原因。而如今 ChatGPT 有了自己的電腦。

機會與風險

這種插件架構意味著，需要有人更新維基百科，如今 ChatGPT 不會再編造財務數字了，因為它可以使用計算機：

這個答案依舊不完美，因為出于某種原因，Wolfram|Alpha 提供的數據已過時，但它獲取了正確的股價：

當然，Wolfram|Alpha 并不是唯一的插件，目前 ChatGPT 有 11 個插件，類別包括旅游（Expedia 和 Kayak）、餐廳預訂（OpenTable）和 Zapier，為 5,000 多個其他應用程序打開了大門（目前還沒有搜索網絡的插件），“插件商店”提供了所有這些插件。Instacart 的集成尤其優秀：

鏈接會打開這個頁面：

ChatGPT 并沒有真的送菜上門，但我們距離那一天也不遠了。一個限制是我必須選擇 Instacart 插件，而且一次只能加載 3 個插件。但是，這個限制將來肯定會被克服，而且插件的數量也會越來越多。OpenAI 既允許客戶選擇插件，同時也會獲得的有關用戶的信息，在拍賣的基礎上出售某些類別的默認插件。

這聽起來有點可怕，但我希望 Hawkins 的理論是正確的。他曾在《A Thousand Brains》中提到 AI 的風險：

智能是系統學習世界模型的能力。然而，由此產生的模型本身是沒有價值的、沒有感情的、沒有目標的。目標和價值由使用該模型的系統提供。這類似于 16 世紀到 20 世紀的探險家繪制的全球地圖。冷酷無情的將軍可能會使用地圖來計劃如何包圍和剿殺敵軍。商人可以使用同一張地圖來和平地交換貨物。地圖本身不會規定這些用途，也不賦予使用方式任何價值。它只是一張地圖，既不兇殘也不和平。當然，地圖的細節和覆蓋范圍各不相同。因此，有些地圖更適合戰爭，而有些地圖則更適合貿易。但是，至于發動戰爭還是開展貿易，則取決于使用地圖的人。

同樣，大腦皮層也會學習世界模型，它本身沒有目標或價值。指導我們行為的情緒是由舊腦決定的。如果一個人的舊腦具有攻擊性，那么它將使用新皮質中的模型來更好地執行攻擊性行為。如果一個人的舊腦是仁慈的，那么它會利用新皮質中的模型來更好地實現仁慈的目標。與地圖一樣，一個人的世界模型可能更適合一組特定的目標，但新皮質不會創造目標。

Hawkins 提到的舊腦是我們動物的大腦，驅動情緒的部分，生存和生育的動力，以及身體的子系統；而能夠學習、思考和預測的是新皮層。Hawkins 認為，如果沒有舊腦，我們的智能就沒有行動能力，無論是在意志還是影響方面，機器智能也一樣，AI 真正的風險在于使用的人的意圖。

對此，我只能說讓我們拭目以待。我同意 Tyler Cowen 關于 AI 的風險和人類歷史不可避免的轉變的論點：人工智能即將到來，我們根本不知道結果會是什么，所以我們的責任是推動人工智能取得積極的成果，讓我們的生活變得更加美好。不論喜歡與否，我們都身處 Hawkins 長期以來一直尋求的大型實驗：帆船正在駛向未知的海域，我們不知道是否正在朝著正確的方向行駛，直到我們到達目的地。