013年夏天，一篇平平常常的帖子出現在谷歌的開源博客上，標題是《學習詞匯背后的含義》。
帖子中說：“目前計算機還不太擅長理解人類語言，雖然離這個目標還有一段距離，但我們正在利用最新的機器學習和自然語言處理技術取得重大進展。”
谷歌從紙媒和互聯網獲取了大量人類語言數據，比以前最大的數據集還大幾千倍，將數據集輸入一個受生物學啟發的“神經網絡”，并讓系統尋找詞語的相關性和聯系。
借助所謂的“無監督學習”，這個系統開始發現模式。例如，它注意到詞語“北京”與“中國”的關系，同“莫斯科”與“俄羅斯”的關系一樣，不管詞語的意思是什么。能否說計算機“理解”了？這個問題只能讓哲學家來回答，但是很顯然系統已經抓住了它“閱讀”的內容的某種本質。
谷歌將這個系統命名為“word2vec”――意思是將詞匯轉換成數字向量――并將其開源。對數學家來說，向量有各種奇妙的性質，你可以像處理簡單的數一樣處理它們，進行加、減、乘運算。通過這種方式，研究人員很快發現了一些驚人的意想不到的東西。他們稱之為“連續空間詞匯表示中的語言規律”，對它的解釋沒有聽起來那么難。word2vec把詞匯變成了向量，這樣你就能對詞匯做數學運算。
例如，如果輸入中國+河流，就會得到長江。輸入巴黎-法國+意大利，就會得到羅馬。
輸入國王-男人+女人，就會得到女王。
結果很驚人。word2vec系統開始應用于谷歌的機器翻譯和搜索引擎，業界也將其廣泛應用于其他領域，例如招聘，它成了科學和工程界新一代數據驅動的語言學家的必備工具。
兩年過去了，沒有人意識到存在問題。
這是一本關于機器學習與人類價值觀的書：關于不通過手工編程而是從數據中學習的系統，關于我們如何教它們，以及教什么。
機器學習主要包括3個領域：無監督學習，機器被直接給予一堆數據，就像word2vec系統一樣，目的是理解數據，找到模式、規律、有用的方式來提煉、表示或可視化數據；監督學習，系統被給予一堆已分類或標記好的例子進行學習，比如假釋犯是否再犯，然后用習得的模型對從未見過或尚不清楚基本事實的新例子進行預測；強化學習，系統被置于一個有獎懲的環境中，就像補能和危險并存的賽艇賽道，目的是找出最小化懲罰和最大化獎勵的最優方法。
越來越多的人意識到，世界正逐漸以各種方式依賴于機器學習領域給出的數學和計算模型。這些或簡單或復雜的模型――一些只能算是電子表格，另一些則可被稱為AI――正逐步取代人類判斷和更傳統的顯式編程的程序。
這不僅發生在科技和商業領域，也發生在具有倫理和道德影響的領域。司法體系越來越廣泛地使用“風險評估”軟件來決定保釋和假釋。道路上的車輛越來越多地自動駕駛。我們的貸款申請、簡歷和體檢結果逐漸不再由人類負責評估。進入21世紀，越來越多的人都在致力于讓世界――在象征意義上和字面意義上――自動駕駛。
近年來，兩個不同的群體敲響了警鐘。第一個群體關注當前的技術倫理風險。如果面部識別系統對某個族群或性別特別不準確，或者如果有人被未經審核的統計模型判定不得保釋，而法庭上的所有人――包括法官、律師和被告――都不理解，這就存在問題。這樣的問題無法在傳統的學科領域內解決，只能通過計算機科學家、社會學家、律師、政策專家和倫理學家的對話來解決。對話已經開始。
還有一個群體擔憂的則是未來的危險。隨著我們的系統越來越能靈活、實時地做決策，無論是在虛擬還是現實世界都面臨這種危險。毫無疑問，過去10年見證了AI和機器學習發展史上最令人振奮但也最突然最令人擔憂的進展。與此同時，一種無形的禁忌逐漸被打破，AI研究人員不再避諱討論安全問題。事實上，過去5年，在這個領域，這種擔憂已經從邊緣變成了主流。
雖然對于應優先考慮眼前的問題還是長遠問題，目前還存在爭議，但這兩個群體在大目標上是一致的。隨著機器學習系統越來越普遍和強大，我們會發現自己越來越經常地處于“魔法師學徒”的境地：我們召喚出一種力量，給它一組指令，希望它自主但又完全順從，然后一旦我們意識到指令不準確或不完整，又手忙腳亂地阻止，以免用我們的智慧召喚出某種可怕的東西。
如何防止這種災難性的背離――如何確保這些模型捕捉到我們的規范和價值觀，理解我們的意思或意圖，最重要的是，以我們想要的方式行事――已成為計算機科學領域最核心、最緊迫的問題之一。這個問題被稱為對齊問題（thealignmentproblem）。
隨著研究前沿越來越接近開發出所謂的“通用”智能，現實世界的機器學習系統越來越多地介入個人和大眾生活的道德倫理領域，對這一警告產生了一種突然的、充滿活力的反應。一個多元化團體正在跨越傳統的學科界限。非營利組織、智庫和研究所紛紛積極參與。越來越多的工業界和學術界領袖開始大聲疾呼，并相應地增加研究經費。第一代專攻機器學習倫理和安全領域的研究生已經入學。對齊問題的第一批應對者已到達現場。
書名：人機對齊
原版書書名：TheAlignmentProblem
出版時間：2023年6月
作者：【美】布萊恩·克里斯汀著;唐璐譯
這本書是近100次正式采訪和數百次非正式談話的產物，歷時4年，行程數萬公里，來自這一年輕領域廣闊前沿的研究者和思想家。我發現的是正在一片荒原上開拓的進程，既令人振奮，有時也令人恐懼。我原以為自己對這個故事很熟悉，結果卻發現這個故事比我曾認為的更吸引人，更令人擔心，也更充滿希望。
機器學習表面上是技術問題，但越來越多地涉及人類問題。人類、社會和公眾難題正在變得技術化。技術難題正在變得人性化、社會化和公眾化。事實證明，我們在讓這些系統“以我們想要的方式行事”方面的成功和失敗，為我們審視自我提供了一面真實的、啟示性的鏡子。
這個故事由3個不同部分組成。
第一部分探討對齊問題的前沿：現有的系統已經與我們的根本意圖不一致之處，以及在我們覺得有能力監督的系統中嘗試掌控這些意圖的復雜性。
第二部分將重點轉向強化學習，我們逐漸開始理解不僅能預測，而且能行動的系統；其中有一些經驗可以幫助我們理解進化、人類動機和激勵的微妙之處，對商業和育兒都有啟發。
第三部分將我們帶到AI安全研究的前沿，我們將了解目前最好的一些想法，如何將復雜的自動系統與過于微妙或復雜、無法明確的規范和價值觀相結合。
不管是好是壞，未來一個世紀的人類故事都很可能是建立并啟動各種各樣的智能系統。就像魔法師的學徒一樣，我們會發現自己也只是在一個充斥著掃帚的世界里的眾多自主體之一。
我們到底該怎么教它們？教什么？
——互動問題——
你認為機器學習會有什么風險？
歡迎在文末留言，將隨機抽選三位用戶送出《人機對齊》一本。
獲獎名單將在下期“蝌學薦書”中公布，歡迎留言~
恭喜上期獲獎者@小燕子、@宋婷、@小沈 獲得《讀蟲記》一本，請與蝌蚪君聯系獲取贈書。
責編：咕嚕
來源： 蝌蚪五線譜
腦繪畫怎么學？電腦繪畫入門學習教程！電腦繪畫，作為數字藝術的一種表現形式，近年來越來越受到人們的喜愛。無論是專業的插畫師、設計師，還是業余的繪畫愛好者，都可以通過電腦繪畫來創作出令人驚嘆的作品。那么，如何入門電腦繪畫呢？本文將為你提供一份詳盡的入門指南。
1.了解電腦繪畫基礎知識
在開始學習電腦繪畫之前，首先需要了解一些基礎知識。電腦繪畫是一種使用電腦和相關軟件來創作藝術作品的過程。與傳統繪畫相比，電腦繪畫具有更多的創作工具和效果，可以輕松地實現各種創意。在學習電腦繪畫之前，你需要掌握基本的電腦操作技能，如鼠標和鍵盤的使用等。
推薦兩個繪畫學習必備平臺：
輕微課：輕微課是一家專業的繪畫機構，主打課程有日系插畫、游戲原畫、古風插畫、動漫漫畫，以“魔鬼訓練”和“魔鬼督學”而著稱，廣受學員稱贊。
羊課網：羊課網是免費的繪畫學習網站，主要為興趣類的學習提供一個免費學習的平臺，如果不知道適不適合的同學，可以先上羊課網了解一下。
2.選擇適合的電腦繪畫軟件
選擇一款適合自己的電腦繪畫軟件是學習電腦繪畫的重要步驟。市面上有很多電腦繪畫軟件，如Photoshop、SAI、Clip Studio Paint等。這些軟件各有優缺點，你可以根據自己的需求和喜好選擇適合自己的軟件。在選擇軟件時，需要注意軟件的易用性、功能性和兼容性等方面。
3.學習電腦繪畫基本技巧
學習電腦繪畫需要掌握一些基本技巧，如畫線、填色、調色、涂抹等。這些技巧是電腦繪畫的基礎，掌握好了之后可以更加自如地進行創作。在學習基本技巧時，可以通過觀看教學視頻、閱讀教程書籍等方式進行學習。同時，也需要多加練習，不斷提高自己的繪畫水平。
4.創作自己的電腦繪畫作品
在掌握了基本技巧之后，就可以開始創作自己的電腦繪畫作品了。在創作過程中，需要不斷嘗試新的技巧和效果，挑戰自己的創作極限。同時，也需要注重細節和整體效果的協調，使作品更加完美。創作電腦繪畫作品需要耐心和毅力，需要不斷地摸索和實踐。
5.不斷學習和提高
學習電腦繪畫是一個不斷學習和提高的過程。隨著技術的不斷發展和軟件的不斷升級，你需要不斷學習和掌握新的技巧和知識。可以通過參加線上或線下的培訓班、與其他電腦繪畫愛好者交流等方式來不斷提高自己的繪畫水平。同時，也要保持對藝術的熱愛和激情，不斷探索新的創作領域和風格。
學習電腦繪畫需要耐心、毅力和熱情。通過了解基礎知識、選擇適合的軟件、學習基本技巧、創作自己的作品以及不斷學習和提高，你可以逐漸掌握電腦繪畫的技巧和精髓，創作出屬于自己的藝術作品。
于一個完全零基礎的人員，開始學習電腦編程可能會感到畏懼和困惑，因為編程是一種高度抽象和邏輯性強的活動，需要一定的學習和實踐才能掌握。
以下是一些從零開始學習電腦編程的建議：
總之，從零開始學習電腦編程需要有耐心和恒心，需要不斷地學習和練習。選擇適合自己的編程語言，學習基礎知識，練習編程，參與社區，這些步驟都是成為一名合格程序員的必經之路。