自TechCrunch等
機器之心編譯
參與：吳攀、蔣思源、朱思穎
在 12 月初的時候，蘋果正式向外界宣布允許其人工智能和機器學習研究員公開發布和分享他們的最新研究成果，這一舉措稍稍掀開了蘋果久負盛名且神秘的創新研究進程的一角。僅在幾周之后，他們的人工智能和機器學習研究的第一篇論文發表了，主要聚焦蘋果在智能圖像識別領域的研究。
機器學習研究也許會在蘋果內部引領新的潮流。該公司最近成立的機器學習小組中六位研究員發表了一篇論文，這篇論文描述了一種用于模擬+無監督學習（simulated + unsupervised learning）的新方法。其目的是提高合成訓練圖片的質量。這項研究展示了該公司希望在高速增長的人工智能領域中成為領導者的渴望。
谷歌、Facebook、微軟還有其他技術類初創公司一直穩步發展他們的機器學習研究小組。這些公司都發表了幾百份的學術研究。他們的學術追求都是公開且有據可查，但是蘋果公司一直很固執地將研究成果保密。
變化是從本月初開始的。蘋果的 AI 研究部主任 Russ Salakhutdinov 宣布該公司將很快開始發表研究成果。該研究小組的第一次嘗試就是很及時很務實的。
近來，使用合成圖像和視頻訓練機器學習模型的頻率越來越高了。不使用真實世界的圖像是因為其花費的成本和時間很高，而生成圖像的成本更少，更容易獲取和定制化。
在該研究中，蘋果指出了與合成圖像或計算機圖像相比使用真實圖像的優缺點，標注必須添加到真正的圖像，這是一個「昂貴且耗時的任務」，需要一個人的勞動力單獨標記圖片中的物體。另一方面，計算機生成的圖像能幫助促進這一過程，「因為標注是自動可用的。」
盡管如此，完全換成合成圖像可能會導致程序的質量下降的問題。這是因為「合成數據往往不夠現實」，往往會產生只對計算機生成的圖像的細節才能反應良好的用戶體驗，而且還不能很好地泛化到它面對的任何真實世界的物體和圖像上。
這就是這篇論文的初衷所在——在「對抗學習」中綜合使用模擬和真實圖像，創建出一個領先的人工智能圖像程序：
在這篇論文中，我們提出了模擬+無監督學習（S+U）學習，其目標是使用未標記的真實數據提升合成圖像的真實性。經過提升的真實性能夠在沒有收集的真實數據或經過人類注釋的大型數據集上實現更好機器模型訓練。
我們發現這將實現高質量的真實圖像的生成，而且經過了定性研究和用戶研究的驗證。
論文剩下的部分介紹了蘋果在該主題下的一些研究細節，包括已經開始操作的實驗和支持其研究發現的一些數據理論。雖然這篇論文只關注單個圖像，但是蘋果的該研究團隊指出他們最終期望的結果是「探討精煉的視頻」。
蘋果提議使用生成式對抗網絡（GANs）來提高這些合成圖像的質量。生成式對抗網絡并不新穎，但蘋果正在修改它使其更加符合生成訓練圖片的目的。
生成式對抗網絡很大程度上通過利用競爭性神經網絡（competing neural networks）之間的對抗關系來工作。在蘋果公司的論文中，模擬器通過精煉機（refiner）進行生成圖像，然后將這些精煉過的圖像發送到鑒別器（discriminator），鑒別器的任務就是區分真實圖像和合成圖像。
論文：通過對抗訓練從模擬的和無監督的圖像中學習（Learning from Simulated and Unsupervised Images through Adversarial Training）
摘要：隨著近年來在圖形（graphics）上的進步，在合成的圖像上訓練模型變得越來越可行了，這也潛在地避免了對昂貴的標注的需求。但是，由于合成圖像分布和真實圖像分布之間的差別，從合成的圖像中學習可能無法得到預期的表現。為了彌合這種差距，我們提出了模擬+無監督學習（Simulated+Unsupervised (S+U) learning），其中的任務是使用無標簽的真實數據來提升模擬器輸出的真實性，同時也為保留來自該模擬器的標注信息。我們開發了一種用于 S+U 學習的方法，該方法使用了一個類似于生成對抗網絡（GAN）的對抗網絡，但它的輸入是合成圖像而非隨機向量。我們在標準 GAN 算法的基礎上做了一些關鍵的修改，從而可以保留標注、避免偽像（artifact）和使訓練穩定：
i. 一個「自正則化（self-regularization）」項；
ii. 一個局部對抗損失（local adversarial loss）；
iii. 使用精細調節過的圖像的歷史來更新判別器。
我們的研究表明這能實現高真實度的圖像生成——這在定性評估和用戶研究上都得到了證明。我們通過訓練用于注視估計和手姿態估計（gaze estimation and hand pose estimation）的模型而對生成的圖像進行了量化評估。研究表明我們在使用合成圖像上實現了顯著的提升，并且在沒有任何有標簽的真實數據的情況下實現了在 MPIIGaze 數據集上的當前最佳結果。
算法
圖 1：模擬+無監督（S+U）學習。其任務是使用無標簽的真實數據從模擬器中學習能夠提升合成圖像的真實度的模型，同時還能保留其標注信息。
圖 2：SimGAN 概覽。我們使用一個 refiner 神經網絡 R 來改善模擬器的輸出；該神經網絡可以最小化局部對抗損失和一個「自正則化（selfregularization）」項的組合。這個對抗損失會試圖欺騙一個判別器網絡 D，而 D 則需要試圖區分一張圖像是否是真實的。上述的「自正則化」項可以最小化合成圖像和改善過的圖像的之間的圖像差異。這保留了標注信息（即注視方向），使得改善過的圖像可以用于訓練機器學習模型。該 refiner 網絡 R 和判別器網絡 D 是交替更新的。
圖 3：局部對抗損失（local adversarial loss）的圖示。該判別器網絡輸出一個 w×h 的概率圖。其對抗損失函數是在局部 patch 上的交叉熵損失（cross-entropy losses）的總和。
圖 4：使用改善過的圖像的歷史（history of refined images）的圖示
圖 9：使用一個改善過的圖像的歷史來更新判別器。（左圖）合成圖像；（中圖）使用改善過的圖像的歷史所得到的結果；（右圖）沒有使用改善過的圖像的歷史所得到的結果（而僅僅使用了時間最近的改善過的圖像）。我們可以觀察到明顯的沒有真實感的偽像，尤其是在眼角附近。
圖 11：來自 NYU 手勢數據集 [35] 的改善過的測試圖像樣本。（左圖）真實圖像；（右圖）合成圖像（上）和對應的 refiner 網絡輸出的改善過的圖像。在真實圖像中最大的噪聲源是不平滑的深度邊界（non-smooth depth boundaries）。該 refiner 網絡學習了建模真實圖像中的噪聲存在，重要的是其不需要任何真實圖像的標簽。
詩·小雅·鶴鳴》有言：“樂彼之園，爰有樹檀, 其下維萚。它山之石，可以為錯。”該段后面一句的意思是“他方山上有佳石，可以用來磨玉英。”，這個含義可以套用在文獻綜述論文的撰寫上。
和“他山之石，可以攻玉”類似，文獻綜述類論文好看卻不好寫。對于科研工作來說，文獻綜述（文獻綜述論文或者學術論文中的文獻綜述部分）論文是非常重要的學術資源。文獻綜述論文可以為科研工作者提供一個研究領域的歷史背景或當前狀態，同時展望其未來的發展方向。
撰寫文獻綜述論文對于一個科研工作者來說也非常重要，一方面可以為自己的研究提供靈感，尋找研究問題，也為將來期刊小論文或學位論文做準備。另一方面，又可以鍛煉自己的學術寫作能力，特別是對于科研菜鳥和小白來說。一個人想走上科研道路，撰寫文獻綜述論文是必由之路。但是，想要撰寫優秀的文獻綜述論文，最好能接受文獻綜述論文撰寫的系統性訓練，至少也應該知道一點基本概念和原則。
文獻綜述論文是指在某一時間段內，對某一領域，某一專業或某一方面的課題、問題或研究專題搜集大量相關數據、資料和主要觀點，然后通過閱讀、分析提煉、歸納整理當前課題、問題或研究專題的最新進展、學術見解或建議，對其做出綜合性介紹和闡述的一種學術論文。文獻綜述論文提供了某個領域內當前學術研究的概述，使讀者能夠認識現有相關研究中的主要理論、方法及缺點和不足。
寫一篇文獻綜述類論文的整個過程包括尋找相關出版物（如書籍和期刊文章），批判性地分析它們，并解釋作者們的發現。這個過程共有五個關鍵步驟：
一篇好的文獻綜述論文不僅僅是總結來源相關數據、資料和主要觀點，它還需要分析、綜合和批判性地評估相關數據、資料和主要觀點，以清晰地描述該學科的當前知識狀態和國內外發展狀況。它是研究過程中前期重要的工作之一。
撰寫文獻綜述的目的是什么？
當一個作者撰寫小論文、大論文等種類學術研究論文時，ta必須先期進行文獻綜述，以將ta的研究置于現有知識框架和范圍內，因為羅馬城不是一天就能建成的，科學研究也不是空中樓閣。文獻綜述讓作者獲取以下鍛煉機會：
如果一個科研工作者想申請科研基金或開始從事研究工作，撰寫文獻綜述類論文是一項特別重要的技能。
一般來說，無論是獨立的文獻綜述論文，或是研究論文中的文獻綜述部分，撰寫文獻綜述的過程遵循相同的步驟，各個步驟詳解如下：
第一步：搜索相關文獻
在開始搜索文獻之前，作者需要一個明確的研究主題和方向。
如果作者正在撰寫研究論文或研究論文的文獻綜述部分，那么研究問題一般是明確的，ta會檢索與ta的研究問題相關的科研文獻。
如果作者是作為一項獨立論文撰寫一篇文獻綜述，那么研究問題是非聚焦的，ta必須選擇一個重點，并提出一個中心問題來指導ta的文獻搜索。與論文的研究問題不同，搜索相關文獻的中心問題必須在不收集原始數據、沒有開展實驗的情況下進行。ta應該只能根據對現有科技文獻出版物的回顧來回答那個ta計劃解決的問題。
如一個文獻綜述研究問題實例：
Methods ofIntegrating and Updating Geo-Spatial Databases？
針對問題列一個關鍵字列表：首先創建一個與這個研究問題相關的關鍵詞列表。包括作者感興趣的每個關鍵概念或變量，并列出所有同義詞、近義詞和相關術語。如果在文獻搜索過程中發現了新的關鍵詞，作者可以添加到這個列表中。
關鍵詞示例
然后根據關鍵詞開始搜索文獻，例如以下一些用于搜索科技文獻的有用在線電子文獻數據庫：
AGU(American Geophysical Union)電子期刊和圖書數據庫
Elsevier ScienceDirect電子期刊及電子圖書 數據庫
HeinOnline法律數據庫
International Press(國際出版社電子期刊數據庫)
IOP Science AAS Journals（美國天文學會）期刊 數據庫
iresearchbook（愛學術電子書數據庫）
JSTOR電子期刊和電子圖書 數據庫
Springer電子期刊及電子圖書 數據庫
Taylor & Francis期刊數據庫
EBSCO
Project Muse (人文和社會科學)
Medline (生命科學和生物醫學)
EconLit (經濟學)
Inspec (物理、工程和計算機科學)
web of science
還有一個是就是人見人愛、花見花開的科研學術網址導航—SCI-Hub。
Small Tips：
在進行文獻檢索時，研究者可以使用布爾運算符來縮小檢索范圍：
AND：查找包含多個關鍵字的來源（例如：spatial database、Data matching andCartographic generalization）
OR：查找包含一系列同義詞之一的來源（例如：Data matching or Cartographic generalization）
NOT：排除包含某些術語的結果（例如：蘋果 not 水果/蘋果而非水果）
當研究者檢索到了一篇文獻之后，不要立即下載，也不用通讀全文，以免浪費時間。一般正確的做法是，先閱讀摘要，確定該文獻是否與自己的研究問題相關。當研究者找到一本和研究問題非常契合的有用的文獻時，ta可以直接根據這篇論文的參考文獻尋找其他相關的文獻。
研究者要確定與自己的研究主題相關的最重要的文獻，特別要注意那些被大量引用的文獻。如果相同的作者、文獻不斷出現在研究者的檢索文章中，一定要找到它們，擴充自己的文獻庫。
第二步：評估和選取文獻
研究者即使再勤勞，也不大可能完全尋找并閱讀關于研究方向和主題的所有文章，但ta必須評估手頭上哪些文獻與自己的問題最相關。
對于已下載保存全文的每份文獻出版物，研究者要問問自己：
有以下幾點需要注意：
?綜述論文作者需要確保使用的信息來源是可信的，確保閱讀了所有具有里程碑意義的研究文獻和明白了研究領域的主要理論，不能有遺漏。
?研究者應該注意一篇論文被引用了多少次——高引用率意味著這篇文章在該領域具有影響力，當然應該將它選取到自己的文獻綜述中。
?另外，哪些論文需要納入文獻分析對象或者說文獻綜述范圍將取決于作者的主題和學科：在科學領域，你通常主要關注和回顧最近最新的文獻；但在人文領域，你可能會從長遠的歷史角度（例如，追蹤一個概念是如何隨著時間的推移而改變的），文獻選取的標準是權威性和影響力，而不是出版的日期越近越好。
Small Tips：
作者最好準備一個文獻整理工具（Endnote、Zotero和一些其他開源軟件），可以很方便地對下載的文獻做筆記，并將核心觀點、數據或其他信息作為論文正文中的引用內容。在閱讀時，研究者可以開始綜述寫作過程。作者對文獻做筆記的一大好處是，可以在將來正式撰寫文獻綜述中加入自己對文獻的評論和理解，相當于對引用的觀點進行了轉述，而不是直接照抄，這樣就可以降低查重率了。
另一個非常有用的事情是，研究者可以制作一個帶注釋的參考書目，研究者在上面可以編輯完整的引文信息，并為每個來源寫一段總結和分析。這有助于你記住所讀的文獻內容，并在以后的閱讀過程中節省時間，并為將來撰寫自己的研究論文作好準備，打下基礎。
第三步：確定研究問題的主題、爭議和不足
研究者在閱讀文獻庫中的目標論文時，要開始著手思考怎樣組織文獻綜述的論點和結構了。這需要研究者了解所閱讀的文獻資料之間的聯系和區別。根據研究者的閱讀和筆記，ta可以也應該可以梳理出以下信息：
趨勢和模式（理論、方法或結果）：隨著時間的推移，某些方法變得越來越流行還是越來越不流行？
研究主題：哪些問題或概念在文獻中反復出現？
爭議和矛盾：文獻之間論點的區別或分歧在哪里？
關鍵性核心論文：是否有任何有影響力的理論或研究改變了該領域的方向？
空白和不足：這些文獻中沒提到什么關鍵研究，缺少什么關鍵研究？是否存在需要解決的研究弱點？文獻中都總結出了哪些需要改進的共性問題？
梳理出了這些內容，就可以進一步幫助研究者尋找出文獻綜述的結構（如果在準備自己的研究論文），并明確自己的研究問題、研究方法將如何對現有學科有所突破，凸顯創新性、必要性和可能性。
一個趨勢和差距的例子：
在回顧有關Uncertainty-awarevisual analytics的文獻時，研究者注意到目前的研究存在兩大不足：
The uncertainand con?icting patterns are not well-de?ned.
The problemswe’re facing are the data con?icts, di?erent resolution, missing and con?ictingdata, which together lead to the uncertainty in the spatial temporal data.
第四步：規劃和組織文獻綜述結構
規劃和組織文獻綜述的方法有很多種。在開始寫作之前，作者應該對自己的策略有一個大致的了解。
根據研究者的文獻庫中文獻數量多少，ta可以將其中幾種策略結合起來（例如，文獻綜述整體結構可能是主題性的，但每個主題都是按時間順序討論的）。
最簡單的方法是跟蹤主題隨時間的發展。然而，如果研究者選擇這種文獻綜述結構，那么ta要小心避免簡單地按順序列出和來源。而是應該試著分析形成該領域方向的模式、轉折點和關鍵論點，需要思考并解釋某些發展是如何以及為什么發生的。
如果研究者發現了自己的研究問題存在一些反復出現的主題，那么ta可以將文獻綜述組織成不同的小節，討論主題的不同方面。
例如，如果研究者正在查閱有關老齡化居民醫療水平的文獻，文獻關鍵主題可能包括醫療政策、文化層次、經濟收入、醫保基數、工作年限及子女數量等。
如果研究者開始是從各種研究方法或以不同學科或多領域角度獲取文獻資料，ta可能想比較不同方法得出的結果和結論。例如：
在定性和定量研究中分別出現了什么結果。
教育學者和心理學者是如何討論這個話題的。
文獻綜述常常是一個理論框架的基礎，因此研究者可以用它來討論各種理論、模型以及關鍵研究概念的定義。
研究者還可以為一種特定及相關理論方法分別進行討論，或者結合各種理論概念為自己的研究創建一個系統的框架。
第五步：撰寫文獻綜述論文
像任何其他學術論文一樣，文獻綜述論文應該有引言、正文和結論。每一篇文章的內容取決于作者撰寫文獻綜述的目的。
引言（Introduction）應明確文獻綜述的重點和目的。
正文（Body）根據文獻綜述的長度，可把正文分成幾個小節，每個主題、時間段或方法使用副標題。
在寫作正文時，研究者可以遵循以下原則：
總結和綜合：概述每個文獻的主要觀點，并將它們結合成一個連貫的整體。
分析和解釋：不要只是轉述其他研究者的話，在可能的情況下添加作者自己的解釋，討論與整個文獻相關的發現在本領域內的意義。
批判性評估：提及文獻研究的優缺點。
在結構良好的段落中寫作：使用過渡詞和主題句進行連接、比較和對比。
在結論（Conclusion）中，研究者應該總結自己從文獻中獲得的主要發現是什么，并強調它們的意義。
作為一篇獨立的文獻綜述論文，那么ta最好評價、討論并總結所有文獻的研究，并根據作者自己的思考，發現當前領域內研究的差距，為將在未來進行的研究提出建議。
寫了這么多文字，還是老規矩，筆者下面給出一個文獻綜述論文的例子。
文獻綜述論文的一個引言（Introduction）實例：
文獻綜述論文的一個正文（Body）實例—先按四個主題再按時間：
文獻綜述論文的一個討論（Discussion）實例：
文獻綜述論文的一個結論（Conclusion）實例：
所謂“取精華于一處，取珠璣于一隅”，一篇文獻綜述論文能寫成這種程度，也就達到一定水平了。
作者：晨星，男，湖北武漢人，副高職稱，理學博士，高級程序員，IAMG（國際數學地球科學協會）會員，省級醫學人工智能與大數據專委會委員，部級行業智庫特約研究員。
查 發自 凹非寺
量子位 報道 | 公眾號 QbitAI
編程語言Objective-C的發明者Brad Cox前不久在弗吉尼亞州的家中去世，享年76歲。
Brad Cox是著名的計算機科學家，他發明的面向對象編程（OOP）語言Objective-C后來成為了蘋果OS X和iOS設備App的主要開發語言。
此外，他還在軟件工程、軟件組件等方面做出過重要貢獻。
Brad Cox本人也衷心于教育，1991年他出版了《面向對象程序設計：一種進化方法》一書，還致力于通過互聯網開發早期的在線課程。
最后，考克斯博士回到了他最初的神經網絡研究，致力于將機器學習和數據科學應用于網絡安全。
Brad Cox于1944年出生于佐治亞州的本寧堡，他在傅爾曼大學主修有機化學與數學，之后又在芝加哥大學獲得數學生物學博士學位。
在芝加哥大學那里，Cox從事神經網絡的早期研究。1970年，他編寫了一個PDP-8程序來模擬神經元簇，并在《行為研究期刊》上發表了相關論文。
畢業后的Cox進入國際電話電報公司（ITT）工作，后來又加入了Schlumbeger Doll研究實驗室，這里成為他創建Objective-C語言的起點。
20世紀80年代，面向對象編程成為趨勢，雖然那時已經有Smalltalk這種OOP語言，但是業內需要一種能夠兼容Unix與C環境的OOP語言。
1981年，Cox很快寫出了面向對象的預編譯器(OOPC)，它可以將類似Smalltalk的語法翻譯成C語言，這就是Objective-C的前身。
他的領導Tom Love認為，這種面向對象的解決方案很有市場，于是二人一起從公司離職，創建了PPI公司，后來改名為Stepstone。
△ Stepstone公司舊址
在PPI公司，Cox把當初的OOPC發展成了Objective-C。
他認為Objective-C將引發一場軟件工業革命，因為這種語言創造了“預生產軟件組件”(software-IC)市場。
后面的故事，果粉應該很熟悉了。
1985年的喬布斯被排擠出蘋果公司，創立了NeXT電腦公司。此后，NeXT成為Objective-C的重要客戶，其操作系統NeXTSTEP都用上了這種語言來做開發。
雖然喬布斯創立的NeXT在硬件方面未能站住市場，但是在軟件方面卻大獲成功。
1994年，Cox創立的Stepstone倒閉，Objective-C的所有權利都被NeXT收購。
1997年，NeXT被蘋果收購，喬布斯以這種方式重返蘋果，NeXT的軟件系統被安裝在Macintosh電腦上，并發展成為OS X操作系統。
Objective-C也順理成章地成為了蘋果電腦OS X系統的開發語言，后來又隨著2007年iPhone的橫空出世，被越來越多的開發者使用。
時至今日，我們仍能在Objective-C語言中看到Brad Cox的痕跡：變量類型的前綴NS就是當年NeXTSTEP操作系統的縮寫。
雖然蘋果于2014年推出了Swift語言意圖取代之，但Objective-C現在仍是iOS的主要開發語言之一。
盡管Cox發明了編程語言Objective-C，但他在2019年接受《編程大師》專訪時表示，他本人對編程語言不感興趣，他認為語言只是構建和組合軟件各部分的工具。
一次Brad Cox與妻子在旅行過程中遇到一對德國夫婦，與他們交談，發現對方是一名程序員。Cox表示自己也是程序員，然后雙方開始了以下對話：
“你是做什么的？”
“我發明了Objective-C語言。”
“不，那是Brad Cox做的。”
“我就是Brad Cox。”
Brad Cox訃告：
https://www.legacy.com/us/obituaries/scnow/name/brad-cox-obituary?pid=197454225
Objective-C的起源與發展：
https://dl.acm.org/doi/10.1145/3386332
— 完 —
量子位 QbitAI · 頭條號簽約
關注我們，第一時間獲知前沿科技動態