2024年諾貝爾物理學獎背後改變歷史的故事
2024年諾貝爾物理學獎竟然頒給了AI領域
獲獎者是人工智能方面的科學家
傑弗里·辛頓和約翰·霍普菲爾德
獲獎理由是他們利用了物理學方法來找尋信息的特徵
構建了現代人工智能的基礎
今天就來講講眾所不周知的辛頓和那些改變歷史的人
首先霍普菲爾德提出了神經網絡
而辛頓則在此基礎上歷經50年
最終讓人工智能浪潮席捲全球
時間回到2012年6月
谷歌公司公開了一項名為谷歌貓的研究成果
他們模擬人腦學習的方式搭建了一個神經網絡系統
用算法來識別網上視頻中的貓
而那些大量的視頻不做任何標記
讓模型自己學習貓的特徵
谷歌在背後動用了各個數據中心
共16000塊CPU進行訓練
最終以74.5%的準確率驚動了業界
這個項目的發起人叫吳恩達
項目接近尾聲時他離開了谷歌
同時請來了自己的老師接替他完成
這位老師就是已經64歲的辛頓
辛頓看了谷歌貓項目的技術細節後
意識到他的學生可能用錯了神經網絡
於是他在谷歌貓項目結束後就開始行動起來
找來自己另外兩位學生
合作創建了一個新的捲機神經網絡
而後馬上參加了ImageNet圖像識別比賽
結果以高達84%的識別準確率奪得了冠軍
更令人驚訝的是他們只用了4塊GPU
學術界和產業界驚呆了
辛頓他們三個人加4塊GPU
是如何幹掉谷歌一個團隊外加16000塊CPU的
此時最想知道答案的
恐怕是一位還在休產假的斯坦福華人教授
也是ImageNet項目的發起人李飛飛
他意識到人工智能的歷史
有可能在這一天被改寫了
出生於北京的他從普林斯頓畢業後
研究方向是計算機視覺與機器學習
就是讓機器能夠像人一樣理解圖像的意義
傳統方式是將貓的圖像抽象成簡單的幾何圖形
以此降低識別難度
但現實中有可能會出現這樣的液體貓
這讓李飛飛意識到問題可能不是出在算法上
而是沒有足夠的高質量數據讓機器來學習
李飛飛從孩子認識世界的過程中受到了很大的啟發
如果小孩每轉一次眼睛代表機器拍下了一張圖片
那麼一個三歲小孩就已經學習了上億張圖片
如果有足夠多的標記好的數據
讓機器每看一張就和背後標記的答案核對一次
那麼經過足夠多次的學習
機器就能和小孩一樣理解貓的含義
但哪來這麼多標記好答案的圖片呢?
依靠亞馬遜眾包平台
李飛飛團隊完成了人工標註的龐大工作量
2009年包含了320萬張圖片的ImageNet數據集誕生了
三年後這個數量達到了1500萬張
李飛飛用六年時間大力出奇蹟
彌補了數據的短板
而此時星頓和他的兩位學生出現了
他們在經典的捲機神經網絡基礎上
摒棄了此前逐層無監督方法
對輸入值進行有監督學習
也就是每次識別後
比對與李飛飛人工標註的答案之間的差異
進行反饋優化
大大提高了準確率
同時捲機盒會在輸入圖像上滑動
所以無論被檢測物體在哪個位置
都能被檢測到相同的特徵
大大減少了運算量
算法的瓶頸終於突破了
此時只剩下最後一塊拼圖
那就是算力
長期被認為不務正業
只能作為遊戲顯卡的GPU
卻被星頓看好
因為他發現GPU有超強的並行運算能力
與深度學習高度適應
類似於GPU能同時進行很多次簡單的四軸運算
而CPU只能一次做少量難度很高的函數運算
這就是4塊GPU就能抵制上16000塊CPU的原因
終於算力被另一位美籍華人給補上了
他的名字叫黃仁勳
算法數據與算力三駕馬車終於齊備
之後就是大家熟悉的故事了
深度學習的繁榮
GPU餘音偉大的崛起
AlphaGo的稱霸
大模型的誕生
Chad GPT的橫空出世
AIGC時代的到來
當一個跨時代的偉大產物出現時
往往意味著早有一群開拓者默默前行了許久
如果從星頓1972年進入愛丁堡大學算起
這位AI教父已經在人工智能領域熬戰了50餘年
每一次科技浪潮洶湧而來時
背後都有一些閃耀的光芒值得被更多人知道