作者
標題 Re: [請益] 大家怎麼看這一波AI浪潮
時間 Mon Jul 17 13:09:36 2023
標題 Re: [請益] 大家怎麼看這一波AI浪潮
時間 Mon Jul 17 13:09:36 2023
來講一個故事好了 Robert G. Gallager在1960透過類神經網路啟發
根據Message Passing 寫了一個叫做LDPC的更正碼 根據他的paper理論可以有效
接近Shannon bound 當時被一堆人視為是一個垃圾paper 因為當時效能比Turbo-code
還爛 結果在2000年初 因為硬體和記憶體效能大增 這算法突然變成主流
才還給這老兄一個公道 所以算法有時候太先進 硬體不支援這也是個問題
才還給這老兄一個公道 所以算法有時候太先進 硬體不支援這也是個問題
時間回到1989你看當年和藹可親的Yann Lecun還在認真做學問的時候 那時候要跑
一個CNN架構有多困難
https://www.youtube.com/watch?v=FwFduRA_L6Q
現在連一個高中生都會寫MNIST簡單CNN堆疊 這就是因為前輩的累積寫了一堆Library
和硬體的邁進 你知道在2015前寫這些Deep Learning框架還是一堆啥鬼Theano
甚至還要去碰cuda 更或者要去compile Caffe這些鬼玩意 現在框架在CUDA生態圈
發展得很成熟了 套一句巴克利的話 連他阿罵都知到如何寫pytorch 去訓練MNIST
手寫數字
發展得很成熟了 套一句巴克利的話 連他阿罵都知到如何寫pytorch 去訓練MNIST
手寫數字
啊 你要可以說 那其他家也可以這樣搞自己的AI eco system啊 也是可以啦
i皇一直都想這樣幹 他們開發了oneAPI Deep Learning Library但我到現在還是不會用
像蘇媽就比較實際點 可能會瞄準inference這塊 畢竟你訓練完後的Model
可以在不同平台去deploy 畢竟deploy
就不會像在training時候 各種開發得吃NVIDIA eco system 在deploy各種模型
只要能轉成c/c++代碼 就不在需要像以前training一樣很吃eco system 同時
在優化inference時候 不同計算系統可以針對4bit/8bit/16bit加速
像Q社就開發了許多Low Level API 專門設計給自家NPU使用 可以用來優化轉到他們
系統上的deployment 上
NV賣的就是鏟子 當年NV在3D顯示卡和ATI大戰時候也是每半年到一年瘋狂提升3D效能
https://www.youtube.com/watch?v=TeJ2IFae2-0
如果時間回到199x 當3D Render演算法出現時候 照你邏輯 你應該覺得為啥要買
啥鬼N家股票 買3dfx這家公司股票就對了 就好啦 畢竟誰都可以做遊戲顯卡 對吧!!!!
※ 引述《zuvio (zz)》之銘言：
: 我發現很多人陷入一個迷思
: 能做電腦的公司這麼多家
: 為什麼AI一定要靠NV才能用
: chatgpt就不是靠NV起家的啊
: 也是有其他公司會做伺服器晶片
: 說不定intel德儀之後有更好的工業伺服器晶片屌打NV
: 現在不知道為什麼很多人覺得AI是建構在NV的上頭
: 買一堆NV相關企業的產品
: 但實際上AI根本就是軟體
: 像google搜尋引擎一樣的軟體
: 根本不一定需要哪間公司的伺服器才能做
: 隨便一家有做伺服器的都能用好嗎
: 之前挖礦區塊鏈那些公司也能做AI好嗎
: 所以這波AI真的在亂漲，不知道誰說只有NV能搞AI
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 76.103.163.64 (美國)
※ 作者: LDPC 2023-07-17 13:09:36
※ 文章代碼(AID): #1ajCqI33 (Stock)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1689570578.A.0C3.html
※ 同主題文章:
07-15 15:30
07-15 17:25
07-15 17:53
07-15 21:12
07-15 22:44
07-15 23:03
07-15 23:57
07-16 02:02
07-17 06:28
07-17 08:44
07-17 09:58
Re: [請益] 大家怎麼看這一波AI浪潮
07-17 13:09
07-17 16:26
※ 編輯: LDPC (76.103.163.64 美國), 07/17/2023 13:10:37
想當年我國中就只會騎腳踏車 然後被狗追 電腦只是用來打電動的 這樣度過童年!
※ 編輯: LDPC (76.103.163.64 美國), 07/17/2023 14:01:44
--
→ : pentium配vodoo的年代啊
好懷念1F 07/17 13:15
好懷念1F 07/17 13:15
推 : 這電腦算好的了吧...以前還有5.25吋磁片3F 07/17 13:18
→ : pentium vodoo加個聲霸卡sound blaster4F 07/17 13:32
推 : 還要再加一張 Matrox G4005F 07/17 13:38
推 : 3d加速卡那段真的是歷歷在目 幫你推ID正確XD6F 07/17 13:43
推 : 那bing怎麼加入chatgpt的，要順便說說嗎
所以微軟也是用NV才搞出chatgpt的bing?7F 07/17 13:45
所以微軟也是用NV才搞出chatgpt的bing?7F 07/17 13:45
推 : @zuvio 你沒有看清楚這篇想表達什麼9F 07/17 13:50
→ : 是他沒研究微軟怎麼套用GPT-4 LLM10F 07/17 13:51
→ : 辨識手寫數字是有多少產值啦11F 07/17 13:59
可是我隔壁鄰居小孩國中生會寫辨識手寫數字deep learning耶想當年我國中就只會騎腳踏車 然後被狗追 電腦只是用來打電動的 這樣度過童年!
※ 編輯: LDPC (76.103.163.64 美國), 07/17/2023 14:01:44
推 : 比我沈迷在一元打大金剛遊戲機強兩百萬倍12F 07/17 14:04
推 : 意思是 現在站隊NV就對了 （我理解有誤嗎？13F 07/17 14:18
→ : Matrox G400 +Vodoo?14F 07/17 14:21
推 : 未來真的是猜謎大賽15F 07/17 14:39
推 : 辨識手寫數字現在是tutorial等級 只要會複製貼上就做得到16F 07/17 15:17
推 : 講古讚讚讚
幹你的ID就是LDPC啊，媽的養帳千日用在一朝18F 07/17 15:47
幹你的ID就是LDPC啊，媽的養帳千日用在一朝18F 07/17 15:47
--
作者 LDPC 的最新發文:
- 再次說一遍 千股NVDA 防身防失業防變成電池防小人防渣男 QQ 半導體有所謂的摩爾定律 AI也有 就是所謂的Scaling Law 他基本上給了一個大方向 AI是有三個元素組成 算力 算法 資料 …67F 31推 1噓
![]()
我也很懷疑特斯拉要怎樣畫出這個robotaxi大餅 身邊搞自駕的現在都是瞄準L2+ 輔助駕駛 只適用長途開車的場景 而自駕計程車有法規 許多安全上問題 更重要的是現階段AI發展路線都只停留在生產工具 …94F 26推 6噓![]()
HBM是最好看的懂AI題材 之前就在安利了 所有要自己搞晶片的一定會要HBM i皇Falcon Shores 老黃旗下所有HPC產品 蘇媽MI300/MI400 Google TPU Amazon …83F 30推 2噓![]()
GTC就要開始了 禮拜一早上是最後賭盤下注的時間 忘記哪邊統計過GTC以來 只有一次股票沒漲過 平均股價在GTC期間會漲5% 如果有興趣一些接下來AI落地走向 可以參考此talk 裡面滿多資訊 最主 …43F 31推![]()
週末有點時間 之前寫的老黃故事 這幾年AI模型突飛猛進的一個關鍵點就是 泛化的能力 簡言之 2018以前 AI模型 都是透過數據 去學習資料上的標註資料 來做人類事先規範好的目的 而機器透過這些標注 …184F 75推 2噓
點此顯示更多發文記錄