顯示廣告
隱藏 ✕
※ 本文轉寄自 ptt.cc 更新時間: 2023-05-30 11:19:33
看板 Stock
作者 mooto (退出會比較好, 就退出)
標題 Re: [請益] AI伺服器成本分析——記憶體是最大的輸家
時間 Mon May 29 23:49:51 2023


※ 引述《neone (neone)》之銘言:
: 剛看到半導體產業分析機構semianalysis的這篇新文章:
: https://www.semianalysis.com/p/ai-server-cost-analysis-memory-is
: 雖然沒付費只能看到部分
: bing摘要:
: 這篇文章的核心內容是分析人工智能伺服器的成本。文章指出,隨著數據中心建設的瘋狂
: ,市場也隨之瘋狂。但是,有許多公司並不應該因此而受益。文章還提到,IT預算有限,
: 因此Nvidia銷售額的增長主要來自於購買較少的非GPU伺服器。文章中還提供了一個標準
: CPU伺服器的成本分解,顯示內存佔伺服器成本的近40%。文章最後指出,在人工智能時代
: ,普通伺服器的百分比將會下降,並且在數據中心轉向加速計算時,各組件的成本分配也
: 會發生重大變化。

老黃今天展示的那櫃 Grace Hooper
就用了144TB GPU Memory 透過NVLink共享
(NVLink是他們自研的SERDES
 簡單來說就是PCIe更快的介面)
所以重點只是高速 共享
記憶體還是存在的

還有也不用擔心大家嫌貴不買啦
老黃今天不就列了1600家要做AI的公司
挖不挖得到金礦又不關他的事
只要鏟子賣得出去就好了

這種時候大家都爭搶先當第一個啦
有機會變成AI界的m$, adobe誰不幹
在那邊省小錢 到時候就看別人鼠錢
反正新創花的也不是自己錢
燒光當然是再繼續吹

話說老黃真的值得領那個錢
美國人訓練不是蓋的
相比之下今天下午發哥找他來蹭
那些高層講話的台風  投影片的格局 真的差好多喔

--
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 218.161.53.112 (臺灣)
※ 作者: mooto 2023-05-29 23:49:51
※ 文章代碼(AID): #1aTCcX9v (Stock)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1685375393.A.279.html
stlinman    : 老黃是創業家,以前可是要自己找風投搞錢的。1F 05/29 23:52
Liberl      : 應該是說 台灣的高管把自己定位在管理者 而不是業務2F 05/29 23:55
WYchuang    : Nvidia的Chiplet是不是拿MTK練經驗?3F 05/29 23:55
Liberl      : 但整間公司最大最應該做業務的是高管4F 05/29 23:56
Liberl      : 我在某間大型上市公司(0050前半的)當CEO幕僚
Liberl      : CEO幾乎都在辦公室裡批公文 開會 很少出去拜訪
Liberl      : CEO不在公司裡 VP沒一個人敢做決定
freeclouds  : 因為有業務副總阿 嘻嘻8F 05/29 23:58
freeclouds  : CEO都是等別人來公司拜訪的啦
Liberl      : 這是台灣企業的陋習 越到高管越不接觸公司業務10F 05/29 23:59
freeclouds  : 有的公司的CEO 是熱愛批簽呈跟支出單11F 05/30 00:00
freeclouds  : 你以為5萬小錢頂多批到副總 結果竟然要到CEO
goodjop     : 大部分第一代CEO 都是業務起家13F 05/30 00:00
Liberl      : 張忠謀就說過CEO要是個生意人14F 05/30 00:01
Liberl      : 魏哲家很明顯被他訓練得還算不錯
freeclouds  : 家族企業第二代以後的CEO幾乎都是財會出身 真奇怪16F 05/30 00:01
goodjop     : 白手起家 不會業務 早就倒閉了17F 05/30 00:01
goodjop     : 因為都送歐美學財經管理
goodjop     : 我爸就是業務起家 但我沒接他的事業 我自己創業
goodjop     : 從技術專業 再轉業務 然後創業
Shepherd1987: 庫克蘇媽發表會都很尬, 體制內的乖寶寶21F 05/30 00:03
bobjohns    : 台積電金融海嘯時,張忠謀還不是自己飛美國拉業務,22F 05/30 00:06
bobjohns    : 根本是台灣CEO實力太差,表達有問題才一直在管理。
TaiwanUp    : 我覺得跟Chairman互補就好 如果Founder都會 就隨便24F 05/30 00:07
TaiwanUp    : 學馬斯克 曾經考慮找BTS當推特CEO
ck326       : 現在新創想搞錢沒有之前0利率時代容易ㄅ,呵呵26F 05/30 00:11
TaiwanUp    : 而且台積電的成功我不覺得是靠業務 純粹是算力需求27F 05/30 00:13
TaiwanUp    : 就如同張忠謀曾經驚嘆 礦卡怎麼會下那麼多單
TaiwanUp    : 這難道是他自己找來的客戶嗎
ppuuppu     : 老黃領袖特質明顯,台廠高管有幾個能這樣講話吸引30F 05/30 00:15
ppuuppu     : 人聽
TaiwanUp    : 蘇媽的背景和人格特質有自帶業務buff 還有obov力場32F 05/30 00:15
a000000000  : 蘇媽就很不會吹   就這點明顯輸給老黃33F 05/30 00:17
a000000000  : 其他地方夠強惹
ALAHAKBAR   : 西方ceo光身材就屌打了...35F 05/30 00:21
Argos       : 業務型CEO是賈柏斯帶出來的風氣吧36F 05/30 00:22
easyman     : 平平都是講省電, 蘇嬤只會講比業界快20%37F 05/30 00:22
easyman     : 老黃就很會吹, 買越多賺越多
dagehoya5566: 發弟高官格局根本笑話39F 05/30 00:24
goodjop     : K董的人格特質 就比其他哥哥好40F 05/30 00:24
goodjop     : 白手起家 又有技術 自然言之有物 業務不是問題
b0117       : 蘇媽打工打的很不錯,感覺老黃是真的從自己的visio42F 05/30 00:32
b0117       : n出發,drive整個公司的走向
b0117       : 蘇媽是管理者,老黃是創業家,格局還是差蠻多的
mooto       : 雖然老黃是受邀來computex 但一場演講 只花一部分45F 05/30 00:34
mooto       : 捧自家產品 剩下的是用(潛在)客戶的產品展示 這我
loveponpon  : Morris不就說過 執行長要拉業務要會說47F 05/30 00:35
mooto       : 真的覺得很厲害 兩小時的show不會太無聊48F 05/30 00:35
b0117       : 老黃還有一個最強的點,就是他用了很多台灣人49F 05/30 00:36
loveponpon  : 庫克的發表會 更尷尬哈哈哈50F 05/30 00:36
b0117       : 這光研發成本就不知道省多少了51F 05/30 00:36
b0117       : 不像牙膏一堆印度人佔據,靠嘴巴做事應該不少
mooto       : 台灣人好用R  NV比起碼農還是比較血汗的53F 05/30 00:38
a000000000  : 老黃講那些東西gtc一值都這樣惹54F 05/30 00:40
b0117       : 務實做研發,節省研發成本,根本神之正迴授55F 05/30 00:41
neone       : 老黃的人格魅力和演講技巧 真的CEO少有56F 05/30 00:42
mamorui     : 今天keynote還不錯57F 05/30 00:47
Amulet1     : 亞洲都一樣 靠關係就能上去58F 05/30 00:56
mooto       : 沒有啦 豬屎屋還是很硬核的 台灣比較少在走雙軌制59F 05/30 01:00
mooto       : 多數主管還是技術職升上去的 這就會碰到彼得原理
mooto       : 說的問題 因為懂技術的人不見得擅長管理或業務
linbryan    : 台灣只有function manager. 沒有純manager.你知刺針62F 05/30 01:02
linbryan    : 飛彈.不是由工程師或戰鬥人員開發/想出來的.是由pro
linbryan    : ject manger開發/想出來的
SILee       : 蘇媽豈止不會吹而已,之前還曾經AMD內部all hand被65F 05/30 01:03
SILee       : 問問題問到自己惱羞失言搞到犯眾怒,幾個月後一堆工
SILee       : 程師跟著主管整組一起走人跳槽 ㄎㄎ
a000000000  : 蘇媽跟老黃出包史尼要去找都是一大串68F 05/30 01:04
mynumber55  : 賈伯斯也弄出很多包啊,沒什麼69F 05/30 01:07
wei9898     : 發哥的行銷能力跟高通比如何?70F 05/30 01:10
mooto       : 發哥顯然不行阿 你看光是去年 對手都出包了 還是有71F 05/30 01:11
kkkkk9      : ai+vr宏達電要飛了72F 05/30 01:12
mooto       : 一堆陸廠把它當小的 像發哥這樣的公司 或者說是台灣73F 05/30 01:12
mooto       : 公司 狼性都不夠 只能穩扎穩打直到對方覺得沒賺頭
mooto       : 自己退出 才拿的下市場 就勞碌命
※ 編輯: mooto (218.161.53.112 臺灣), 05/30/2023 01:14:37
TaiwanUp    : 其實改成英語系國家就會好很多 可惜這76F 05/30 01:20
TaiwanUp    : 同時要捨棄更多我們原本熟悉的事物 可能剩下麻花捲
snd         : 業務型CEO就是創業過來的人阿78F 05/30 01:41
yoshilin    : chatBot根本文創業79F 05/30 01:48
Heedictator : 中文就是一坨大便80F 05/30 01:57
kumabartho  : 因為二代都是學商管啊81F 05/30 05:19
Armag       : 講的好像業務出身的就懂技術?我不是歧視文組,高82F 05/30 07:04
Armag       : 階主管的價值本來就必須跨足多領域,理工生跨業務
Armag       : 、財務比較簡單還是管理跨理工比較容易不用多說大
Armag       : 家自有一把尺衡量
tctv2002    : 先有技術才有資格談業務好嗎 你什麼都不懂問題在哪86F 05/30 07:50
tctv2002    :  憑什麼讓客戶相信你
s800525     : INTEL G叔也是技術出身,還不是很嘴XD88F 05/30 08:20
s800525     : 科技業技術就是底,就連庫克也是工業工程出身的
faniour     : 庫克(冷笑90F 05/30 08:22
CORYCHAN    : 老黃是創辦人91F 05/30 08:44
zhi5566     : i社也很會吹啊 吹到把股東套死死 嘻嘻92F 05/30 09:21
Mtcat       : 1193F 05/30 09:26
Severine    : Pat:Intel 4要出啦!要上車的趕快上阿94F 05/30 09:51
aegis43210  : Q4再上車,現在能買的公司漲完才會輪到i皇95F 05/30 10:11

--
※ 看板: Stock 文章推薦值: 0 目前人氣: 0 累積人氣: 106 
作者 mooto 的最新發文:
點此顯示更多發文記錄
分享網址: 複製 已複製
guest
x)推文 r)回覆 e)編輯 d)刪除 M)收藏 ^x)轉錄 同主題: =)首篇 [)上篇 ])下篇