看板 Stock
https://reurl.cc/WNmR8D 問阿祖啊 這是網路上在傳的 底下有個衛星空照圖 https://ibb.co/y4Ww9s6 2022阿祖在蓋傳統數據中心 結果AI起來後 為因應AI數據中心 2023五月 阿祖直接把 蓋到一半的數據中心拆掉 重新蓋一次 只為了能更安裝GB200 重新設計散熱和電力 現在就是裁員裁員裁員 瘋狂蓋AI基礎建設 除了硬體外還有 軟體backend升級 你去看現在一堆開缺都是AI Infra Backend缺 裡面要求就是會寫Triton這種 https://triton-lang.org/main/index.html https://reurl.cc/7d87WD 這玩意就是之前比爾蓋茲說要在軟體上re-engineer 透過這些軟體backend infra 重新設計 整個AI在Infra的速度會更有效率 更節省電力 這也是為啥大家都說 誒 為啥AI還不能落地賣錢 就是AI大基建需要兩年 之後才會有軟體服務 https://triton.csdn.net/66e29f86e2ce0119e0a1ba3b.html http://www.mfbz.cn/a/342750.html AI基建就是新的AI數據中心 電力優化 以及軟體Backend Kernel重新設計 一堆人已經開始在學軟體上後端開發的技能包 以延續職業生涯 比方說這是蘇媽的triton https://rocm.blogs.amd.com/artificial-intelligence/triton/README.html 老黃triton https://aijishu.com/a/1060000000362271 摘錄裡面案例 --------------------------------------------------------------- 案例1:微软 Teams 会议系统使用 Triton 提升生成实时字幕和转录性能 微软 Teams 是全球沟通和协作的重要工具,每月有近 2.5 亿活跃用户, 其 Azure 认知服务提供 28 种语言的字幕和转录,实时字幕功能帮助与会者实时跟踪对话 转录功能方便与会者在日后回顾当时的创意或回看未能参与的会议,实时字幕对聋哑人、 听力障碍者,或者异国与会者特别有用 底层语音识别技术作为认知服务中的一个 API,开发人员可以使用它定制和运行自己的 应用程序,例如客服电话转录、智能家居控制或为急救人员提供 AI 助手。 认知服务会生成 Teams 的转录和字幕,将语音转换为文本,并识别说话人。 同时也能够识别专业术语 、姓名和其他会议背景,提高字幕的准确性。 微软 Teams 首席项目经理 Shalendra Chhabra 表示:“这样的 AI 模型非常复杂, 需要数千万个神经网络参数才能识别几十种不同的语言。但模型越大, 就越难以经济高效地实时运行。” 为了提高服务质量,微软使用 NVIDIA Triton 开源推理服务软件,来帮助 Teams 使用认知服务优化语音识别模型,以及认知服务所支持的高度先进语言模型, 在极低的延迟状态下提供高度准确、个性化的语音转文本结果, 同时可以保证运行这些语音转文本模型的 NVIDIA GPU 充分发挥计算资源, 在消耗更少计算资源的同时为客户提供更高的吞吐量,进而降低成本。 ----------------------------------------------------------------------- 這是史上最大一次的基礎建設升級 軟體硬體都是 以往就業技能樹沒辦法升級成以後 未來技能架構 就...QnQ 準備去當電池了 10年前的人就業技能包寫Java/PHP/ 現在都在摸這些GPU Kernel 優化...不摸的話就是去當人肉電池 \@n@/ 所以怎會拿這波跟啥元宇宙比 元宇宙連基礎建設邊都沒摸到 這真的是...QQ ※ 引述《torrest (torrest)》之銘言: : 如題 : 差不多從前年底就開始發酵 : 到現在也差不多兩年了 : 目前看起來還是要再繼續創新高 : 記得從2016開始紅過的 : 光學 被動 pcb 航海王 元宇宙 有的沒的 : 持續時間了不起就是半年一年結束 : 目前為止ai好像還看不到盡頭 : 這波是最長的一次嗎 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 24.4.211.194 (美國) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1729447090.A.B30.html ※ 編輯: LDPC (24.4.211.194 美國), 10/21/2024 02:01:57
waitrop : 我每天摸GPU Kernel,也是很難找工作,準備當人肉電池 10/21 02:00
waitrop : 現在只有做AI算法跟模型的人,才有身價 10/21 02:01
Chilloutt : 肥宅的價值要浮現惹 10/21 02:02
a0808996 : LDPC大 又要數錢了\@n@/ 準備偷渡去加州找你要飯 10/21 02:03
LDPC : =_= a08我要去龍山寺找你了 被套牢了..\@n@/ 10/21 02:04
Chricey : 想問一下有沒有關節痛的運動禁忌?怕動得更嚴重… 10/21 02:04
sdbb : 99nvdl GOOG meta mu avgo 10/21 02:08
cookie1216 : 只能抱緊鏟子股了XD 10/21 02:08
sdbb : 難找工作(X)太多挖角(O) 10/21 02:10
karta018 : 希望阿祖蓋快一點,這樣他快蓋好的時候新技術又問世 10/21 02:12
Chricey : 求推薦靠譜的復健診所,小弟關節治好再來跪謝! 10/21 02:12
karta018 : ,他又要重蓋了 10/21 02:12
sdbb : 看捷安特轉型成能源股 10/21 02:12
crossworld : 笑死 看起來跟哏圖迷因一樣 10/21 02:18
budaixi : https://i.imgur.com/HAE6dWN.jpeg 10/21 02:23
Kroner : 哈囉!關節痛真的超痛欸,我之前也遇過類似情況,後來去看醫生吃推薦UC2,效果不錯喔! 10/21 02:23
meRscliche : wow 10/21 02:24
qweaaazzz : 推 10/21 02:30
qwe78971 : 大基建兩年太樂觀 10/21 03:02
bd535853 : 請問一般的網頁後端現在學什麼活得下去QAQ 10/21 03:03
Kroner : UC2是啥東西?求解釋啦! 10/21 03:03
galoopboy : 樓上:AI 10/21 04:12
four5 : 兩年後的老黃:大基建現在才剛剛開始 10/21 04:13
beagle2001: 再睡兩年就要準備賣了 10/21 04:33
ejnfu: ML infra / distributed storage or processing 應該活的 10/21 05:21
Kroner: UC2神招啊,吃下去就對了 10/21 05:21
ejnfu: 下去 10/21 05:21
※ 編輯: LDPC (24.4.211.194 美國), 10/21/2024 06:07:47
lyh0305 : 推 10/21 06:29
brovet : 每天寫前端加api的感到難受 10/21 06:32
donkilu : 推L大 10/21 07:17
Chricey : 本魯關節痛始祖,葡萄糖胺保證沒用,乖乖吃UC2 10/21 07:17
ppuuppu : 沒有參與到蘋果時代的我,這次絕對要參與輝達時代G 10/21 07:48
ppuuppu : OGO老黃 10/21 07:48
metallolly : 完了 現在要學什麼 ?我怕連電池都沒辦法當 10/21 07:53
hugh509 : 放棄掙扎吧,學股票就贏過9成了,人類終究是當柴燒 10/21 07:55
Kroner : 有人用過中醫針灸治療關節痛的嗎?效果如何? 10/21 07:55
ggsuperda : 只會C語言484沒救惹QQ 10/21 07:58
joe2 : 外送員的地位將會超越各位 10/21 08:05
truelove356 : NV B康 微軟 還要買哪支 10/21 08:17
chobit618 : 學如何當個好電池 10/21 08:23
Chricey : 樓上UC2當糖吃,天天走拿飛 10/21 08:23
james56733 : 無腦跟單教主黃BG穩穩賺 重點是抱不抱得住 10/21 08:31
TIPPK : 995 10/21 09:00
karcher : GPU Kernel才開始摸有點晚 10/21 09:09
ups : 漲知識推 10/21 09:15
Chricey : 關節痛這種東西靠UC2就對了 10/21 09:15
pponywong : 大基建兩年是指MAG7 之後是國家級的AI基建 10/21 09:15
Samurai : 肉眼可見的未來就是AI 10/21 09:25
mit2502 : 蓋好GB200架好 rubon又出來了 10/21 09:48
mit2502 : rubin 10/21 09:48
Chricey : 我有在用UC2,感覺效果還不錯欸! 10/21 09:48
strlen : 不用擔心魯賓 老黃的架構都可以延用 至少不會大改 10/21 09:57
zaqimon : 好險股票的技能永遠只有一個 永遠不需要更新 10/21 10:03
zaqimon : 只要學會買低賣高就行了 10/21 10:03
cosmite : 推分享 10/21 10:10
Kroner : 想問一下有沒有關節痛的運動禁忌?怕動得更嚴重… 10/21 10:10
junior020486: 阿祖真的猛 10/21 10:30
tujeni : 推分享 10/21 10:41
zxwxz : 三大雲端供應商都簽約買核電了,這絕對是人類歷史 10/21 12:55
zxwxz : 少有的機遇,AI才剛開始 10/21 12:55
Kroner : 本魯關節痛始祖,葡萄糖胺保證沒用,乖乖吃UC2 10/21 12:55
newyorker54 : 人類社會翻天覆地的變化,這篇有料 10/21 15:21
dl123 : 推 才剛開始 10/21 21:22