OpenAI的算力需求有多高?事實上,據行銷顧問公司First Page Sage統計截至10月2日,ChatGPT的市占率接近60%,而據財務長弗里亞(Sarah Friar)日前接受彭博訪談時表示,ChatGPT每週有2.5億活躍使用者。 但值得注意的是,OpenAI目前有75%的業務來自消費者訂閱,因此OpenAI正積極吸引商業用戶來增加營收,並積極將免費用戶轉化為付費用戶。而隨著業務量增加,OpenAI每年需要花費大量成本購置AI晶片,用於訓練AI模型與運行ChatGPT。 《路透社》報導指出,OpenAI今年的虧損預期將高達50億美元(約新台幣1,600億元),而處理大型數據資料和開發模型所需的硬體、電力和雲服務的費用,是該公司最大的支出。
內外部方案齊下,打通穩定晶片供應源
目前,輝達的圖形處理器(GPU)佔據超過80%的市場率卻仍然供不應求,使得價格水漲船高。OpenAI執行長奧特曼(Sam Altman)就經常抱怨,CPU與GPU供應不足,無法助力 OpenAI 發展通用人工智慧(GenAI)。 《路透社》去年報導,OpenAI至少從2022年起,便十分關注AI晶片短缺和成本過高的情形,並且考慮以自製晶片或收購晶片製造商等途徑,來解決問題。 今年二月,《華爾街日報》亦報導,奧特曼與包括阿拉伯聯合大公國政府在內的投資者進行談判,欲籌措高達5兆至7兆美元(約新臺幣160兆元)的資金,希望在未來幾年內建造數十家晶片製造廠,交由包含台積電在內的現有晶片製造商營運,並保證OpenAI為最大客戶。 不過,考量構建網路所需的成本和時間,在《路透社》的最新報導中,內部消息來源指出OpenAI暫時放棄了這項「代工廠計劃」,轉而學習競爭對手亞馬遜、Meta、Google和微軟,開發訂製晶片。OpenAI也將向不同的晶片製造商採購,避免對單一供應來源過度依賴,目前已知OpenAI將透過微軟Azure使用超微的晶片,這也意味著超微的新型「MI300X」晶片,可能在輝達主導的市場中分一杯羹。
自組20人團隊,OpenAI拚造訂製晶片
在自製晶片方面,根據《路透社》報導,OpenAI組建了一個約20人的晶片團隊,由曾在Google構建過張量處理器(TPU) 的資深工程師領導。 並且,OpenAI已經透過博通,取得台積電產能,將於2026年製造第一個訂製設計晶片。 藉由內、外同步開源,這將有助於OpenAI在晶片來源上不受輝達掣肘,穩固其在AI產業的先驅地位。 轉貼自: bnnext.com
若喜歡本文,請關注我們的臉書 Please Like our Facebook Page: Big Data In Finance
留下你的回應
以訪客張貼回應