ChatGPT巨額每日運(yùn)行費(fèi)用引關(guān)注
大型AI模型如ChatGPT的需求持續(xù)攀升，每天都有數(shù)百萬用戶使用。這導(dǎo)致了運(yùn)行成本居高不下。據(jù)研究公司SemiAnalysis首席分析師Dylan Patel透露，ChatGPT的運(yùn)行成本可能高達(dá)每天70萬美元，每次查詢需3.6美分。成本主要來自AI模型所依賴的昂貴服務(wù)器。
ChatGPT的活躍用戶數(shù)量在短短兩個月內(nèi)飆升至1億。而根據(jù)專家分析，大語言模型的訓(xùn)練、運(yùn)營和推理成本可能已達(dá)數(shù)千萬元。事實(shí)上，ChatGPT的每周推理成本已經(jīng)超過了當(dāng)初的訓(xùn)練成本。
為應(yīng)對高訪問量問題，ChatGPT引入了每月20美元的付費(fèi)ChatGPT Plus服務(wù)，但并未吸引大量用戶。同時，使用OpenAI語言模型的企業(yè)也在支付高昂的服務(wù)費(fèi)。如AI地牢游戲初創(chuàng)公司Latitude，其2021年每月的運(yùn)行模型和租用亞馬遜云科技服務(wù)器費(fèi)用高達(dá)20萬美元。
為降低成本，Latitude轉(zhuǎn)向Al21 Labs支持的語言軟件服務(wù)商，將AI成本削減至每月10萬美元。目前，OpenAI依賴英偉達(dá)GPU來維持運(yùn)行，預(yù)計2023年可能需要額外3萬個英偉達(dá)GPU以維持商業(yè)性能。
微軟自研AI芯片助力降成本
面對高昂運(yùn)行成本，微軟正在開發(fā)自家AI芯片，協(xié)助維護(hù)OpenAI的ChatGPT運(yùn)行并降低成本。據(jù)The Information報道，微軟自研AI芯片名為Athena“雅典娜”，項(xiàng)目始于2019年，當(dāng)時微軟與OpenAI達(dá)成10億美元交易。
如今，300多名微軟員工正在研發(fā)Athena芯片，以期性能超越現(xiàn)有供應(yīng)商芯片。其他科技巨頭如亞馬遜和谷歌也已推出自研AI芯片。Patel表示，與英偉達(dá)產(chǎn)品相比，Athena具有競爭力的話，每個芯片成本可能降低三分之一。
微軟自研AI芯片的原因有二：
一是意識到在自主研發(fā)芯片方面落后于谷歌和亞馬遜；
二是尋找英偉達(dá)替代方案，降低依賴。
微軟計劃在Azure云服務(wù)中部署Athena芯片，為OpenAI提供強(qiáng)大的計算支持。據(jù)了解，微軟的Athena芯片將在2023年發(fā)布，屆時將大幅降低ChatGPT運(yùn)行成本。
微軟與其他巨頭競爭加劇
在AI芯片市場，微軟、谷歌和亞馬遜展開了激烈競爭。谷歌已經(jīng)研發(fā)了Tensor Processing Unit (TPU)，專門用于AI和機(jī)器學(xué)習(xí)任務(wù)。而亞馬遜則推出了Inferentia，一款高性能、低成本的AI芯片。微軟迎頭趕上，力求在AI市場站穩(wěn)腳跟。
同時，隨著市場需求的快速增長，尤其是云計算和AI領(lǐng)域的需求，芯片產(chǎn)業(yè)的競爭日益激烈。微軟也在積極尋求與其他公司的合作，以確保在AI芯片市場占據(jù)有利地位。
微軟為降低ChatGPT運(yùn)行成本，秘密自研AI芯片Athena四年，預(yù)計將在2023年發(fā)布。成功研發(fā)將有望降低每個芯片成本三分之一，大幅減輕用戶和企業(yè)的負(fù)擔(dān)。在與谷歌和亞馬遜等科技巨頭的競爭中，微軟通過自研AI芯片謀求市場份額，期待在AI市場站穩(wěn)腳跟。
免責(zé)聲明:為降低ChatGPT運(yùn)行成本，微軟秘密自研AI芯片4年，今年或發(fā)布文章轉(zhuǎn)發(fā)自互聯(lián)網(wǎng)，版權(quán)歸其所有。
文章內(nèi)容不代表本站立場和任何投資暗示。加密貨幣市場極其波動，風(fēng)險很高，可能不適合所有投資者。在投資加密貨幣之前，請確保自己充分了解市場和投資的風(fēng)險，并考慮自己的財務(wù)狀況和風(fēng)險承受能力。此外，請遵循您所在國家的法律法規(guī)，以及遵守交易所和錢包提供商的規(guī)定。對于任何因使用加密貨幣所造成的投資損失或其他損失，本站不承擔(dān)任何責(zé)任。
2025-4-27
2025-4-27
2025-4-27
2025-4-27
2025-4-27
2025-4-02
2025-4-13