ChatGPT火爆全球，各大科技公司紛紛加碼人工智能。不過聊天機(jī)器人工具這一新興技術(shù)不僅在準(zhǔn)確性方面存在問題，還使得研發(fā)公司背負(fù)高昂的運(yùn)營(yíng)成本。
當(dāng)?shù)貢r(shí)間2月22日，谷歌母公司Alphabet的董事長(zhǎng)約翰·亨尼斯（John Hennessy）在路透社的采訪中表示，大型語言模型等人工智能的對(duì)話成本可能是傳統(tǒng)搜索引擎的10倍以上。他認(rèn)為谷歌必須降低此類人工智能的運(yùn)營(yíng)成本，但這一過程并不容易，“最壞的情況是需要幾年時(shí)間。”
聊天機(jī)器人成本高昂
與傳統(tǒng)搜索引擎相比，聊天機(jī)器人的運(yùn)營(yíng)成本略顯高昂。
摩根士丹利的分析表示，谷歌去年共計(jì)3.3萬億次搜索，每次搜索的成本僅為0.2美分。而此前有分析師指出，ChatGPT的一次回復(fù)則會(huì)產(chǎn)生2美分的成本。
摩根士丹利預(yù)計(jì)，若將谷歌旗下聊天機(jī)器人Bard引入搜索引擎，并用其處理谷歌一半的搜索和提問，按照每次答案50詞計(jì)算，該公司2024年的成本可能會(huì)增加60億美元。
同樣的，專注于芯片技術(shù)的咨詢公司SemiAnalysis表示，受到谷歌的內(nèi)部芯片Tensor Processing Units等的影響，將聊天機(jī)器人添加至搜索引擎中，可能會(huì)導(dǎo)致該公司額外花費(fèi)30億美元。
搜索引擎You.com的首席執(zhí)行官Richard Socher則認(rèn)為，添加聊天機(jī)器人、圖表、視頻及其他生成技術(shù)應(yīng)用程序，將對(duì)應(yīng)30%至50%的額外支出。不過他認(rèn)為，“隨著時(shí)間的推移，這類技術(shù)會(huì)變得越來越便宜。”
聊天機(jī)器人的成本之所以高于傳統(tǒng)搜索，主要是因?yàn)槠渌璧乃懔Γ╟omputing power）更大。分析師稱，此類人工智能依賴于價(jià)值數(shù)十億美元的芯片，將這項(xiàng)成本平攤到幾年的使用期中，單次使用成本會(huì)增加。此外電力消耗同樣會(huì)導(dǎo)致成本提高，還會(huì)為公司帶來碳排放指標(biāo)方面的壓力。
聊天機(jī)器人式的人工智能與搜索引擎的工作原理并不相同。人工智能處理用戶問題的過程被稱為“推理（inference）”，它模擬人腦的“神經(jīng)網(wǎng)絡(luò)”，根據(jù)此前的訓(xùn)練數(shù)據(jù)推斷出答案。而傳統(tǒng)搜索引擎中，谷歌的網(wǎng)絡(luò)爬蟲會(huì)掃描互聯(lián)網(wǎng)并編制為信息索引。當(dāng)用戶輸入搜索問題時(shí)，谷歌會(huì)提供存儲(chǔ)在索引中最相關(guān)的答案。
對(duì)于聊天機(jī)器人而言，其所依賴的語言模型規(guī)模越大，需要越多的芯片支持“推理”，對(duì)應(yīng)的成本就更高昂。
以ChatGPT為例， 其技術(shù)來源是OpenAI旗下自然語言處理（NLP）模型GPT-3，該模型擁有1750億參數(shù)，訓(xùn)練成本花費(fèi)約1200萬美元，是同類中參數(shù)數(shù)量最多、最昂貴的模型之一。
因此ChatGPT的成本居高不下。OpenAI的首席執(zhí)行官薩姆·奧特曼（Sam Altman）曾在推特上表示，ChatGPT與用戶對(duì)話的成本非常“驚人”，每次對(duì)話需要花費(fèi)幾美分或更多。
有媒體根據(jù)微軟對(duì)單個(gè)100 AGPU的收費(fèi)情況進(jìn)行推斷，得出ChatGPT生成一個(gè)單詞的費(fèi)用約為0.0003美元，若以每次回復(fù)50詞來計(jì)算，ChatGPT的一次回復(fù)需消耗1.5美分。
對(duì)此，亨尼斯表示，“你必須降低推理成本，最壞的情況需要幾年時(shí)間（解決這一問題）。”
科技公司設(shè)法降低成本
盡管聊天機(jī)器人為公司帶來額外花銷，但它同時(shí)也會(huì)帶來用戶增長(zhǎng)。
微軟此前表示，新版必應(yīng)推出的48小時(shí)內(nèi)，超過100萬用戶注冊(cè)新版必應(yīng)。第三方數(shù)據(jù)公司data.ai的分析顯示，必應(yīng)應(yīng)用程序的全球下載量在一夜之間猛增10倍，并躥升到蘋果App Store應(yīng)用商店最受歡迎的免費(fèi)應(yīng)用榜中的第十位。
微軟的首席財(cái)務(wù)官艾米·胡德（Amy Hood）也告訴分析師，隨著新版必應(yīng)上線，用戶數(shù)量增加及廣告收入帶來的好處已經(jīng)超過了成本。她認(rèn)為公司的毛利率其實(shí)處于增長(zhǎng)狀態(tài)。
但也有人提出公司需要采取措施降低成本。一位資深技術(shù)高管在路透社的采訪中表示，要使幾百萬消費(fèi)者使用人工智能，目前成本仍然過高。該高管表示，“這些模型非常昂貴，因此下一階段的重點(diǎn)是降低這些模型的訓(xùn)練和推理的成本，以便用戶能夠在每個(gè)應(yīng)用程序中使用它們。”
有技術(shù)專家認(rèn)為，降低成本的方法之一是使用較小的人工智能模型，并將其應(yīng)用于更簡(jiǎn)單的任務(wù)。
Alphabet目前正在探索這條道路。其聊天機(jī)器人Bard基于公司旗下大型對(duì)話語言模型LaMDA的輕量化版本。相比標(biāo)準(zhǔn)版本，輕量化版本模型所需要的運(yùn)算能力較小，能面向更多使用者開放，使其參與體驗(yàn)。
也有知情人士透露，OpenAI的計(jì)算機(jī)科學(xué)家已經(jīng)找到如何通過復(fù)雜代碼優(yōu)化推理成本的方法，并以此提高芯片運(yùn)行效率。
除了降低成本，該公司還通過收取費(fèi)用獲得營(yíng)收。2月初，OpenAI宣布推出付費(fèi)版ChatGPT Plus，定價(jià)每月20美元。付費(fèi)版功能包括高峰時(shí)段免排隊(duì)、快速響應(yīng)以及優(yōu)先獲得新功能等。
