Skip to main content

REDMADMEDIA 網誌

回前頁
既有ChatGPT、Claude 或Gemini等大型模型,為何還有Hugging Face 生態系統中的小型開源模型? - 當下科技

既有ChatGPT、Claude 或Gemini等大型模型,為何還有Hugging Face 生態系統中的小型開源模型?

· · 專欄: 當下科技

既有ChatGPT、Claude 或Gemini等大型模型,為何還有Hugging Face 生態系統中的小型開源模型?

這是當前人工智慧領域最重要的問題之一,它觸及了專有(封閉)人工智慧和開源(開放權重)人工智慧之間的差異。

大家可能會想:「如果 Gemini 3 是最聰明的,那麼大家都應該使用 Gemini 3 。」

然而,Hugging Face 生態系統的存在,以及開發者通常更傾向於使用小型開源模型,而不是 ChatGPT 或 Gemini 3 等大型模型的原因,實有以下五大重要因素。

1) 你無法「下載」Gemini 3

這是最大的誤解,Gemini 3 和 Claude 是服務,而非文件。當你使用 ChatGPT 時,你實際上是將資料傳送到他們的伺服器,你並不擁有模型的所有權,你只是租用它。

Hugging Face 模型是檔案,當你從 Hugging Face 下載 Llama-3 或 Mistral 等模型時,你實際上獲得的是檔案(「權重」),您可以將該模型安裝在您自己的筆記型電腦、公司私人伺服器,甚至機器人內部。

2) 資料隱私和安全

假設您是一家銀行、醫院或國防承包商,你無法將機密病患記錄或絕密代碼貼到 Gemini 3 中,如果你這樣做,這些資料將離開您安全的辦公場所,並傳輸到 OpenAI 的伺服器。

而解決方案就是,你可以從 Hugging Face 下載模型(例如 Llama 3),您可以在自己的安全伺服器上完全離線運行它,任何資料都不會離開您的辦公室,這是許多行業合法使用人工智慧的唯一途徑。

3) 成本與效率(「法拉利 vs. 自行車」問題)

Gemini 3 就像一輛法拉利。它功能強大、運作成本高且體積龐大。如果你只是想要一個人工智慧來將電子郵件分類為「垃圾郵件」或「非垃圾郵件」,那麼使用 Gemini 3就完全是殺雞用牛刀了。這就像開著法拉利去取郵件一樣,每次請求都要花費太多金錢和精力。

解決方案就是,你可以從 Hugging Face 下載一個小型模型(例如 DistilBERT),它雖然不夠智能,無法寫詩,但卻能完美地對電子郵件進行分類,而它的運行速度比 Gemini 3 快 100 倍,成本卻只有 Gemini 3的千分之一。

4) 微調(專業化) Gemini 3 的思維方式的改變能力非常有限,您可以給它下達指令,但無法重塑它的大腦;而使用 Hugging Face 的機型,您可以透過微調完全掌控它。

例如一家醫療公司可以使用開源模型,並專門針對自身 10 年的生物學研究進行訓練,他們創建了一個「醫生 AI」,其對特定術語的理解能遠勝於 Gemini 3。

5) 依賴與控制 如果你的整個業務都基於 Gemini 3,你就完全受制於 Gemini 3,如果 Gemini 3 調整價格,你就得承擔後果;如果 Gemini 3 更改模型,導致模型「懶惰」,你的產品就會崩潰;如果 Gemini 3 關閉,你的業務也會隨之消亡。

而使用 Hugging Face 的模型,你就擁有了引擎的所有權,即使模型的創建者明天消失了,你硬碟上的檔案依然存在,你的業務可以繼續運作。

簡言之,Hugging Face 就像是人工智慧領域的「家得寶」。它為你提供建造所需產品的原材料和工具,而 Gemini 3 則像是僱用了一個昂貴的承包商來為你完成這項工作。

0 likes

推薦文章

你還不跟學科技?

你還不跟學科技?

有位舊生的老公,是IT 專業,讀了我這篇短文: 「我相信,人工智能在未來三四年是應用階段中的「積累」期,積累甚麼? 各行各業都有其獨特性,前台數據的應用,本質自有不同,譬如同是公營企業,…

Guimaraes 基馬拉斯 (2):布拉干薩公爵宮與 Igreja dos Santos Passos

Guimaraes 基馬拉斯 (2):布拉干薩公爵宮與 Igreja dos Santos Passos

講完歴史又返到Guimaraes景點了。此古城建於九世紀,聯合國教科文組織於2001年將整個古城區列為世界文化遺產。歐盟文化部長理事會選它為2012年歐洲文化之都。而美國旅遊雜誌 Conde Nas…

只有厚黑,才能投資有成。

只有厚黑,才能投資有成。

本週大市我沒有方向,世事就是這樣,我認為上星期減息前該很刺激,但市況不似預期;但本週我無感覺,它就大有可能給我一個驚喜,絕不稀奇。 有位舊生問我:「Alex,投資是否真能增富?」我老老實實的告…

留言 (0)

還沒有留言,成為第一個留言的人吧!

發表留言

您必須登入才能留言。