頂級 AI 模型的成本是小型模型的 100 倍。這裡是公司如何在代幣上燒掉數百萬——以及簡單的省錢方法。
圖片來源: Decrypt
你是否曾經想過使用像 ChatGPT 或 Claude 這樣的 AI 聊天機器人要花多少錢?答案是:比大多數人想像的要多得多——尤其是當他們選錯工具時。
AI 公司根據代幣(小段文字,每段約為四分之三個單詞)收費。你輸入的每個單詞和 AI 回覆的每個單詞都會被計算。在每月訂閱中,代幣決定你多快達到上限。對於使用 API(一種按次付費的連接,將 AI 插入他們自己的應用程序)的開發人員來說,代幣決定最終的賬單。
問題在於:最強大的 AI 模型的成本是最小模型的 100 倍。然而,許多人在所有事情上都使用昂貴的旗艦模型——即使是像寫電子郵件這樣的簡單任務。正如一位顧問所說,這就像聘請愛因斯坦在麥當勞數你的找零。
浪費是真實且昂貴的:
如何省錢? 最簡單的提示不需要任何編碼:將模型與任務匹配。 在你的聊天應用中,點擊模型名稱,然後為簡單的工作切換到一個更小、更快的選項。其他技術包括修剪不必要的文本、緩存(重用結果)和批處理(將任務分組)。
底線: AI 很強大但不是免費的。為每項工作使用合適大小的工具可以大幅降低成本——無論你是普通用戶還是大型公司。
這是一個 AI 生成的摘要。閱讀原始文章:https://decrypt.co/381213/tokenmaxxing-how-get-most-out-your-ai-models