應用與工作方法
Bedrock 成本怎麼管？FinOps 與平台團隊的端到端做法
單價比來比去，還是回答不了「這筆錢誰花的」。
AWS 為 FinOps 與平台團隊整理 Bedrock 成本管理做法：代理式工作流程用量隨自主程度與上下文增加，應用自己的實測數字管理。
AWS 的文章指出，生成式 AI 的成本管理是建置團隊與負責雲端支出的團隊共同的責任。許多團隊一開始只比較各模型的每 token 單價，並要求應用團隊縮短提示，這些做法有幫助，但回答不了財務與工程主管在用量成長時會問的問題：哪個團隊、在哪個工作負載花了這筆錢，是否仍在核准預算內。代理式工作流程讓這些問題更急迫：對話助理通常每回合呼叫一次模型，而代理要規劃修改、讀檔、呼叫工具並反覆迭代，單一任務就有許多次呼叫，每次還帶著更大的上下文，所以 token 用量隨自主程度與上下文大小增加，而不是隨互動次數增加。作者因此把成本管理視為架構與營運的紀律，並建議用自己的工作負載實測數字，而不是引用公開的平均值，再提出給 FinOps 與平台團隊的端到端做法。
- 先問誰花、花在哪｜哪個團隊、哪個工作負載，是否在核准預算內。
- 代理讓用量更難估｜單一任務多次呼叫，每次帶更大上下文。
- 用自己的數字｜文章建議實測工作負載，不採公開平均值。
光隼資訊 AI 編輯示意圖（非官方畫面，非實拍）