用量不等于效果兩個藏在暗處的陷阱正確的三步走不跟風,問自己三個問題
今年5月底,亞馬遜悄悄關閉了一個內部榜單——KiroRank。
這個榜單原本統計工程師在AI開發平臺上的Token消耗量,目的是鼓勵大家多用AI。結果呢?一些員工讓AI反復執行無意義任務,愣是把使用量刷了上去。亞馬遜高級副總裁Dave Treadwell不得不出面喊停:不要為了用AI而用AI。
這不是個例。它是企業AI第一輪熱潮里,一個被忽略的真相的縮影。
過去兩年,管理層最常問的是:你們部門有沒有用AI?有沒有做Agent?有沒有接入大模型?這些問題本身沒錯,但它們悄悄引導了一個危險的傾向——大家開始比誰"用了"AI,而不是誰"用出了"結果。
![]()
KiroRank的關閉像一個信號:用量可以被注水,但業務結果不會騙人。
瑞典金融科技公司Klarna的經歷更說明問題。2024年,Klarna高調宣稱AI客服承擔了700名全職客服的工作,一時成為行業標桿。一年后,這家公司開始重新招聘人工客服。CEO承認,過度轉向AI影響了服務質量。
AI省下來的成本,如果換來的是更多客訴和復核成本,這筆賬怎么算都不劃算。
澳大利亞聯邦銀行CEO Matt Comyn說得更直接。他批評大量低價值AI產出正在蔓延,造出大量"work slop"——看起來完成了工作,實際上毫無價值的AI垃圾。Token燒了一大堆,組織沒得到任何像樣的結果。
這不是某家公司的個別問題。國際研究與咨詢機構高德納給出了一個讓人清醒的預測:到2027年底,超過40%的Agent項目會因為成本上升、業務價值不清或風險控制不足被取消。
如果說用量虛標是第一道坑,那成本和安全隱患就是緊隨其后的兩個深坑。
先說成本。一個叫"AI sticker shock"的新詞正在美國企業圈流行——AI賬單震驚。按量計費的AI產品進入企業后,賬單變得越來越不可預測。新加坡南洋理工團隊的一項研究更是讓人倒吸一口涼氣:在工具調用鏈場景下,Agent可能被引導進入極長調用鏈,單次查詢成本最高被放大658倍。不是65%,是658倍。
再說安全。今年6月初,Meta一款用于Instagram賬號支持的AI客服機器人被研究人員發現漏洞。攻擊者用特殊話術誘導AI執行錯誤操作,最終控制了包括奧巴馬白宮賬號在內的一批高影響力賬號。當Agent開始連接企業系統后,一個錯誤操作可能在更長鏈路中引發連鎖反應——不只是回答錯一句話,而是錯誤修改賬號信息、觸發業務操作、訪問不該訪問的數據。
一邊是成本可能被無限放大,一邊是安全邊界隨時可能被突破。這兩個問題不解決,Agent就是一把雙刃劍。
問題擺在這里,那怎么做才對?騰訊云最近發布的智能體開發平臺ADP 4.0提供了一個值得參考的框架。它要回答的核心問題很簡單:企業級Agent到底怎么落地?歸納起來就三步。
第一步,找場景。很多企業不是沒有AI預算,而是不知道哪些流程適合交給Agent。盲目鋪開的結果就是Token打水漂。正確的做法是從高頻、重復、規則明確的場景切入——客服工單流轉、商品推薦、質檢流程,把成熟場景跑通再擴展。
第二步,控風險。Agent在進入核心流程之前,必須明確它能做什么、不能做什么。權限分層、安全檢查、運行監控,這些不是錦上添花,而是生存底線。一個沒有治理體系的Agent平臺,就是在裸奔。
第三步,看結果。最終檢驗標準只有一個:Agent有沒有產生可核算的業務價值。伊利把導購、下單做成智能體后,導購訂單數增長26%,下單轉化率提升39%。華住基于AI升級的"華小AI",70%以上的高頻問詢由Agent自動處理,累計執行近150萬次任務。這些數字不會騙人。
有人可能會問:這是不是只有大企業才需要考慮的事?小公司隨便接個API不就行了?
答案是,不管企業大小,只要投入了真金白銀做AI,就必須面對同一個問題:這筆投入值不值。大企業模式鋪得廣,小企業容錯率低,但決策邏輯是一樣的。
也有人會說:現在不跟風,會不會被競爭對手甩開?
跟風的前提是知道風向哪吹。今天的風向已經變了——不再是誰接入了AI誰厲害,而是誰讓AI真正跑通了業務誰厲害。比先用更重要的是好用,比好用更重要的是有用。
騰訊首席AI科學家姚順雨說得挺到位:"AI下半場更難的是尋找好問題、好場景和好環境。"模型像一把萬能錘子,但最難的從來不是錘子本身,而是找到那個值得敲的釘子。
所以,在你給團隊定下一個AI使用率KPI之前,不妨先問自己三個問題:這個場景值得用Agent做嗎?安全邊界畫好了嗎?最后怎么算這筆賬?
把這三個問題答清楚了,再燒Token也不遲。
關注明明,一起看清AI商業的真相。 覺得有用?點個在看,轉給正在做AI落地的朋友。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.