接著我們來更深入的討論一些使用場景,還有幾個我們會特別關注的問題 😎
09|那 Jev 會不會解決「同一題,每次分類結果都不一樣」?
這是一個非常實際的問題,如果你曾經拿 ChatGPT 或其他大型語言模型做分類,很可能遇過:
同一封 Email 進行分類 第一次 → Logistics 第二次 → Billing 第三次 → Logistics
生成式模型原本就不是為「每一次都產生一模一樣的結果」而設計的,雖然透過:
- 降低 temperature
- structured output
- 更清楚的 Prompt
- 更好的分類定義
(⚠️ 忘記的回去前面補課!!)
都可以顯著提高穩定度,但生成式模型的核心任務仍然是 generation(生成),Jev 則把一致性的目標往前推了一步,它希望同樣的語意情境,得到比較穩定的決策分布(decision distribution)。
例如可能跑出以下的結果:
Run 1 Logistics 78% Billing 18% Other 4% Run 2 Logistics 76% Billing 20% Other 4% Run 3 Logistics 79% Billing 17% Other 4%
真正重要的不是「三次是不是每個數字都完全一模一樣」,而是「判斷方向是否穩定。」
但這不代表 Jev 完全 deterministic,假設結果本來就是:
A = 51% B = 49%
這其實代表模型自己都覺得「A、B 真的很接近」,這時如果下一次變成:
A = 49% B = 51%
並不令人意外,所以真正成熟的自動化流程,不能寫成:只要 A 比 B 高 → 自動執行,而應該設計安全區間,例如:
- >95% → 自動執行
- 70–95% → 進一步確認
- <70% → 真人處理
這也是為什麼 Vercel 這個託管平台,在 Jev 的使用建議中一直強調:Probability 不等於你的 Policy,模型負責提供判斷。
你的系統才負責決定多少機率應該採取什麼行動。
10|把 Jev 放進一個真正的客服 AI Agent,會長什麼樣子?
我們直接來看一個完整案例。
假設你是一間電商公司,每天有 10,000 張客服單,過去可能全部先交給真人分類,現在你想加入 AI。
第一版可能會變成:
客服訊息 ↓ GPT ↓ 分析 ↓ 分類 ↓ 寫回覆 ↓ 寄出
看起來已經很自動,但風險也很高,因為你等於把:
- 判斷 + 決策 + 寫作全部交給同一個模型。
如果重新拆開,可以變成:
✨ Step 1|先把資訊整理成 State
例如:
客戶訊息: 「我已經等七天,今天再沒有處理就退款。」 訂單: 已付款、尚未出貨 客戶: VIP 過去客服: 昨天承諾處理
✨ Step 2|Jev 同時做幾個判斷
案件類型 → Logistics 84% 嚴重程度 → 8.7 / 10 是否要求退款 → 96% 是否需要主管介入 → 91% 資訊是否足夠處理 → 73%
注意!這裡 AI 還沒有寫任何客服回覆,它只是先把情況判斷清楚。
✨ Step 3|系統根據公司規則決定下一步
例如:
嚴重程度 > 8 → 通知主管 退款意圖 > 90% → 標記退款案件 資訊完整度 < 80% → 先要求補充資料
這些真正會影響公司的規則,仍然掌握在企業自己手上。
✨ Step 4|需要「說話」的時候,再叫大型語言模型
一但我們確定這是一個「高嚴重度、要求退款、物流問題」之後,才把必要資訊交給 Claude、GPT 或 Gemini:
「請按照公司的客服語氣撰寫一封回覆,先道歉、說明目前處理狀況,再告知退款流程。」
這時就真正需要大型語言模型擅長的:
- 語氣
- 組織
- 解釋
- 長篇生成
✨ Step 5|寄出之前,再做一次把關判斷
我們可以再讓 Jev 判斷我們用大語言輸出的信件:
有沒有真正回答客戶問題? → 96% 是否包含公司不能承諾的內容? → 8% 是否可能透露內部資訊? → 3% 語氣是否符合客服規範? → 高
高風險就不要寄,低風險才繼續。
這種架構的重點不是:「Jev 可以取代大型語言模型。」
而是:不同 AI 開始各自負責自己擅長的工作。
11|另一個更簡單的案例:不是每件事都值得叫「最強 AI」來處理
再看一個更生活化的例子,假設公司內部有一個 AI 助理,每天收到很多不同問題:
- 問題 A:「幫我把這句英文修順。」
- 問題 B:「把這 20 筆會議紀錄依照部門分類。」
- 問題 C:「幫我分析這份 80 頁的年度財報,找出毛利下降可能來自哪些產品組合變化。」
這三件事情,都需要直接丟給最昂貴、最會推理的模型嗎?其實不一定。
你可以先讓一個 decision model 判斷,這是一個:
- 簡單文字修改?
- 資料分類?
- 複雜分析?
接著就可以往下:
簡單文字修改 → 小模型 大量分類 → Decision Model 複雜財報分析 → Frontier Reasoning Model
它就很像公司裡的一個 AI 總機 🤔
不是自己把所有事情做完,而是先判斷:「這個工作該交給誰?」真正重要的成本概念也因此改變!
以前我們可能一直問:「哪一個模型比較便宜?」
但更好的問題其實是:「這一次真的需要叫最貴的模型嗎?」
如果 10,000 次 AI 呼叫裡,有 7,000 次其實只是在:
- 分類
- 判斷
- 打分數
- 決定下一步
那最有效的成本優化,可能根本不是找到一個便宜 20% 的大型語言模型。
而是:不要讓這 7,000 次工作進入大型語言模型。
這也是 Jev 對 AI Automation 最值得觀察的地方。