原文:Threads
摘要
@ai.lanrenbao 發了一集 YouTube 節目預告,內容是整理 Stanford CS329A(Stanford 開的「自我改進 AI Agent」課程)
在講 AI agent 怎麼靠三種訊號讓自己越做越好:自我回饋(agent 自己檢查自己的輸出)、工具(執行程式、查資料等外部能力回傳的結果)、
錯誤訊息(執行失敗時環境丟回來的訊息)。節目主打兩個問題:這三種回饋差別在哪,以及回饋迴圈跑幾次才有用、幾次之後就沒用。
貼文本身只有預告,沒有附影片連結,課程內容細節未能從貼文取得。
重點
- 三種讓 agent 變強的回饋來源:自我回饋、工具回傳、錯誤訊息。三者都是「做完一輪、拿到訊號、再改一輪」的 loop(迴圈),差別在訊號從哪來、可信度多高。
- 自我回饋:模型自己評自己的答案。沒有外部依據,容易自我感覺良好,可信度最低。
- 工具與錯誤訊息:來自真實執行環境(跑測試、編譯、呼叫 API),是客觀訊號,agent 據此修正比較不會走偏。
- 迴圈次數有邊際效益:節目要回答「該回饋幾次才有用/沒用」,意思是 loop 不是越多越好,過了某個次數就沒改善甚至變差。具體數字要看影片,貼文沒寫。
- 作者順帶提到最近持續對 Opus 5.5 的影片生成能力感到驚艷,與主題無關。
- 貼文到 YouTube 的連結沒有附上,要自行搜尋 @ai.lanrenbao 的頻道。
個人洞見
這跟 打造有效的 AI Agent:先用 workflow 講的「evaluator-optimizer」模式是同一件事:讓 agent 迭代的前提是要有可靠的評估訊號。
AI Agent 完整架構一張圖 裡的 Reflection 角色就是自我回饋,而 Tool 回傳與錯誤訊息才是外部的、可驗證的那種。
平常用 Claude Code 或 Codex 時,與其叫它「再想一次」,不如讓它跑測試拿錯誤訊息回來修,正是這個道理,
呼應 Codex 與 Claude Code 的常用指令 那篇說的別只會 try again。