AI Agent 的提示詞注入是什麼?委派任務前要懂的風險與防護
AI Agent 會讀網頁、檔案與信件,這些內容可能夾帶惡意指令。這篇說明提示詞注入的原理,以及一般使用者可做的七項防護。
與「基礎概念」有關的所有內容,包含教學文章、工具評測與相關新聞,共 21 篇。
AI Agent 會讀網頁、檔案與信件,這些內容可能夾帶惡意指令。這篇說明提示詞注入的原理,以及一般使用者可做的七項防護。
Token 是 AI 計算文字的單位,上下文視窗是它一次能看的範圍。這篇用白話說明兩者如何影響費用、長對話與長文件處理。
不是所有工作都適合交給 AI Agent。這篇用五個問題判斷任務值不值得委派,並說明怎麼設定權限、驗收標準與失敗時的退路。
模型內部可調整的數值總數,常用來粗略衡量模型規模。
模型訓練資料收集到的最後時間點,之後發生的事原則上不在它的知識範圍內。
讓不同軟體互相溝通的規則與介面,AI 服務多半透過 API 按用量計費、供其他程式呼叫。
能像人類一樣在幾乎任何智識任務上學習、理解與表現的 AI,目前尚未實現,也還沒有公認的判斷標準。
讓電腦理解、處理、生成人類語言的技術領域,翻譯、語音辨識、聊天機器人都屬於這個範疇。
提示詞工程是設計與調整指令、讓 AI 更準確理解需求的做法。這篇整理基本結構、零樣本與少樣本、思維鏈在新模型上的用法,以及能立刻用的寫法。
AI Agent 是能自己決定步驟、呼叫工具並依結果調整做法的 AI 系統。這篇整理定義、與聊天機器人和工作流程的差別、運作方式與適用情境。
Claude 是 Anthropic 開發的 AI 助理。這篇說明 Claude 是什麼、有哪些模型、怎麼使用、免費版能做什麼,以及和 ChatGPT、Gemini 的差別與限制。
Prompt 中文通常譯為提示詞,是你交給 AI 的整段輸入。這篇說明提示詞的定義、包含哪些內容、四個要素、實用寫法與範例,以及新手常犯的錯誤。
強調讓 AI 自主規劃、執行並修正的設計取向;AI Agent 是它的具體實作。
能自己拆解任務、呼叫工具、依結果調整並持續執行到完成的 AI 系統。
模型單次能處理的 token 總量上限,輸入與輸出共用這個額度。
能產出新內容(文字、圖像、影音、程式碼)的 AI,而非只做分類或預測。
模型生成出看起來合理、語氣肯定,但實際上錯誤或憑空捏造的內容。
用大量文字訓練、透過預測下一個 token 來生成內容的 AI 模型。
能同時理解與處理文字、圖像、聲音等多種型態資料的模型能力。
你給 AI 的完整輸入內容,包含指令、背景資料與格式要求。
語言模型把文字切開後的最小處理單位,也是計費和長度限制的計算基準。