深談AWS雲端上的AI Agent：系統化學習 AWS-AI證照，協助企業管理AI Agent

推薦序
作者序
作者簡介
前導圖

PART I AI Agent的核心概念與實作
CHAPTER 00 緒論
少子化帶來的勞動力短缺問題
AI Agent成為勞動力替代品
AI Agent已用在現實生活中
AI Agent的管理與安全性
AI Agent帶來了新型人才的需求

CHAPTER 01 AI Agent與LLM_新人與職業角色介紹
單元摘要
大語言模型也需要像人力銀行的地方——Model Card與Bedrock Model Catalog
找LLM就像求才一樣
模型的自我介紹——Model Card
人才很多元，不同角度看都可以──Model的計價方式
英雄不論出身，遇事才知道適不適合──Model Compare
人會因為經歷不同，LLM也會因為資料集而不同
人才遴選跟模型評鑑其實很類似，市場上開始有些第三方依循的角度
單元結論
相關認證考題
技術關鍵字

CHAPTER 02 用Prompt來約束LLM_工作規範的必要性
單元摘要
職業角色的自我修養與企業規範──Prompt 與 Prompt Management
演員的自我修養──史坦尼詩拉夫斯基
LLM需要Prompt來做約束引導
規範的寫法也是一門學問──Prompt Engineering
只有職業角色描述的客服規範。Zero-Shot
除了職業角色描述，還添加了範例回應。Few-Shot
以模板的方式，填充字樣。Instruction-Template
引導性思考的規範。Chain-of-Thought
學習重點回顧
相關認證考題
技術關鍵字

CHAPTER 03 Knowledge創造AI Agent的獨特性_產品特點要看產品手冊
單元摘要
公司資料好多種，該用哪一種──Knowledge data type
沒有專業經驗的專家，還是專家嗎？
資料的應用場景差異
資料檢索方式的變遷
資料向量化
向量資料庫
使用向量資料庫時常看到的查詢參數──撈資料也有訣竅！
常見的向量資料提取參數
老闆、秘書與秘書的記事本──檢索增強生成（RAG）架構
人類世界對於資料先處理，記起來，後查詢
AI世界對於資料先向量化，後存放，再查詢
學習重點回顧
相關認證考題
技術關鍵字

CHAPTER 04 Tool串接第三方資訊系統_專業的事，就找專業的外包廠商
單元摘要
人要找廠商合作──LLM要串接外部資訊系統
我們做沒效率，就找外面廠商
找外面廠商，要打電話、寫信、約吃飯？
API, MCA, A2A 三大類工具的應用場景差異
兼容傳統Web資訊系統的API
兼容多種不同型態系統的MCP
把其他AI Agent變成溝通工具──A2A
AI Agent 整合多個資訊應用系統的好處
人類世界的工作互動方式
讓主管像分派任務給執行者那樣，分配給AI Agent
搭配Tool之後的多種應用情境──如標案偵測
考試愛考的AWS相關Tool
學習重點回顧
相關認證考題
技術關鍵字

CHAPTER 05 Memory對用戶打造客製化服務_好客人上天堂，奧客住套房
單元摘要
記得每個用戶是應用的關鍵
客戶的行為，讓貫玄產生了印象
要讓AI Agent對客戶的行為產生印象
記憶的類型
聊天所產生的氛圍感──Context of Round
Context of Round的缺點
簡便的標籤型記憶──Variable
重複性行為的記憶──Database
學習重點回顧
相關認證考題
技術關鍵字

CHAPTER 06 Workflow把業務流程穩定自動化_開公司就需要SOP把常態任務穩定化
單元摘要
工作SOP與Workflow
人類世界靠工作SOP確保產出品質
AI Agent靠Workflow確保產出的品質
未來會有Workflow監管的新職能
AI Agent Workflow的強項
業務邏輯的判斷不再是單純規則式判斷
學習重點回顧
相關認證考題
技術關鍵字

CHAPTER 07 核心概念回顧
核心概念篇的回顧與尚需知道的觀念一覽

PART II AI Agent的進階議題
CHAPTER 08 透過AWS_Bedrock了解AI Agent各個環節
單元摘要
企業的AI Agent需要串接多種語言模型，供彈性切換
企業用人多元，不同能力的人做不同的事，AI Agent也是
Bedrock與JumpStart讓用戶可選擇多種模型
各類模型常見的共同參數
Prompt的惡意攻擊方式
Prompt攻擊的種類
保護AI Agent的方法
為Prompt引入XML標籤作內容區分
在XML標籤內做salt加密
透過Guardrail做內容審查
AI Agent的效能評核檢測
Bedrock提供了BertScore作為評分
市場上常見的測試資料集與方法論
不同的情境用不同的測試資料集與方法論
監控、倫理、標準與法規
資安方法很多元，但要有公認規則認可
學習重點回顧
相關認證考題
技術關鍵字

CHAPTER 09 AWS提供的Knowledge解決方案
單元摘要
向量資料庫選型的角度
資料庫的選型思考角度
資料庫運行的成本
資料庫的欄位結構設計
向量資料庫的典範──李敖分屍法
向量資料庫把資料切成多個區塊
向量資料庫透過Metadata做向量與傳統搜尋的混合
資料匯入前的整理
資料Chunk大小的配置思路
Embedding模型的使用、版本記錄與測試
資料檢索策略的設計
向量資料檢索的方案
透過設定Top K，對準確度進行微調
對資料設定閥值做過濾，並對取出的資料作排序
Embedding模型的替換與版本管理
Embedding模型也有使用壽命
Embedding模型的優化辦法
監控與效能追蹤建議（Embedding Drifts）
流行用語一直變，向量相似度也會受影響
透過監控查詢結果，即時掌握Embedding Drift的狀況
AWS向量資料庫的解決方案
學習目標回顧
相關認證考題
技術關鍵字

CHAPTER 10 透過SageMaker 家族打造AI Agent生態系
單元摘要
透過SageMaker 生態系打造企業大模型，再優化AI Agent
SageMaker Canvas──視覺清洗工作流
SageMaker Ground Truth──資料標籤校正
SageMaker Feature Store──標籤管理區
SageMaker Studio──程式編寫與建模
SageMaker Model Registry──模型存放管理
JumpStart – Serverless──調度推論模型
SageMaker Model Monitor──模型使用監控
學習重點回顧
相關認證考題
技術關鍵字

CHAPTER 11 企業助手_Q
單元摘要
Amazon Q──AWS提供的企業級AI Agent
經典的檔案分析與對話功能──upload and chat
AI Agent必備的Knowledge
預防Q講出不存在的東西──Hallucination mitigation
把Q鑲嵌在公司的產品或網頁上──Q embedded
讓Q去調度外部系統──Plugin
學習重點回顧
相關認證考題

CHAPTER 12 新時代的AI應用案例展示_Simulearn
單元摘要
雲育鏈舊生持續學習的利器──Skill Builder
AWS Industry Quest──宏觀了解一個產業對雲端的需求
以公司高層的角度看各部門的問題與需求
業務情境的相關知識與影片介紹
免費安全的實作環境
Simulearn新世代的AI產品──閃電霹靂車的阿斯拉
在資訊系統內植入AI Agent
使用資訊系統時，AI Agent提醒與協作
AI Agent仍需要有完整架構觀的人來帶領
學習重點回顧

PART III AI Agent的技術實作案例
CHAPTER 13 導讀
AI Agent平台選型
教材包取得
單元導覽

CHAPTER 14 在AWS上搭建Dify AI平台
實作目標與綱要
素材及關鍵參數
工作流程解析
實作過程
IAM-權限管理-建立使用者群組與帳戶
VPC-網路配置-建立放置機器的虛擬網路機房
EC2-虛擬機器-建立虛擬機器
連入到EC2虛擬機內
佈署Dify應用，連到Dify頁面，配置管理者帳密登入
建立IAM Role給EC2虛擬機，讓Dify有權限可以調度AWS Bedrock
先在AWS Bedrock啟動模型，在Dify設定模型供應商，串接AWS Bedrock
建立第一個Agent並使用AWS Bedrock模型進行對話測試

CHAPTER 15 透過CloudFormation打造Dify環境
業務應用情境
工作流程解析
實作資料
實作過程
透過CloudFormation搭建Dify環境
啟用Bedrock提供的大語言模型
找到Dify應用的IP，並登入
單元作業與衍伸目標

CHAPTER 16 透過Bedrock的Embedding模型做Knowledge
業務應用情境
工作流程解析
實作資料
實作過程
在Dify建立Knowledge
選用合適的Embedding模型
對Knowledge進行測試
引用至Dify的AI Agent
單元作業與衍伸目標

CHAPTER 17 透過Apps Script為公司內部打造一個AI可用的微型小資料庫
業務應用情境
工作流程解析
實作資料
實作過程
建立Spreadsheet
啟用該Spreadsheet的Apps Script
把Apps Script的程式碼部署成Web API
第一次在Dify調度該API
設定人類以自然語言方式，填入資料
透過Dify讀取Spreadsheet內的資料
單元作業與衍伸目標

CHAPTER 18 Dify搭配AWS Bedrock做語音自動監聽助理
業務應用情境
工作流程解析
實作資料
實作過程
安裝AWS Tool，用來串接AWS資源
匯入教材包的Workflow
設定語音客服助理路線
測試Workflow的效果
單元作業與衍伸目標

CHAPTER 19 Dify做考題辨識幫手
業務應用情境
工作流程解析
實作資料
實作過程
安裝用來調度AWS資源的AWS Tools
匯入Workflow設定檔
環境參數配置
上傳圖片進行視覺辨識
單元作業與衍伸目標

CHAPTER 20 Dify搭配AWS做Guardrail配置
業務應用情境
工作流程解析
實作資料
實作過程
單元作業與衍伸目標

CHAPTER 21 運用MCP調度第三方工具
實作目標與綱要
素材及關鍵參數
工作流程解析
實作過程
註冊並登入Zapier
生成MCP Server URL
設定好Zapier內Action的發信操作
設定MCP-SSE外掛並設定為Zapier MCP Server URL
建立Agent並完善Prompt，讓Agent調度MCP-SSE外掛工具
測試用對話來進行發信操作
單元作業與衍伸目標