隨著生成式 AI 日益普及，越來越多企業都將 AI 視為強化生產力的工具，而 AI 的技術也不斷進步，要如何串連起多種不同的 AI 應用程式以及 LLM 大語言模型，以客製化方式讓 AI 能夠滿足企業的使用需求，也成為一大應用趨勢。

有鑒於趨勢所需，麗臺科技與 NVIDIA DLI 深度學習機構攜手合作推出的「使用提示工程技術打造 LLM 應用」課程，邀請具有海外授課經驗的 NVIDIA DLI 認證講師林威延博士，以深入淺出的方式，帶領學員從認識提示工程的基礎概念開始，到深入瞭解 LangChain 的使用方式，並實際做出能夠自動辨識、分析客戶回饋意見表的 LLM 應用程式範例。

客製化 AI 更有效率的解決應用痛點

或許我們都聽過一些撰寫提示詞以改善 LLM 回應品質的技巧，例如在提問之前，先幫 LLM 建立人設：「你現在是某某公司的專案經理，正在分析顧客意見調查表」，如此一來 LLM 在回應的過程中會更偏向該身份應有的思維邏輯，以改善整體回應的品質。

提示詞工程的目的也是為了提高回應品質，但是它的做法比較進階，且能夠更有效控制 LLM 的思考過程、調用外部工具，甚至能夠指定輸出的格式。例如安排 LLM 以指流程一步驟、一步驟處理輸入的資料，並在推論完成後生成 JSON 格式的結構化資料 (Structured Data)，以便後續處理、製作表單。

Photo Credit: The News Lens Brand Studio

舉個實際的例子，透過 LangChain 的協助，企業可以快速分析顧客填寫的意見調查表，自動判斷整體意見屬於正面或是負面意見回饋，並統計這些意見屬於哪些產品型號以及類別，如此一來不需人力介入，就能讓 LLM 進行資料分析並產生詳細的樞紐分析表，讓主管洞察哪些種類的產品銷售最好，而在這類產品之中，又有哪幾項型號的表現明顯不如姊妹品，以便作為改進產品的依據。

相較之下，單純透過提示詞命令技巧操作 LLM 進行資料分析雖然在操作上較為簡單，但是改善回應的效果比較有限，而且可能會出現回應用字不一致的情況，例如在價格的欄位混用「台幣」、「新台幣」、「$」等不同方式表示，導致後續進行自動化數據分析的困難。

若借助 LangChain 進行上述工作，不但能大幅提升判斷正負意見的準確度，也能確保價格欄位使用一致的格式，讓數據分析的流程更加順暢。

使用 LangChain 構建 LLM 應用更精準又省錢

LangChain 的特色之一是可組合性：開發者可以用 Python 把 PromptTemplate、LLM、Tool、Memory、Chain、Agent 等元件像堆積木一樣靈活組裝，快速構建各種 AI 應用。課程中將提到思維鏈 (Chain of Thought, CoT) 的概念，如何利用提示詞讓 LLM 能逐步推理，完成複雜任務。LangChain 也提供了 ReAct（Reason + Act）等 Agent 架構，能夠讓 LLM 在推理過程中不僅「思考」，還能主動調用工具來執行動作，例如進行網路搜尋、彙整資料、呼叫 API 或操作多款應用程式。透過這樣的設計，AI 可以照著規劃的步驟逐步完成更複雜的工作，進而發揮代理式 AI (Agentic AI) 的功能。

不過，需要注意的是，思維鏈雖能強化推理能力，但也會大幅增加 AI 在運算過程中使用的詞元 (Token) 數量，進而提升雲端主機租金與 API 成本。課程因此也會帶領學員理解 Token 的定義，並利用 LangChain 檢視系統提示詞、使用者提示詞、AI 的回應內容，以簡化 Token 用量，最後透過正確的提示詞降低詞元使用量並省略不必要的詞元，有助於降低 AI 服務 24 小時不間斷運作所消耗的成本並提升效益，對於企業應用來說格外重要。

打造自動資料結構化應用程式

在「使用提示工程技術打造 LLM 應用」課程中，學員只需一台筆電即可透過 NVIDIA DLI 提供的平台上課，完全不需要具備 GPU 的電腦設備，大幅降低了學習的門檻。

課程設計從淺入深，先帶領學員認識提示詞與提示工程，理解 LLM 的運作邏輯，再進一步實作 LangChain 運算式語言 (LCEL)，學會如何批次處理資料、執行分析與生成任務，甚至打造能夠保存對話紀錄的聊天機器人。在過程中，你將掌握如何讓 LLM 輸出符合指定格式的結構化資料，並能將其交給其他應用程式使用。最後，講師會引導你完成一個小專案，把原本繁雜的非結構化文本轉換成清晰有序的結構化資訊，真正體驗自動化資料分析帶來的效率與成就感。

如果你想進一步挑戰更多 LLM 的應用，可以參考麗臺科技 DLI 深度學習機構提供的「使用大語言模型建構RAG代理」，學習透過 AI 建立虛擬客服、分析客戶資訊，協助企業簡化運營、降低支出並大規模提高生產力。

另一門「使用大型語言模型快速開發應用」課程將從頭開始理解 LLM 的建構，課程中也加入實作，在講師的引導下操作範例程式與資料集，使用已調整好的模型來執行標記分類、序列分類、範圍預測和零樣本分類等任務，以及架設聊天機器人，透過情境實作，完整操作一次部署應用的流程。

本次「使用提示工程技術打造 LLM 應用」課程採用線上方式進行，預計招收 20 人，將於 10 月 23 日正式開課，10 月 13 日前完成報名繳費，將享有早鳥優惠，另外針對學生也有特別折扣，席位有限，現在就把握機會搶先報名！