課程簡介
每當(dāng)有新技術(shù)突破的時候,最流行的句式是“所有業(yè)務(wù)都可以用XX實現(xiàn)一遍”。AI大模型的突破,讓所有人再次躍躍欲試。作為工程師,我們有機會站在驅(qū)動業(yè)務(wù)重構(gòu)的最前沿,這里面有巨大的機會。在以傳統(tǒng)機器學(xué)習(xí)為代表的類AI階段,大家在技術(shù)層面往往會陷入語言/庫之爭,Python作為AI的門面語言,受到了極大關(guān)注,但同時也讓非Python的工程師陷入兩難:我要放棄現(xiàn)有的技術(shù)棧么?大模型的突破,讓這一切不是問題。首先,AI大模型在應(yīng)用層,API極為簡單,對于有其他語言經(jīng)驗的工程師來講并非難事。其次,過去的機器學(xué)習(xí)等知識體系,在大模型時代已沒有特別大的必要去深入了(當(dāng)然,了解更好)。過去在了解部分底層算法的前提下做調(diào)參,而現(xiàn)在調(diào)好prompt就可以了(當(dāng)然,要用好它也不容易)。最后呢,目前各家語言平臺都在快速跟進(jìn)對AI的支持,比如Java方面,SpringAI提供了對AI Agent開發(fā)的支持。整體來說,AI產(chǎn)品開發(fā)和傳統(tǒng)產(chǎn)品開發(fā),最核心的點是:設(shè)計/開發(fā)/測試模式的變化。要理解這一點,必需先了解AI大模型本身的特點,及周邊的生態(tài)。
那么,既然AI大模型的應(yīng)用門檻不高,我們工程師該怎樣基于AI構(gòu)建自己的最核心競爭力,拓寬技術(shù)護(hù)城河,并持續(xù)賦能業(yè)務(wù)呢?這是我們本次課程的目標(biāo)。
本次課程將從AI大模型行業(yè)現(xiàn)狀、行業(yè)典型案例及實現(xiàn)、AI發(fā)展路線圖、基于Copilot/Cursor等智能編碼工具的研發(fā)效能提升、大模型核心邏輯、Prompt工程及調(diào)優(yōu)、大模型應(yīng)用開發(fā)、開源大模型微調(diào)流程等多個方面,從概念+實踐的角度去學(xué)習(xí)最前沿的AI知識,從0打造AI時代的全棧護(hù)城河。
目標(biāo)收益
培訓(xùn)對象
1、適合想進(jìn)入AI領(lǐng)域,或者利用AI提升工作效能的工程師。
2、適合想開發(fā)AI產(chǎn)品,或者使用開源大模型構(gòu)建垂直業(yè)務(wù)模型的工程師。
3、適合想更全面判斷AI趨勢、或者利用AI為現(xiàn)有業(yè)務(wù)賦能的技術(shù)管理者。
課程大綱
引子 | AI大模型通識、生態(tài)與發(fā)展;Prompt工程與應(yīng)用、AI Agent應(yīng)用開發(fā)、開源大模型微調(diào)與推理等 |
第一單元 AI大模型通識 |
1.AI大模型通識 1.1大模型的定義與特點 1.2大模型的分類與應(yīng)用 1.3大模型的底層工作原理 1.4開源 vs 閉源大模型 1.5Token模式與定價 2.AI大模型生態(tài)及發(fā)展 2.1國內(nèi)外主流大模型介紹 2.2AI+賦能場景案例介紹 |
第二單元 Prompt應(yīng)用、模式與工程 |
3.Prompt工程與實踐 3.1Prompt核心要素與案例 3.2Prompt常見思維框架 3.3如何理解思維鏈 vs 思維樹 3.4Prompt的攻擊/安全問題 3.5Prompt工程≈軟件工程 |
第三單元 AI與工程師 |
4.編碼大模型與工具 4.1智能編碼目前包含哪些能力 4.2常見智能編碼模型(Codex、DeepSeek Coder、CodeLlama等) 4.3Agent模式下的 Copilot/Cursor/Trae應(yīng)用 4.4AI輔助下的全棧開發(fā)工作流 5.AI重塑產(chǎn)/研/測 5.1AI與產(chǎn)品經(jīng)理 5.2AI與研發(fā)工程師 5.3AI與測試工程師 |
第四單元 AI Agent應(yīng)用開發(fā)實戰(zhàn) |
6.AI Agent工程與案例 6.1Agent應(yīng)用模式與架構(gòu) 6.2案例:斯坦福小鎮(zhèn) 7.Agent應(yīng)用開發(fā)實踐 7.1快速實現(xiàn)一個Chat程序 7.2核心參數(shù)列表 model參數(shù) 角色與指令 7.3實現(xiàn)多輪對話 7.4Function Calling機制 7.5實現(xiàn)智能訂餐助手 7.6數(shù)據(jù)與函數(shù)準(zhǔn)備 7.7工具(函數(shù))調(diào)用 7.8緩解幻覺問題 8.大模型開發(fā)框架LangChain 8.1LangChain介紹 8.2LangChain概念與組件 8.3LangChain安裝與配置 8.4LangChain表達(dá)式語言:LCEL 8.5LangServe服務(wù)部署 8.6使用LangChain構(gòu)建數(shù)據(jù)分析Agent 8.7使用LangGraph構(gòu)建/編排復(fù)雜Agent工作流 9.從零搭建基于知識庫的智能客服系統(tǒng) 9.1知識庫是什么? 9.2理解RAG與Embedding 9.3向量數(shù)據(jù)庫與語義檢索 9.4搭建企業(yè)智能客服系統(tǒng) 10.AI Agent工具搭建與編排 10.1使用Dify平臺搭建Agent應(yīng)用 10.2使用Coze平臺搭建工作流 |
第五單元 開源大模型及微調(diào)/推理方案 |
11.開源大模型:垂直模型的基座 11.1開源大模型串講:Llama3、ChatGLM3/4、Qwen、DeepSeek 11.2快速搭建本地開源模型環(huán)境(ollama+openwebui) 11.3Hugging Face:AI界的Github 11.4開源微調(diào):構(gòu)建基于垂直行業(yè)的私有大模型(基于PEFT/LoRA、Llama-Factory) 11.5基于vLLM搭建模型推理服務(wù) 11.6基于開源模型構(gòu)建Agent應(yīng)用 11.7多模態(tài)大模型(視覺理解/目標(biāo)檢測) 11.8延展:GPU/顯卡、LPU推理引擎等交付資源選型。 |
引子 AI大模型通識、生態(tài)與發(fā)展;Prompt工程與應(yīng)用、AI Agent應(yīng)用開發(fā)、開源大模型微調(diào)與推理等 |
第一單元 AI大模型通識 1.AI大模型通識 1.1大模型的定義與特點 1.2大模型的分類與應(yīng)用 1.3大模型的底層工作原理 1.4開源 vs 閉源大模型 1.5Token模式與定價 2.AI大模型生態(tài)及發(fā)展 2.1國內(nèi)外主流大模型介紹 2.2AI+賦能場景案例介紹 |
第二單元 Prompt應(yīng)用、模式與工程 3.Prompt工程與實踐 3.1Prompt核心要素與案例 3.2Prompt常見思維框架 3.3如何理解思維鏈 vs 思維樹 3.4Prompt的攻擊/安全問題 3.5Prompt工程≈軟件工程 |
第三單元 AI與工程師 4.編碼大模型與工具 4.1智能編碼目前包含哪些能力 4.2常見智能編碼模型(Codex、DeepSeek Coder、CodeLlama等) 4.3Agent模式下的 Copilot/Cursor/Trae應(yīng)用 4.4AI輔助下的全棧開發(fā)工作流 5.AI重塑產(chǎn)/研/測 5.1AI與產(chǎn)品經(jīng)理 5.2AI與研發(fā)工程師 5.3AI與測試工程師 |
第四單元 AI Agent應(yīng)用開發(fā)實戰(zhàn) 6.AI Agent工程與案例 6.1Agent應(yīng)用模式與架構(gòu) 6.2案例:斯坦福小鎮(zhèn) 7.Agent應(yīng)用開發(fā)實踐 7.1快速實現(xiàn)一個Chat程序 7.2核心參數(shù)列表 model參數(shù) 角色與指令 7.3實現(xiàn)多輪對話 7.4Function Calling機制 7.5實現(xiàn)智能訂餐助手 7.6數(shù)據(jù)與函數(shù)準(zhǔn)備 7.7工具(函數(shù))調(diào)用 7.8緩解幻覺問題 8.大模型開發(fā)框架LangChain 8.1LangChain介紹 8.2LangChain概念與組件 8.3LangChain安裝與配置 8.4LangChain表達(dá)式語言:LCEL 8.5LangServe服務(wù)部署 8.6使用LangChain構(gòu)建數(shù)據(jù)分析Agent 8.7使用LangGraph構(gòu)建/編排復(fù)雜Agent工作流 9.從零搭建基于知識庫的智能客服系統(tǒng) 9.1知識庫是什么? 9.2理解RAG與Embedding 9.3向量數(shù)據(jù)庫與語義檢索 9.4搭建企業(yè)智能客服系統(tǒng) 10.AI Agent工具搭建與編排 10.1使用Dify平臺搭建Agent應(yīng)用 10.2使用Coze平臺搭建工作流 |
第五單元 開源大模型及微調(diào)/推理方案 11.開源大模型:垂直模型的基座 11.1開源大模型串講:Llama3、ChatGLM3/4、Qwen、DeepSeek 11.2快速搭建本地開源模型環(huán)境(ollama+openwebui) 11.3Hugging Face:AI界的Github 11.4開源微調(diào):構(gòu)建基于垂直行業(yè)的私有大模型(基于PEFT/LoRA、Llama-Factory) 11.5基于vLLM搭建模型推理服務(wù) 11.6基于開源模型構(gòu)建Agent應(yīng)用 11.7多模態(tài)大模型(視覺理解/目標(biāo)檢測) 11.8延展:GPU/顯卡、LPU推理引擎等交付資源選型。 |