AI大模型應用開發(fā)（技術(shù)）-8

《AI大模型應用開發(fā)》
【課程背景】
2021年ChatGPT橫空出世，打開了人工智能發(fā)展大門，AGI（通用人工智能）時代來臨。經(jīng)過3年的發(fā)展，國內(nèi)外互聯(lián)網(wǎng)類企業(yè)和傳統(tǒng)企業(yè)大廠都已經(jīng)進入了AI大模型的應用探索。目前AI大模型百花齊放，各家公司紛紛發(fā)布了自己的大模型產(chǎn)品?；A模型的發(fā)展已經(jīng)成熟，應用開始發(fā)力，AI大模型的實際應用路徑逐漸清晰，最佳實踐公司已經(jīng)開始了將AI大模型融入到業(yè)務中。頭部IT軟件，已經(jīng)將AI大模型能力集成到自己的軟件中，如微軟將大模型集成到Windows中，金山公司將AI大模型能力融入到了WPS中，一些實用性的探索，也在很多企業(yè)開始。
基本的模型平臺可以滿足基礎的應用需求，但更強大、更復雜的應用就需要編程來解決，本課程詳細講述了如何調(diào)用大模型接口來是業(yè)務具備智能，如何通過代碼開發(fā)，來實現(xiàn)RAG、Agent功能，實現(xiàn)將大模型能力與企業(yè)業(yè)務進行結(jié)合，實現(xiàn)智能化的業(yè)務輔助系統(tǒng)，實現(xiàn)流程自動化、業(yè)務智能化。
【課程收益】
培訓完結(jié)后，學員能夠：
了解AI大模型和人工智能的發(fā)展情況
了解AI大模型的能力和適用場景
了解AI大模型常用平臺和工具
了解人工智能、深度學習、大模型的技術(shù)
掌握使用程序調(diào)用AI大模型接口的能力
掌握提示詞的編寫技巧和使用技巧
掌握llamaindex等RAG平臺的使用
了解RAG相關的知識處理技術(shù)
掌握langchain等開源平臺的使用
掌握業(yè)務系統(tǒng)與AI大模型的接口對接技術(shù)
了解AI大模型微調(diào)技術(shù)
掌握AI大模型本地化部署相關技術(shù)
了解AI大模型運行環(huán)境相關內(nèi)容
【課程對象】企業(yè)技術(shù)人員、業(yè)務人員
【課程時長】6天 (6小時/天）
【課程特點】密切結(jié)合案例，貼近實際應用，培訓完即可應用與工作；工具可用，使用平臺工具皆國內(nèi)可用。
【課程大綱】
人工智能和大模型技術(shù)基礎和開發(fā)準備
人工智能和大模型的技術(shù)發(fā)展
AI大模型的智能應用案例展示和介紹
AI大模型的革命性能力介紹
AI大模型的應用情況和前景介紹
人工智能的發(fā)展歷史
機器學習、深度學習的技術(shù)理論
AI大模型的技術(shù)發(fā)展介紹
主流大模型的發(fā)展情況和應用
RAG、Agents、FunctionCalling、微調(diào)等概念簡介
大模型應用的前景和挑戰(zhàn)
AI實操入門
主流平臺接口接入方式介紹（阿里、百度為主實操，OpenAI介紹）
阿里靈積平臺介紹和申請
百度千帆平臺介紹和申請
國內(nèi)大模型API聚合平臺介紹和申請（可使用OpenAI）
編寫第一個接口調(diào)用程序
零碼等編程助手介紹與安裝
編程助手代碼編寫介紹與演示
實踐：完成接口申請，并完成第一個大模型訪問程序
大模型調(diào)用開發(fā)
AI大模型接口調(diào)用基礎
各平臺Playground使用介紹和體驗
模型和token等基本概念介紹
env配置文件使用介紹與實操
URL調(diào)用方式介紹和演練
大模型API參數(shù)詳細介紹
API函數(shù)調(diào)用方式介紹和演練
大模型調(diào)用高級應用
API調(diào)用Json格式返回輸出
流式調(diào)用和批量調(diào)用使用演練
多模態(tài)大模型音頻功能調(diào)用
多模態(tài)大模型翻譯功能調(diào)用
多模態(tài)大模型圖像功能調(diào)用
通過大模型實現(xiàn)Function Calling
實踐：完成大模型各類調(diào)用功能
提示詞工程和編程應用
Prompt提示詞工程
使用大模型的最基礎能力培養(yǎng)
經(jīng)典提示詞體驗
如何寫出好的提示詞（調(diào)優(yōu)）--開發(fā)流程
提示工程簡介
什么是提示工程
為什么需要提示工程
提示工程的作用和效果
提示工程的語言
結(jié)構(gòu)化提示詞主要構(gòu)成部分
角色定義及使用價值
指示：任務的詳細描述
上下文：更準確的回復
例子：更好的避免歧義
輸入：清晰的輸入可以讓AI更好理解
輸出：定義自己想要的輸出格式
提示詞高級開發(fā)應用
在提示詞中使用流程，指明大模型思考模式
記錄提示詞，支持多輪對話
加入專業(yè)知識和具體約束，使答案更準確
使用思維鏈，使大模型能力更強
使用自洽性，對抗幻覺
基于AI大模型的智能業(yè)務應用開發(fā)
考慮安全，防止Prompt攻擊
實踐：完成一個基于提示詞的助手
基于 Langchain 的應用開發(fā)（一）
Langchain 框架簡介
Langchain 框架架構(gòu)
Langchain 基本模塊
Langchain 基本應用場景
Langchain 框架的輸入輸出(I/O)
Langchain進行模型封裝
Langchain實現(xiàn)多輪對話
Langchain進行Prompts封裝
輸出解析器 Output Parser 進行結(jié)構(gòu)化輸出
通過Langchain實現(xiàn)Function Calling
實操：Lnagchain 框架（I/O）案例
Langchain 框架中的檢索增強生成(RAG)
檢索增強生成(RAG)介紹
索引、檢索和生成
文檔和文檔加載器
TextLoader、WebBaseLoader 和 pypdfLoader
分割器和 RecursiveCharacterTextSplitter
嵌入模型
向量存儲庫
檢索器
基于 Langchain 的應用開發(fā)（二）
Langchain 框架中的記憶(Memory)
記憶（Memory）的概念
BaseChatMessageHistory 接口及其子類
RunnableWithMessageHistory
基于 Langchain 的聊天機器人
實操：通過Memory實現(xiàn)多輪交互
LangChain 框架的鏈和表達式語言 LCEL
Langchain 框架中的鏈（Chain）
Langchain 表達式語言 LCEL
LCEL 中的 RunnableLambda
LCEL 中的 RunnableSequence
LCEL 中的 RunnableParallel
LCEL 中的 RunnablePassthrough
LCEL 中的 RunnableBranch
實操：通過LCEL實現(xiàn)簡單流程
Langchain 框架中的智能體(Agent)
AI Agent 介紹
Langchain 中的 AI Agent 實現(xiàn)方式
LangGraph 庫介紹
LangGraph 中的圖
LangGraph 中的狀態(tài)
LangGraph 中的節(jié)點
LangGraph 中的邊
Langchain 中的工具
ReAct 方法
實操：Langchain 框架 AI 智能體案例
大模型私有化部署
使用 Ollama 本地部署大模型
Ollma 簡介
Ollma 安裝
Ollma 部署案例
量化技術(shù)
量化技術(shù)基本原理
常見的量化技術(shù)
模型量化的影響和選擇
模型微調(diào)
模型微調(diào)原理
模型微調(diào)技術(shù)
Adapter Tuning
Prefix Tuning
Prompt tuning
P-Tuning
LoRA
QLoRA
使用 LlamaFactory 微調(diào)模型
Dify本地部署實現(xiàn)智能體

郭振杰老師的其它課程