|
《AI大模型应用开发》 【课程背景】 2021年ChatGPT横空出世，打开了人工智能发展大门，AGI（通用人工智能）时代来临。经过3年的发展，国内外互联网类企业和传统企业大厂都已经进入了AI大模型的应用探索。目前AI大模型百花齐放，各家公司纷纷发布了自己的大模型产品。基础模型的发展已经成熟，应用开始发力，AI大模型的实际应用路径逐渐清晰，最佳实践公司已经开始了将AI大模型融入到业务中。头部IT软件，已经将AI大模型能力集成到自己的软件中，如微软将大模型集成到Windows中，金山公司将AI大模型能力融入到了WPS中，一些实用性的探索，也在很多企业开始。 基本的模型平台可以满足基础的应用需求，但更强大、更复杂的应用就需要编程来解决，本课程详细讲述了如何调用大模型接口来是业务具备智能，如何通过代码开发，来实现RAG、Agent功能，实现将大模型能力与企业业务进行结合，实现智能化的业务辅助系统，实现流程自动化、业务智能化。 【课程收益】 培训完结后，学员能够： ² 了解AI大模型和人工智能的发展情况 ² 了解AI大模型的能力和适用场景 ² 了解AI大模型常用平台和工具 ² 了解人工智能、深度学习、大模型的技术 ² 掌握使用程序调用AI大模型接口的能力 ² 掌握提示词的编写技巧和使用技巧 ² 掌握llamaindex等RAG平台的使用 ² 了解RAG相关的知识处理技术 ² 掌握langchain等开源平台的使用 ² 掌握业务系统与AI大模型的接口对接技术 ² 了解AI大模型微调技术 ² 掌握AI大模型本地化部署相关技术 ² 了解AI大模型运行环境相关内容 【课程对象】企业技术人员、业务人员 【课程时长】6天 (6小时/天） 【课程特点】密切结合案例，贴近实际应用，培训完即可应用与工作；工具可用，使用平台工具皆国内可用。 【课程大纲】 第一天、人工智能和大模型技术基础和开发准备 一、人工智能和大模型的技术发展 1. AI大模型的智能应用案例展示和介绍 2. AI大模型的革命性能力介绍 3. AI大模型的应用情况和前景介绍 4. 人工智能的发展历史 5. 机器学习、深度学习的技术理论 6. AI大模型的技术发展介绍 7. 主流大模型的发展情况和应用 8. RAG、Agents、FunctionCalling、微调等概念简介 9. 大模型应用的前景和挑战 二、AI实操入门 1. 主流平台接口接入方式介绍（阿里、百度为主实操，OpenAI介绍） 2. 阿里灵积平台介绍和申请 3. 百度千帆平台介绍和申请 4. 国内大模型API聚合平台介绍和申请（可使用OpenAI） 5. 编写第一个接口调用程序 6. 零码等编程助手介绍与安装 7. 编程助手代码编写介绍与演示 8. 实践：完成接口申请，并完成第一个大模型访问程序 第二天、大模型调用开发 一、AI大模型接口调用基础 1. 各平台Playground使用介绍和体验 2. 模型和token等基本概念介绍 3. env配置文件使用介绍与实操 4. URL调用方式介绍和演练 5. 大模型API参数详细介绍 6. API函数调用方式介绍和演练 二、大模型调用高级应用 1. API调用Json格式返回输出 2. 流式调用和批量调用使用演练 3. 多模态大模型音频功能调用 4. 多模态大模型翻译功能调用 5. 多模态大模型图像功能调用 6. 通过大模型实现Function Calling 7. 实践：完成大模型各类调用功能 第三天、提示词工程和编程应用 一、Prompt提示词工程 1. 使用大模型的最基础能力培养 2. 经典提示词体验 3. 如何写出好的提示词（调优）--开发流程 4. 提示工程简介 a) 什么是提示工程 b) 为什么需要提示工程 c) 提示工程的作用和效果 d) 提示工程的语言 5. 结构化提示词主要构成部分 a) 角色定义及使用价值 b) 指示：任务的详细描述 c) 上下文：更准确的回复 d) 例子：更好的避免歧义 e) 输入：清晰的输入可以让AI更好理解 f) 输出：定义自己想要的输出格式 二、提示词高级开发应用 1. 在提示词中使用流程，指明大模型思考模式 2. 记录提示词，支持多轮对话 3. 加入专业知识和具体约束，使答案更准确 4. 使用思维链，使大模型能力更强 5. 使用自洽性，对抗幻觉 6. 基于AI大模型的智能业务应用开发 7. 考虑安全，防止Prompt攻击 8. 实践：完成一个基于提示词的助手 第四天、基于 Langchain 的应用开发（一） 一、Langchain 框架简介 1. Langchain 框架架构 2. Langchain 基本模块 3. Langchain 基本应用场景 二、Langchain 框架的输入输出(I/O) 1. Langchain进行模型封装 2. Langchain实现多轮对话 3. Langchain进行Prompts封装 4. 输出解析器 Output Parser 进行结构化输出 5. 通过Langchain实现Function Calling 6. 实操：Lnagchain 框架（I/O）案例 三、Langchain 框架中的检索增强生成(RAG) 1. 检索增强生成(RAG)介绍 2. 索引、检索和生成 3. 文档和文档加载器 4. TextLoader、WebBaseLoader 和 pypdfLoader 5. 分割器和 RecursiveCharacterTextSplitter 6. 嵌入模型 7. 向量存储库 8. 检索器 第五天、 基于 Langchain 的应用开发（二） 四、Langchain 框架中的记忆(Memory) 1. 记忆（Memory）的概念 2. BaseChatMessageHistory 接口及其子类 3. RunnableWithMessageHistory 4. 基于 Langchain 的聊天机器人 5. 实操：通过Memory实现多轮交互 五、LangChain 框架的链和表达式语言 LCEL 1. Langchain 框架中的链（Chain） 2. Langchain 表达式语言 LCEL 3. LCEL 中的 RunnableLambda 4. LCEL 中的 RunnableSequence 5. LCEL 中的 RunnableParallel 6. LCEL 中的 RunnablePassthrough 7. LCEL 中的 RunnableBranch 8. 实操：通过LCEL实现简单流程 六、Langchain 框架中的智能体(Agent) 1. AI Agent 介绍 2. Langchain 中的 AI Agent 实现方式 3. LangGraph 库介绍 4. LangGraph 中的图 5. LangGraph 中的状态 6. LangGraph 中的节点 7. LangGraph 中的边 8. Langchain 中的工具 9. ReAct 方法 七、实操：Langchain 框架 AI 智能体案例 第六天、大模型私有化部署 一、使用 Ollama 本地部署大模型 1. Ollma 简介 2. Ollma 安装 3. Ollma 部署案例 二、量化技术 1. 量化技术基本原理 2. 常见的量化技术 3. 模型量化的影响和选择 三、模型微调 1. 模型微调原理 2. 模型微调技术 (1) AdapterTuning (2) PrefixTuning (3) Prompttuning (4) P-Tuning (5) LoRA (6) QLoRA 3. 使用 LlamaFactory 微调模型 四、Dify本地部署实现智能体
| 
