【高校实训平台】基于LLM的AIGC应用开发实训平台建设方案

 
 

 

目录
 

 

一、方案背景及现状分析

1.1 就业冰火两重天:AIGC人才缺口巨大,传统岗位人满为患

1.2 传统AI/CS/IT相关专业实训平台的局限性

二、TsingtaoAI AIGC应用开发实训平台,赋能高校AIGC人才培养

2.1 TsingtaoAI AIGC应用开发实训平台:革新人才培养模式

2.2 TsingtaoAI AIGC应用开发实训平台:核心优势

2.2.1 “教、学、练”一体化,打造完整的实训体验

2.2.2 低代码开发模式,降低学习门槛,激发学习兴趣

2.2.3 来自产业的实训项目,提升就业竞争力

2.2.4 智能化管理,提升学习效率和管理效率

2.3 平台的技术领先性

2.4 平台的经济效益和社会价值

2.5 面向专业

2.6 建设目标

三、 解决方案及介绍

产品架构图

技术实现方式

3.1 AI 应用开发平台(AI 编排工作室)

3.2 实训项目管理平台

3.3 LLM 大模型课程

3.3.1 大模型基础与理论

3.3.2 大模型开发技术

3.3.3 大模型训练与优化

3.3.4 大模型推理与部署

3.4 AIGC实训项目课程

3.4.1 如何训练出专属于“你”的问答机器人

3.4.2 不用代码创建Midjourney提示词机器人

3.4.3 构建一个Notion AI助手

3.4.4 创建一个带有业务数据的官网AI智能客服

3.4.5 使用全套开源工具构建LLM应用实战:调用Baichuan开源模型能力

3.4.6 将AI开发平台接入微信生态

3.4.7 企业级实训项目:从LangChain接入ChatGPT到制作股票分析AI团队

3.4.8 企业级实训项目:人机对话大师:打造流畅AI互动系统,实现无缝交流

四、 展望未来,共建 AIGC 人才培养生态

五、 合作院校和企业

 
 
 

一、方案背景及现状分析

 
 

 

 

1.1 就业冰火两重天:AIGC人才缺口巨大,传统岗位人满为患

 

GenAI技术的突破,正在引发产业革命。IDC数据显示,2022年全球AI总投资规模为1,324.9亿美元,并有望在2027年增至5,124.2亿美元,年复合增长率为31.1%。聚焦生成式AI,IDC调查发现,到2027年45%的企业将掌握并使用生成式 AI 来共同开发数字产品和服务,从而使收入增长比竞争对手翻一番。IDC预测,全球生成式AI市场年复合增长率或达85.7%,到2027年全球生成式AI市场规模将接近1500亿美元。

 

 
 

 

麦肯锡报告称,到2030年,中国的AI人才供应只有市场需求的三分之一,人才缺口将达400万。

 
 
另一方面,经济环境急转直下,传统职业陷入困境。学生如果在技能方面不作调整,生存压力更甚。AIGC大模型开启智能化时代,AI领域就业前景广阔。企业急需AIGC技术精英,业务专才,薪资更是水涨船高。
 
 

 

 

1.2 传统AI/CS/IT相关专业实训平台的局限性

 

传统的AI/CS/IT专业建设和人才培养模式存在着诸多问题,例如:

  • 师资力量不足:高校缺乏足够的 LLM 和 AIGC 方面的专家,难以满足快速变化的技术发展需求。

  • 课程设置滞后:高校的 LLM/AIGC 课程设置相对滞后,缺乏对前沿技术的深入研究和教学。

  • 实践机会不足:许多高校缺乏足够的实验室设施和项目资源,无法为学生提供足够的实践机会。

  • 产学结合不紧密:高校与 LLM/AIGC 企业之间的合作还不够紧密,学生在毕业后缺乏实际工作的经验和适应能力。

 

 

 
 

二、TsingtaoAI AIGC应用开发实训平台,

赋能高校AIGC人才培养

 
 

 

 

 

2.1 TsingtaoAI AIGC应用开发实训平台:革新人才培养模式

TsingtaoAI以最新的LLM/AIGC职业教育发展需求为基本出发点,立足于专业建设和人才培养的协同发展,面向全国高等院校推出 “教、学、练” 融合的 AIGC 应用开发实训平台建设方案。该方案颠覆传统实训模式,将理论学习与实践应用紧密结合,为学生提供全面的 AIGC 应用开发学习体验。

 

2.2 TsingtaoAI AIGC应用开发实训平台:核心优势

2.2.1 “教、学、练”一体化,打造完整的实训体验

TsingtaoAI AIGC应用开发实训平台不仅仅是工具集合,而是融合了教学、学习、练习三大环节,为学生提供完整的 AIGC 应用开发学习体验。平台支持多种主流的 LLM 模型,例如:OpenAI、Azure OpenAI Service、Anthropic、Hugging Face Hub、Replicate、Xinference、OpenLLM、讯飞星火、文心一言、通义千问、Minimax、ZHIPU(ChatGLM) 等,并支持 JinaAI、ZHIPU(ChatGLM) 等 Embedding 模型供应商。

 

2.2.2 低代码开发模式,降低学习门槛,激发学习兴趣

平台采用低代码开发模式,让学生无需编写大量的代码,就能快速搭建生产级的生成式 AI 应用,激发更多学生学习 AIGC 的兴趣。即使是非 CS专业的同学,也能参与到 AI 应用的定义和数据运营过程中。平台提供开箱即用的组件和框架,以及直观的 Prompt 编排界面,帮助学生快速上手,完成各种 AI 应用的构建。

 

2.2.3 来自产业的实训项目,提升就业竞争力

平台的实训项目全部是基于产业的商业化 AIGC 项目,经过角色拆解、任务拆解、代码拆解、部署流程拆解等过程,将其标准化为教师可以带领学生完成的实训内容,真正帮助学生接触产业前沿技术和工作内容,提升就业竞争力。平台提供的项目案例涵盖多种行业,例如:智能客服、文本生成、图像生成、视频生成、语音合成等,帮助学生快速熟悉真实工作场景,积累实战经验。

 

2.2.4 智能化管理,提升学习效率和管理效率

平台提供流程化的 AI 产品开发、项目管理、人员管理、知识管理、智能运维等一站式功能,整个的实训流程和实际企业的开发流程基本一致,让受训学员可以快速进入到 LLM/AIGC 相关的项目中就业。平台还提供 自动化的任务分配和进度追踪,以及可视化的数据分析和项目管理功能,帮助教师了解学生的学习情况,并提高教学管理效率。

 

2.3 平台的技术领先性
  • 支持主流 LLM 模型:平台支持主流的 LLM 模型供应商,并提供丰富的工具和组件,例如 RAG 引擎、Agent 框架、流程编排工具,可以帮助用户快速搭建 LLM 应用。

  • 领先的模型微调技术:平台提供先进的 模型微调技术、提示工程技术、分布式训练技术 等,帮助用户构建更加高效、智能的 AI 应用。

  • 强大的功能与易用性:平台提供 开箱即用的组件和框架,以及 直观的 Prompt 编排界面,帮助学生快速上手,完成各种 AI 应用的构建。平台还提供了 灵活的流程编排功能 和 易用的界面和 API,为学生节省了许多重复的工作,使其可以专注在产品探索和创新上。

  • 与行业标杆的对比:与传统实训平台相比,TsingtaoAI AIGC 应用开发实训平台更易用、更灵活、更贴近产业需求。平台采用的技术和算法与行业标杆保持一致,例如:Transformer 架构、Attention 机制、预训练语言模型、向量数据库等。

 

2.4 平台的经济效益和社会价值
  • 帮助高校节省成本:平台的低代码开发模式,以及灵活的部署方式,帮助高校节省实训室建设成本和硬件投入,实现轻量级投入,获得最大的实训收益。

  • 提高教学效率:平台的智能化管理功能,帮助教师更高效地管理项目和学生,提高教学效率。

  • 提升人才培养质量:平台提供的真实产业场景实训项目和丰富的 LLM 技术课程,帮助学生快速掌握行业所需的技能,提升就业竞争力。

  • 创造更大的社会价值:平台培养出的优秀人才,能够快速适应 AIGC 行业发展,为社会创造更大的价值。

 

2.5 面向专业

面向开设编程课程(包括选修课)的所有AI/CS/IT及相关的理工科专业,甚至没有编程课程的非理工类专业也适合。

 

2.6 建设目标

让受训学员自己构建出企业级的LLM/AIGC应用,具备进入LLM/AIGC项目就业的真实能力。

 

 
 

三、 解决方案及介绍

 
 

 

平台建设分为 AI 应用开发平台(AI 编排工作室)、实训项目管理平台、LLM 大模型课程和 AIGC 实训项目课程 4 个部分,具体内容如下:

 

 

 

产品架构图

 
 
 

 

 

 

技术实现方式

 
 

 

 

3.1 AI 应用开发平台(AI 编排工作室)
  • 多模型支持:无缝集成了国内外主流的专有和开源的大语言模型,包括 GPT、Mistral、Llama3 以及其他兼容 OpenAI API 的模型,满足各种应用场景的需求。

 
 
  • 灵活的 Agent 框架:支持用户定义基于 LLM 功能调用或 ReAct 的 Agent,并可以为这些 Agent 添加预构建或自定义工具,进一步扩展其功能。

 
 
  • 直观的工作流和接口设计:提供一个可视化的工作流设计界面,用户可以通过图形化的方式构建和测试复杂的 AI 工作流。这种设计减少了对提示词技术和模型推理能力的依赖,提升了系统的可解释性、稳定性和容错性。
 
 

 

  • 企业级 LLMOps:提供企业级的 LLMOps 平台,能够监控和优化生成 AI 应用的推理过程,记录日志、注释数据,并进行模型微调,确保持续改进。
 
 
 

 

  • 强大的 RAG 管道:RAG管道支持从文档中提取信息并进行检索,适用于各种文档格式,如 PDF、PPT 等,提供可靠的数据管道以增强应用的性能。
 
 
 

 

  • 后端即服务(BaaS)解决方案:Dify 提供全面的后端 API,使开发者能够将 AI 功能轻松集成到现有产品中,无需复杂的后端开发和部署过程。

 

 

3.2 实训项目管理平台

 

  • 智能化管理:平台提供项目管理、代码管理、人员管理、知识管理和智能运维等一站式功能。

 
 

 

  • 可视化管理:平台提供可视化数据分析和可视化项目管理,方便教师了解学生的学习情况。
 
 

 

  • 自动化管理:平台提供自动化的任务分配和进度追踪,减轻教师的管理负担。

 
 

 

 

3.3 LLM 大模型课程

 

大模型开发基础:大模型的训练与应用、大模型实操与API调用、提示工程技术

 

RAG基础与架构:RAG基础与架构、文档切分常见算法、向量数据库常见算法

 

RAG与LangChain:LangChain基础应用、理解Function Calling、LangChain与Retrieval组件、LangChain与Chain组件、Advanced RAG、基于RAGAS的RAG的评估

 

模型微调与私有化大模型:开源模型介绍、模型微调基础、GPU与算力、高效微调技术-LoRA

 

Agent开发:Agent开发基础、自定义Agent工具、深入浅出ReAct框架、深度剖析Agent核心部件、Agent案例分享和前沿应用

 

智能设备与小参数模型:智能设备上的模型优化基础、模型在智能设备上的部署、边缘计算中的大模型应用

 

多模态大模型开发:多模态大模型基础、多模态模型项目剖析、多模态大模型应用分析

 

3.3.1 大模型基础与理论

(1)大模型技术概览

人工智能与大模型的发展历程

大模型在AGI时代的角色与个人定位

大模型的典型应用场景与案例分析

 

(2)大模型核心原理

Transformer网络架构与Self-Attention机制

Encoder-Decoder模型与Multi-head Attention

预训练语言模型(PLM)的学习范式

 

(3)大模型特性与应用

大模型的智能获取机制

生成式模型与语言模型的区别与联系

大模型的提示工程(Prompt Engineering)基础

 

3.3.2 大模型开发技术

(4)提示工程

提示(Prompt)的构成与优化

In Context Learning与Chain-of-thought prompting

提示工程在对话系统、问答、文档交互中的应用

 

(5)Function Calling与API对接

Function Calling的原理与实现

用GPT模型生成函数参数的方法

与外部服务如高德地图的API对接

 

(6)Embedding与向量数据库

Embedding的概念与在大模型中的应用

向量数据库的设计与应用

相似度计算与语义搜索技术

 

(7)LangChain与Agents开发

LangChain框架介绍与应用场景

LLM Chain与Memory的工作原理

Agents的关键技术与开发实践

 

3.3.3 大模型训练与优化

(8)大模型训练关键技术

分布式并行计算与集合通信技术

混合并行技术与自动并行

训练加速技术:通信优化、混合精度计算

 

(9)大模型微调技术

参数高效微调技术:Adapter Tuning、Prefix Tuning

内存高效微调技术:Quantization、Mixed-precision

对齐技术:PPO、DPO、RAFT等

 

(10)大模型训练实战

预训练技术要点与finetune训练

高效微调技术:LoRA、AdaLoRA

开源框架选择与案例讲解

 

3.3.4 大模型推理与部署

(11)大模型推理优化技术

AI编译器与工具链:TVM/MLIR/XLA

跨平台模型移植与性能调优技术

计算、显存、通信优化技术

 

(12)大模型推理部署实战

推理引擎部署为服务的方法

效果评估与模型量化效果评测

开源方案解析:Fastertransformer、TensorRT-LLM

 

(13)大模型在特定领域的应用

医疗、金融、情感等领域大模型的评估与部署

领域特定数据集的构建与模型微调

 

3.4 AIGC实训项目课程

AIGC实训项目课程完全从商业化场景出发,全部都是真实投入市场中的项目。根据不同行业对于人才的需求,对这些真实的项目进行里程碑和任务拆解、教学环节的标准化设置等及教研工作,从商业产品变成培养符合企业实际用人需求的实训项目。

 

实训项目可以根据不同专业和方向进行定制,以符合该专业的培养方向。这里列举几个已经成熟的实训项目案例:

 

3.4.1 如何训练出专属于“你”的问答机器人

本实训课程旨在指导学员通过AI应用开发平台,训练一个专属于自己的问答聊天机器人。课程将涵盖从数据准备、模型训练到实际部署的整个流程,并结合实际案例,帮助学员掌握关键技术要点和操作方法。通过本课程的学习,学员将能够独立构建并优化一个高效的问答聊天机器人,满足特定业务需求。

 

(1)数据准备:

数据收集:如何收集并整理问答数据,包括文本数据的预处理和标注。

数据格式:平台要求的数据格式和导入方法。

 

(2)模型训练:

模型选择:选择适合的预训练模型并进行初始化。

模型训练:通过平台的界面或API,训练模型并监控训练过程。

参数调整:优化训练参数,提高模型性能。

 

(3)模型评估与优化:

评估方法:使用验证集评估模型性能,常见评估指标(如准确率、召回率)。

错误分析:分析模型错误,找出改进方向。

模型优化:通过数据增强、超参数调整等方法优化模型。

 

(4)模型部署:

部署方式:在平台上部署训练好的模型。

集成应用:将聊天机器人集成到实际应用中,如网站、微信小程序等。

 

(5)维护与迭代:

持续学习:通过收集用户反馈,持续改进和更新模型。

版本管理:管理模型版本,确保稳定性和可控性。

 

3.4.2 不用代码创建Midjourney提示词机器人

本课程旨在指导学生如何使用AI应用开发平台在无需编写任何代码的情况下创建一个Midjourney提示词机器人。学员将通过实际操作,学会如何配置和部署一个自动生成提示词的机器人,并理解其背后的技术逻辑。课程设计既适合技术小白,也适合有一定技术背景但希望简化开发流程的同学。

 

(1)创建项目

项目设置:如何在AI实训平台上创建一个新项目。

项目名称与描述:定义项目名称和描述,确保项目定位明确。

模板选择:选择合适的模板(如Midjourney提示词机器人模板)。

 

(2)配置机器人

触发条件:定义机器人触发的条件。

关键词匹配:设置触发机器人响应的关键词或短语。

事件触发:配置基于特定事件(如用户输入)触发的逻辑。

响应配置:设置机器人如何响应用户输入。

固定回复:配置固定的文本回复。

动态生成:利用Dify的自然语言处理能力动态生成提示词。

API集成:如果需要,配置与外部API的集成。

API调用设置:详细说明如何配置API调用,包括请求URL、请求参数和处理响应。

数据解析与处理:解释如何解析API返回的数据,并将其用于生成提示词。

 

(3)测试与调试

实时测试:在Dify平台上进行实时测试,确保机器人按预期工作。

输入测试:输入不同的测试用例,观察机器人的响应是否准确。

输出验证:验证机器人生成的提示词是否符合预期。

问题排查:介绍常见问题及其解决方法。

关键词未匹配:如何调整关键词匹配逻辑。

API调用失败:如何检查和修正API配置问题。

 

(4)部署与维护

部署机器人:将配置好的机器人部署到实际应用环境中。

发布流程:详细步骤,包括选择部署环境和发布操作。

监控与优化:如何监控机器人的运行状态并进行优化。

日志查看:利用平台提供的日志功能跟踪机器人的运行情况。

性能优化:根据实际运行情况调整和优化机器人的配置。

 

3.4.3 构建一个Notion AI助手

本实训课程旨在指导学生如何使用AI应用开发平台,通过零代码实现构建一个Notion AI助手。学生将学习如何通过用户界面进行设置、配置和部署AI助手,掌握如何集成AI助手到Notion中,以提升生产力和工作效率。课程包含理论讲解和实际操作两部分,确保学员能够在课程结束后独立构建和维护自己的Notion AI助手。

 

(1)创建新的AI应用

如何在AI开发平台创建新的AI应用

配置应用的基本信息,如名称和描述

选择适当的AI模型和语言设置

 

(2)定义数据源

配置Notion作为数据源

设置Notion API密钥和访问权限

定义从Notion中提取数据的方式和数据格式

 

(3)训练AI模型

导入和准备训练数据

配置AI模型的训练参数

训练和优化AI模型

检查和验证训练结果,调整模型参数以提高准确性

 

(4)设置交互界面

配置AI助手的交互界面

设置用户输入和输出格式

定义对话流程和逻辑,包括多轮对话和条件分支

 

(5)集成到Notion

将AI助手集成到Notion的工作空间

在Notion中配置AI助手的触发方式,如命令或按钮

测试AI助手在Notion中的表现和功能

 

(6)监控和维护

配置实时监控和日志记录

分析用户交互数据,识别和解决常见问题

定期更新和优化AI模型,确保其准确性和有效性

 

3.4.4 创建一个带有业务数据的官网AI智能客服

本实训课程将指导学生如何根据业务数据,在几分钟内创建一个AI聊天机器人。本课程将通过详细的步骤和实用的案例演示,使学员能够掌握如何快速部署一个AI聊天机器人,以提升企业的客户服务效率和质量。课程结束后,学员将能够独立创建和优化AI聊天机器人,并将其应用于实际业务场景中。

 

(1)数据准备

数据收集:如何收集企业内部的业务数据,包括客户常见问题、产品信息、服务流程等。

数据格式:确保数据格式的一致性,推荐使用JSON、CSV等常见数据格式。

数据清洗:清洗和规范化数据,删除重复和无用信息,保证数据的准确性和完整性。

 

(2)配置数据源

数据源接入:将收集到的业务数据导入到平台,支持多种数据源接入方式,如直接上传文件、连接数据库、调用API等。

数据映射:将业务数据映射到平台的知识图谱,确保数据在平台中的结构化和可查询性。

 

(3)模型训练

选择模型:选择适合业务需求的AI模型,平台提供多种预训练模型供选择。

模型训练:根据导入的数据进行模型训练,详细步骤包括训练参数的设置、训练过程的监控和结果的分析。

模型优化:通过调整训练参数、增加数据样本等方法,优化模型的准确性和响应速度。

 

(4)聊天机器人配置

机器人个性化:设置聊天机器人的基本信息,包括名称、头像、欢迎语等。

对话流程设计:设计机器人的对话流程,确保能够处理多种客户需求和问题。

自定义回复:为常见问题配置自定义回复,提高机器人回答的准确性和客户满意度。

 

(5)测试与部署

功能测试:对聊天机器人进行全面的功能测试,确保其能够正常运行,处理各种预期和异常情况。

用户反馈收集:设置用户反馈机制,通过用户的反馈持续优化机器人性能。

上线部署:将测试通过的聊天机器人上线部署到企业的客服系统中,支持多渠道接入,如网站、微信、APP等。

 

3.4.5 使用全套开源工具构建LLM应用实战:调用Baichuan开源模型能力

本课程旨在通过实际案例,指导学员如何使用全套开源工具构建大型语言模型(LLM)应用程序。课程将涵盖从环境搭建、数据处理到模型训练和部署的完整流程。通过本课程,学员将掌握构建LLM应用的核心技术,学会在不同场景下灵活运用这些技术,并能够独立完成一个LLM应用的构建和优化。

 

(1)环境搭建

操作系统要求:支持Linux、MacOS和Windows,推荐使用Ubuntu。

依赖工具安装:包括Python、Git、Docker、Node.js等的安装和配置。

虚拟环境配置:使用工具如virtualenv或conda创建和管理Python虚拟环境。

 

(2)数据处理

数据收集与清洗:如何收集高质量的训练数据,并进行预处理(如去除噪声、文本规范化等)。

数据标注:使用工具如Label Studio进行数据标注,包括文本分类、实体识别等任务。

数据存储与管理:使用数据库(如MySQL、MongoDB)或文件系统存储和管理数据。

 

(3)模型训练

选择模型:根据应用场景选择合适的预训练模型(如BERT、GPT等)。

模型微调:使用开源工具(如Hugging Face Transformers)进行模型微调,调整超参数以优化性能。

分布式训练:利用多GPU或多节点进行分布式训练,加速模型训练过程。

 

(4)模型评估

评估指标:使用准确率、召回率、F1-score等指标评估模型性能。

交叉验证:通过交叉验证方法提高模型的泛化能力。

错误分析:对模型的错误预测进行分析,找出改进方向。

 

(5)模型部署

部署方式:介绍常见的部署方式,如本地部署、云端部署(AWS、GCP、Azure等)和边缘部署。

API服务:使用Flask、FastAPI等框架将模型部署为API服务。

容器化部署:使用Docker将模型和依赖打包成容器,并使用Kubernetes进行容器编排和管理。

 

(6)性能优化

模型压缩:使用剪枝、量化等技术压缩模型,以减少内存占用和推理时间。

缓存策略:在模型推理过程中使用缓存技术,加速响应速度。

异步处理:采用异步请求处理方式,提高系统的并发处理能力。

 

3.4.6 将AI开发平台接入微信生态

本课程将指导学生如何基于开发的AI应用案例,集成到微信中。学员将学习到如何使用AI开发平台的功能,通过零代码实现与微信的集成,并了解具体的技术细节与步骤。本课程适合具有一定技术背景但不熟悉AI开发平台的学生。

 

(1)创建AI项目

项目初始化

在平台上创建新项目,命名并描述项目用途。

选择适合的模板或从空白项目开始。

配置消息处理逻辑

编写消息处理逻辑,定义如何处理不同类型的消息(文本、图片、语音等)。

使用Dify提供的函数和API,实现消息解析与回复。

 

(2)集成微信公众平台

获取微信接口权限

确认已通过微信公众平台的开发者认证。

获取服务器Token,用于验证消息真实性。

配置接口URL

在微信公众平台设置服务器地址(URL),与AI项目的Webhook地址对应。

验证服务器地址配置,确保消息能够正确传递。

消息加解密

实现微信消息的加解密,确保消息在传输过程中的安全性。

使用平台提供的工具函数,简化加解密流程。

 

(3)测试与调试

测试消息传递

在微信中发送测试消息,验证消息能够成功传递到项目。

检查项目的日志与调试信息,排查潜在问题。

调试消息处理逻辑

调试平台中的消息处理代码,确保逻辑正确实现。

使用断点与日志打印,分析消息处理流程中的问题。

 

(4)部署与维护

项目部署

确认项目配置无误,准备上线。

部署项目到生产环境,确保微信用户能够正常使用。

监控与维护

监控项目运行状态,及时处理异常情况。

定期更新与维护项目,根据用户反馈进行改进。

 

3.4.7 企业级实训项目:从LangChain接入ChatGPT到制作股票分析AI团队

GenAI介绍

1、什么是GenAI:学员将对GenAI有个直观的了解

2、什么是LangChain:学员将了解什么是LangChain,以及学习LangChain的好处

3、如何获得免费的 OpenAI API 密钥:学员将学会如何获得免费OPENAI API KEY

4、课程编译环境设定:学员将设定好课程需要的Python语言和配置文档

 

LangChain

1、LangChain如何连接LLM大语言模型:学员将学习如何用LangChain连接OpenAI API,并得到OpenAI的回复

2、LangChain三大Package:学员将学习LangChain三大Package它们是做什么,以及导入的时候有什么需要注意

3、Prompt Template 提示词模板:学员将了解什么是Prompt以及如何

使用提示词模板训练LLM

4、Few Shot Prompt Template 少量示例提示模板:学员将了解什么是Few Shot Prompt Template 少量示例提示模板,以及如何使用它

5、Chain链条Primitive基本单元与Utility Chain工具链条:学员将学会如何使用Utility Chain去克服LLM的计算弱点

6、通用链条SequentialChain顺序链:学员将学习如何使用通用链条,以及实现SequentialChain顺序链链接多条Chain

7、如何为LLM添加记忆:学员将学会如何为LLM添加记忆

 

RAG检索增强生成

1、何谓RAG:学员将了解为什么需要RAG,RAG是什么

2、如何加载PDF和搜索网页信息:学员将学会如何在Langchain加载PDF和网页信息,并使用Google API搜索

3、Text Splitter文本分割器:学员会学会如何使用Text Splitter,以及如何定义Chunk的大小

4、Chunking分块大小怎么决定:学员将了解如何大概估算Chunk分块大小

 

向量数据库

1、Embedding与Chroma向量数据库的创建:学员将学习如何创建Embedding,什么是Embedding,它有什么用,以及如何创建向量数据库

2、Chroma向量数据库相似度搜索:学员将学会如何使用Chroma向量数据库相似度搜索

3、如何使用Ollama安装的本地LLM搜索Chroma向量数据库:学员将学会如何使用Ollama安装的本地LLM搜索Chroma向量数据库

4、如何使用LLM摘要总结Chroma检索信息:学员将学会如何使用LLM

摘要总结Chroma检索信息

5、如何初始化FAISS与RetrievalQA的使用:学员将学习如何初始化FAISS,以及如何使用RetrievalQA检索回答用户提问

6、如何保存与加载FAISS并制表查看FAISS中的文档:学员将学习如何保存与加载FAISS,并制表查看FAISS中的文档

7、如何在FAISS中添加和删除文档:学员将学会如何在FAISS中添加和

 

删除文档

如何制作AI Agent智能体&AI Agent团队

1、如何使用LCEL:学员将学会如何使用LCEL

2、创建AI智能体:学员将学习如何创建AI智能体

3、AI Agent如何使用LangChain自带工具:学员将学会AI Agent如何使

用LangChain自带工具

4、创建AI团队:学员将学习如何创建第一个AI团队

5、股票分析AI团队制作-Crew&Agents&Tasks:从第一步开始构建股票分析团队程序的架构和它的运行逻辑

6、股票分析AI团队制作-定义Agents与Tasks:学员将学会如何定义股票分析AI团队中的Agents与Tasks

7、股票分析AI团队制作-添加上网搜索工具:学员将学会如何为股票分析师添加上网搜索工具

8、股票分析AI团队制作-得出是否买入股票建议:学员将学会如何让股

票分析师得出是否买入股票的建议。

 

3.4.8 企业级实训项目:人机对话大师:打造流畅AI互动系统,实现无缝交流

课程介绍

1、课程目标

2、文本编辑器与Python语言的安装

3、工具介绍

 

如何实现Speech to text语音转文字功能

1、Speech-To-Text实时语音转文字功能制作:学员将学习如何设置和导入需要用到的库和模块到VSCode当中

2、Speech-To-Text 翻译功能:学员将学习Speech-To-Text 翻译功能

3、Speech-To-Text 模型的参数选择:学员将学会如何实现Speech-To-Text 模型的参数选择

4、Speech-To-Text 合并聊天记录:学员将学会如何Speech-To-Text 合并聊天记录

 

如何使用LLM大语言模型处理/回复用户提问

1、Ollama大语言模型处理问题:学员将学会如何使用Ollama大语言模型回答用户提问

2、如何实现ChatGPT与Groq的接入:学员将学会如何实现ChatGPT与Groq的接入

 

如何实现Text to speech文字转语音

1、如何Text to Speech 文字转语音:学员将学会如何Text to Speech 文字转语音

2、如何处理长句子语音流:学员将学会如何处理长句子语音流

3、如何分割长文章并转换为流媒体

 

如何制作TalkingAI语音AI

1、TalkingAI 根据Prompt模板设置Groq模型:学员将学会如何在TalkingAI 根据Prompt模板设置Groq模型

2、TalkingAI LLM连接语音转文字功能:学员将学会如何在TalkingAI LLM连接语音转文字功能

3、TalkingAI 完成AI语音到LLM文字回应:学员将学会如何在TalkingAI 完成AI语音到LLM文字回应

4、TalkingAI 完成AI语音输出:学员将学会如何在TalkingAI 完成AI语音输出

 

移植AI语音对话程式到网页App

1、移植Python程序网页App展示

2、Streamlit初认识 -文字,输入,选项元素

3、Streamlit进阶 - 逻辑, Chat, Form功能

4、TalkingAI 连接 Streamlit:学员将学会如何处理TalkingAI 连接 Streamlit的错误

5、Streamlit实时聊天机器人问题修复

 

语音AI扩展功能

1、如何制作根据网站内容回答问题的语音AI系统

2、如何将网页内容分割保存在VectorStore当中:学员将学会如何将网页内容分割保存在VectorStore当中

3、如何根据相关性回答用户提问:学员将学会如何根据相关性回答用户提问

4、语音AI扩展功能:学员将了解如何构思在语音AI系统中添加网页RAG功能

5、如何用LCEL连接网站数据:学员将学会如何用LCEL连接网站数据获取数据和Prompt等

6、语音AI系统错误修复:学员将学会如何修复语音AI系统错误

 

 

 
 

四、 展望未来,共建 AIGC 人才培养生态

 
 

 

 

TsingtaoAI AIGC应用开发实训平台将持续不断地优化和升级,为高校提供更完善的 AIGC 人才培养解决方案,助力中国AIGC产业发展。

 

  • 持续迭代和升级:平台将持续跟踪 LLM 和 AIGC 领域的最新技术发展,不断更新平台的功能和课程内容,为学生提供更前沿、更实用的学习体验。平台将不断优化用户体验,例如:提升平台的响应速度和稳定性、增加更多智能化功能、提供更丰富的资源和学习资料等。

  • 应用场景扩展:平台将扩展应用场景,例如:与更多企业合作,提供更多真实的 AIGC 项目案例;与更多高校合作,打造 AIGC 人才培养的生态体系;与更多科研机构合作,推动 AIGC 技术的应用研究。平台将探索 AIGC 技术在其他领域的应用,例如:教育领域、医疗领域、金融领域等。

  • 国际化发展:平台将积极探索国际化发展,例如:与国外高校和企业合作,开展 AIGC 人才培养项目;将平台的功能和课程内容翻译成多种语言,方便全球用户使用;积极参与国际 AIGC 领域的交流合作,推动 AIGC 技术的全球发展。

  • 社会影响力:平台将积极探索 AIGC 技术的社会影响力,例如:举办 AIGC 相关的学术研讨会和行业论坛;与政府机构合作,推动 AIGC 技术的应用推广;促进 AIGC 技术的规范化发展和伦理道德建设。

TsingtaoAI AIGC应用开发实训平台将致力于成为高校 AIGC 人才培养的领跑者,为中国 AIGC 产业发展贡献力量!

 

 
 

五、 合作院校和企业

 
 

 

 
 

 

Product & Case.

产品与案例