企业内训｜LLM大模型技术在金融领域的应用及实践-招商银行某分行IT团队
-
产品经理
-
研发工程师
-
算法工程师
1、大模型概述与发展方向
a. 全球商用 LLM 发展现状
-
对比 OpenAI、Anthropic、Google DeepMind 等企业最新发布的 LLM 产品。
-
OpenAI GPT 系列（GPT-4o、o1、GPT-5 预期发展）与 Claude 系列的比较与发展方向。
-
Google DeepMind Gemini 系列大模型的发展趋势。
-
国内外大模型生态圈的差异与发展路径：重点分析国内如DeepSeek、阿里通义千问等大模型的技术演进与实践。
b. 多模态大模型的兴起
-
DALLE3、Suno、Sora、GPT-4V 等多模态大模型的应用场景及技术创新。
-
如何结合多模态技术改进金融服务中的用户体验、数据分析、以及金融产品设计。
c. 大模型的最新技术突破与研究前沿
-
面向未来的大模型技术挑战：推理能力优化、能耗控制与计算成本问题。
-
当前前沿研究中的方向：例如 Self-supervised Learning 和 Multitask Learning 在大模型中的应用。
2、LLM 在金融行业的场景化应用趋势
a. 金融领域的 AI 应用场景概览
-
基于 LLM 的智能客服、风险评估、欺诈检测、合规审查等金融场景中的应用。
-
如何结合分行和总行的金融业务模式进行大模型 AI 的定制开发与落地。
b. 国内外领先银行的 LLM 实践
-
通过案例剖析国内外领先大型银行如何应用 LLM 优化业务流程。
-
不同金融机构如何通过大模型提升精准营销、投资分析、贷款风险评估等具体场景的效率。
1、大模型的技术原理与架构设计
a、LLM 架构与传统 NLP 技术的比较
-
大模型架构（Transformer、Attention 机制）与传统 NLP 模型的对比。
-
如何优化金融行业中大模型的推理速度与精度。
b、大模型的多模态扩展
-
介绍如何在金融行业中利用文本、图像、语音数据的多模态融合提升智能决策能力。
c、分层架构与模块化设计在 LLM 中的应用
-
探讨如何在金融领域通过模块化设计优化模型的训练与推理效率。
2、从 0 到 1 构建 LLM 全流程解析
a. 大模型的训练框架与方法
-
介绍深度学习框架 PyTorch、TensorFlow 在大模型训练中的应用。
-
微调与迁移学习在金融领域中的应用场景与优势。
-
基于金融领域特殊需求的大模型训练策略：数据标注、数据清洗、特征选择等核心技术流程。
b. LLM 模型的工具链
-
Hugging Face、LangChain 等工具链的深入讲解与使用方法。
-
Agent 框架、React 和 Cot 在大模型中的应用，如何提升金融场景中的任务执行效率。
c. 小模型与大模型协同工作的实践
-
如何结合意图识别等小模型技术，提升大模型在银行业务场景中的效率与精度。
1、Prompt 工程的核心技术与应用实践
a. Prompt 工程的原理与发展
-
大模型的 Prompt 原理：如何通过设计 Prompt 优化大模型的输出质量。
-
针对不同金融场景的 Prompt 设计方法：客户服务、风险预测、市场分析等场景。
b. Prompt 设计的高级技巧
-
基于金融数据的复杂 Prompt 构建方法与实践技巧。
-
如何通过多轮 Prompt 增强金融分析模型的深度与准确性。
c. Prompt 工程中的常见问题与优化策略
-
针对金融领域中常见的 Prompt 设计误区与解决方案。
2、LLM 模型的调优与性能优化
a. 金融场景下的大模型性能调优策略
-
如何在银行业务中针对高并发、低延迟的需求进行大模型的性能优化。
-
大模型的压缩技术：量化、蒸馏、剪枝等方法在金融领域的应用。
b.大模型的可解释性与透明度
-
如何提升大模型在金融决策中的可解释性，以满足合规要求和客户信任。
-
针对 LLM 在银行业中应用的模型透明化技术，如 SHAP、LIME 等可解释性框架的应用。
1.LLM 在金融行业的应用实战
a. 基于 LLM 的智能客服与客户管理
-
如何利用 LLM 处理客户咨询、投诉与反馈，实现精准的客户管理。
-
基于真实项目的代码示例：如何通过大模型提升客户满意度与业务效率。
b. 金融场景中的 LLM 结合 RPA（机器人流程自动化）
-
LLM 与 RPA 的集成：如何通过自动化流程管理优化银行的后台运营。
-
银行业务中的 RPA 应用实例：账户管理、风险监控、资金流动分析等。
c. 金融决策支持系统的 AI 应用
-
LLM 如何结合历史数据进行决策支持，提升市场预测与风险管理能力。
-
如何通过知识图谱与 LLM 结合，提升决策系统的智能化水平。
2、金融分析模型与具体案例剖析
a. 金融风险评估模型的开发与优化
-
大模型在金融风险控制中的应用：如何通过 LLM 提升欺诈检测与风险评估的准确率。
-
案例：构建一个基于 LLM 的贷款风险评估系统。
b. 金融市场趋势分析与投资组合优化
-
如何利用 LLM 结合大数据分析进行市场趋势预测与投资策略优化。
-
案例：基于 LLM 的股票市场分析与投资组合管理策略的开发与优化。
赵老师，资深大模型算法专家
北京邮电大学本硕连读，拥有扎实的人工智能理论知识和丰富的项目实践经验。在字节跳动和中国银行担任算法工程师，现在在AI科技公司负责大语言模型（LLM）落地项目。已构建自研训练框架，可适配ChatGLM1&2、Baichuan1&2、Qwen14B等主流开源模型的全参/lora/Qlora微调，支持各种训练指标可视化，方便对比实验；已构建训练数据生成流程，基于不同业务需求进行训练数据处理；已构建推理服务，基于自训模型及推理服务成功在APP上线与用户交互。
过往授课课程
-
Python编程与大数据应用
-
ChatGLM与其他LLM的部署、训练与微调
-
LangChain框架深度解析与实践
-
多模态处理与多模态大语言模型实践
-
知识图谱技术在大数据中的应用
-
大模型（LLM）数据预处理与特征工程
LLM培训案例
1、中信银行：LLM Driving课程
-
课程内容：讲解LLM的基础原理、部署策略以及微调技巧，帮助学生在实际项目中应用LLM。
-
培训效果：提高了学员对LLM的理解和实际操作能力，促进了项目的顺利进行。
2、广汽如祺：AIGC大模型应用开发技能培训
-
课程内容：为技术团队提供LLM模型与多模态AIGC联合应用，利用LLM能力助力多模态生成。
-
培训效果：提升了团队的多模态生成技术水平，增强了企业在AIGC领域的竞争力。
个人资质
-
精通Python、Go语言，具有丰富的后端开发经验，涉及数据库、kafka、高并发处理等。
-
具备深厚的大模型、NLP、RAG、思维链CoT、语音识别（ASR）和语音测评（GOP）技术背景，曾基于kaldi和conformer+transformer框架开发相关服务。
-
熟悉主流开源大语言模型的全参/lora/Qlora微调技术，并能够根据不同业务需求进行定制化训练数据处理。
发表论文与发明专利
-
发表论文：《基于多模态大语言模型的智能客服系统研究》《大模型在金融行业的应用与实践》
-
发明专利：一种用于金融风险预测的多模态大语言模型；基于LLM的智能语音交互系统。
其他项目经验
1、Python&Go语言后端开发
-
项目内容：负责后端开发，涉及数据库管理、kafka消息队列、高并发处理等技术。
-
项目成果：提高了系统的稳定性和处理效率，满足了高并发需求。
2、语音测评（GOP）服务
-
项目内容：基于kaldi框架训练语音测评模型，实现服务端和手机端本地化推理。
-
项目成果：该服务成功应用于用户APP的中英文口语练习，实现了自动化打分评价。
3、语音识别（ASR）服务
-
项目内容：基于conformer+transformer框架训练端到端模型，实现服务端离线识别和流式识别。
-
项目成果：该服务成功应用于客服系统和语音审核场景，提高了识别准确率和效率。
客户反馈
陆老师 LLM AI NLP领域实践者
前微软亚洲研究院NLP研究员；
TGO鲲鹏会AIGC、AGIA社区核心成员；
工信部人工智能应用高工认证；
阿里云MVP；
前高顿教育CTO；
行业AI培训案例
国家电网工建部及上海各区分公司——《ChatGPT人工智能在项目管理中的技术应用》
百亿量化私募基金白鹭资管——《GPT在量化私募行业的技术应用》
独立基金销售机构基煜基金——《GPT在金融行业的技术应用》
上海头部人力资源背调公司猎查查——《LLM在人力资源管理行业的技术应用》
TGO鲲鹏会AI数智化转型主题培训——《LLM在企业数智化转型中的技术应用》
浦软孵化器AI&元宇宙主题培训——《大语言模型在toB业务场景中的技术应用》
TGO鲲鹏会AGIA社区主题培训——《LLM在数字员工产品中的技术应用》
万商俱乐部AI赋能商业主题培训——《ChatGPT的前世今生》
培训现场画面
TsingtaoAI（北京霆涛商业智能技术有限公司）企业内训业务线专注于提供LLM、具身智能、AIGC、智算和数据科学领域的企业内训服务，通过深入业务场景的案例实战和项目式培训，帮助企业应对AI转型中的技术挑战。其培训内容涵盖AI大模型开发、Prompt工程、数据分析与模型优化等最新前沿技术，并结合实际应用场景，如智能制造、医药健康、金融科技和智能驾驶等。通过案例式学习和PBL项目训练，TsingtaoAI能够精准满足企业技术团队的学习需求，提升员工的业务能力和实战水平，实现AI技术的高效落地，为企业创新和生产力提升提供强有力的支持。
同时，TsingtaoAI公司并不是一家单纯的培训机构，我们同样是一家AI产品开发公司，公司核心团队主要也都是由技术和产品人才构成，公司团队大部分成员在大模型时代之前就在从事AI产品相关的工作。公司在过去一年里，为10余家客户开发了AI相关的产品，涵盖医疗、教育、智能制造、人力资源等领域。相信我们在AI产品开发和客户服务的过程所形成的认知和方法论，能对贵司的需求有更深更细的洞察和理解，也能提供更深入业务肌理的“AI能力获得”。
