513 篇笔记
LLM安全与对齐：构建可信赖的AI系统 为什么LLM安全很重要？ 随着LLM在各个领域的应用，安全问题变得至关重要： - 错误信息：LLM可能生成虚假或误导性内容 - 有害内容：可能生成有害、歧视性或危险的内容 - 隐私泄露：可能泄露训练数据中的敏感信息 - 恶意利用：可能被用于网络钓鱼、欺诈等恶意...
LLM评估方法：如何科学评价大语言模型 为什么需要评估LLM？ 评估是理解LLM能力、选择合适模型、指导优化方向的关键。 评估的挑战 1. 开放式输出：LLM生成的答案可能多种多样 2. 主观性：很多任务没有唯一正确答案 3. 多维度：需要评估多个方面的能力 4. 数据泄露：测试数据可能在训练集中...
LLM微调实战：从数据准备到模型部署 为什么要微调？ 预训练的LLM是通用模型，通过微调可以： - 适应特定领域（医疗、法律、金融） - 学习特定任务格式 - 提高特定场景的性能 - 减少推理成本（小模型微调） 微调方法对比 | 方法 | 显存需求 | 训练速度 | 效果 | 适用场景 | |---...
高级RAG技术：从基础检索到智能增强生成 RAG回顾 检索增强生成（RAG）通过检索相关文档来增强LLM的生成能力： 用户问题 → 检索相关文档 → LLM基于文档生成答案 高级RAG技术 1. 查询增强 用户的原始查询可能不够精确，需要增强。 查询重写 python class QueryRewr...
LLM Agent：让大语言模型使用工具和执行任务 什么是LLM Agent？ LLM Agent是基于大语言模型的智能代理，能够： - 理解用户意图 - 制定执行计划 - 调用外部工具 - 根据反馈调整策略 - 完成复杂任务 Agent vs 普通LLM | 特性 | 普通LLM | LLM Ag...
--- title: "LLM大师课总结：全面回顾与未来展望" description: "大语言模型学习路径的全面总结，从基础到高级，从理论到实践，展望LLM技术的未来发展方向" tags: ["LLM", "大师课", "总结", "未来展望", "学习路径"] category: "llm"...
--- title: "LLM个人品牌建设" description: "系统讲解如何在LLM领域建立个人品牌，涵盖专业形象塑造、影响力构建与变现路径规划" tags: ["个人品牌", "专业形象", "影响力", "变现路径", "职业发展"] category: "llm" icon: "🧠...
--- title: "LLM社交媒体运营" description: "深入讲解如何利用LLM技术进行社交媒体运营，涵盖内容生成、互动管理与数据分析的完整方法论" tags: ["社交媒体", "内容生成", "互动管理", "数据分析", "社群运营"] category: "llm" icon...
--- title: "LLM Newsletter运营" description: "全面介绍LLM Newsletter的运营方法，涵盖内容策划、自动化发送、数据分析与增长策略" tags: ["Newsletter", "内容策划", "自动化发送", "数据分析", "订阅增长"] cate...
--- title: "LLM播客制作" description: "系统讲解如何制作LLM主题播客节目，包括主题研究、嘉宾准备、内容生成与发布运营全流程" tags: ["播客制作", "音频内容", "嘉宾访谈", "内容生成", "播客运营"] category: "llm" icon: "�...
--- title: "LLM YouTube频道运营" description: "全面讲解如何运营LLM主题YouTube频道，涵盖脚本生成、字幕制作、内容策划与观众增长策略" tags: ["YouTube运营", "视频制作", "字幕生成", "内容策划", "频道增长"] categor...
--- title: "LLM技术博客写作" description: "系统讲解LLM技术博客的选题策略、写作技巧与SEO优化方法，帮助技术写作者提升内容影响力" tags: ["技术博客", "写作技巧", "SEO优化", "内容策略", "技术传播"] category: "llm" ico...
--- title: "使用LLM进行内容创作" description: "探索如何利用大语言模型高效创作博客文章、视频脚本、社交媒体内容，掌握AI辅助创作的最佳实践" tags: ["内容创作", "博客写作", "视频脚本", "社交媒体", "AI写作"] category: "llm" i...
--- title: "LLM社区建设" --- description: "深入探讨如何构建有活力的LLM技术社群，包括技术交流、Meetup组织、线上活动策划等核心方法" tags: ["社区建设", "技术社?, "Meetup", "线上活动", "知识分享"] category: "l...
--- title: "如何为LLM开源项目做贡献" description: "全面指南：从代码贡献、文档编写到测试参与，掌握为大型语言模型开源项目贡献的核心方法与实践" tags: ["开源贡献", "代码贡献", "文档编写", "测试", "社区参与"] category: "llm" ic...
--- title: "LLM开源生态：开源模型、开源工具与社区贡献" description: "全面介绍LLM开源生态的现状，包括主流开源模型、开发工具框架、社区建设以及如何参与开源贡献。" tags: ["LLM", "开源生态", "开源模型", "开源工具", "社区贡献"] catego...
--- title: "LLM项目作品集打造：GitHub项目、个人博客与开源贡献" description: "全面指导如何构建有竞争力的LLM作品集，包括GitHub项目规划、个人品牌建设、开源贡献策略以及作品集展示技巧。" tags: ["LLM", "作品集", "GitHub", "开源贡...
--- title: "LLM面试准备全攻略：技术面试、行为面试与系统设计" description: "系统介绍LLM岗位面试的准备方法，包括技术知识复习、编码练习、系统设计案例以及行为面试应对策略。" tags: ["LLM", "面试准备", "技术面试", "系统设计", "行为面试"] c...
--- title: "LLM岗位薪资指南：不同级别、城市与行业的薪酬分析" description: "全面分析LLM领域的薪资水平，包括不同职业级别、城市差异、行业对比以及薪资谈判策略，帮助从业者做出明智的职业决策。" tags: ["LLM", "薪资指南", "职业发展", "薪酬分析",...
--- title: "LLM就业市场分析：岗位需求、技能要求与行业趋势" description: "深入分析LLM领域的就业市场现状，包括热门岗位类型、核心技能要求、行业分布趋势以及未来发展方向。" tags: ["LLM", "就业市场", "岗位需求", "技能要求", "行业趋势"] ca...
--- title: "LLM职业发展路径：技术路线、管理路线与创业路线" description: "深入解析LLM领域的三大职业发展路径，帮助从业者明确职业方向，制定个性化的发展规划和成长策略。" tags: ["LLM", "职业发展", "技术路线", "管理路线", "创业路线"] cat...
--- title: "LLM相关认证指南：AWS、Azure、Google认证与行业认证" description: "全面介绍LLM和AI领域的主流认证体系，包括云厂商认证、开源社区认证和行业专项认证，帮助从业者规划认证路径。" tags: ["LLM", "认证", "AWS", "Azure...
--- title: "LLM培训课程设计：课程体系、实战项目与评估方法" description: "系统介绍LLM培训课程的设计方法，包括分层课程体系构建、实战项目设计、学员评估体系以及课程持续优化策略。" tags: ["LLM", "培训课程", "课程设计", "实战项目", "评估方法"...
--- title: "LLM咨询服务全攻略：方法论、交付物与定价策略" description: "全面解析LLM咨询服务的核心要素，包括咨询方法论、项目交付物设计、定价模型以及客户关系管理。" tags: ["LLM", "咨询服务", "方法论", "定价策略", "交付物"] categor...
--- title: "自由职业者如何利用LLM实现高效创作与工作" description: "深入探讨自由职业者如何借助大语言模型在写作、编程、设计等领域提升生产力，掌握AI辅助工作的核心方法论。" tags: ["LLM", "自由职业", "写作辅助", "编程辅助", "设计辅助"] ca...
--- title: "中小企业LLM应用：低成本方案与效率提升" description: "介绍中小企业如何以低成本方式应用大语言模型，包括SaaS工具选择和业务效率提升策略" tags: ["LLM", "中小企业", "低成本方案", "SaaS工具", "效率提升"] category:...
--- title: "大型企业LLM战略：组织变革与合规治理" description: "探讨大型企业如何制定LLM战略，包括组织变革、人才培养和合规治理体系" tags: ["LLM", "大型企业", "组织变革", "人才培养", "合规治理"] category: "llm" icon:...
--- title: "创业公司如何利用LLM：产品设计与商业模式" description: "探索创业公司如何利用大语言模型打造创新产品、快速开发MVP并构建可持续的商业模式" tags: ["LLM", "创业", "产品设计", "MVP", "商业模式"] category: "llm"...
--- title: "LLM在非营利组织中的应用：项目管理与公益传播" description: "探索大语言模型如何帮助非营利组织提升效率，包括项目管理、捐赠分析和公益传播" tags: ["LLM", "非营利组织", "项目管理", "捐赠分析", "公益传播"] category: "ll...
--- title: "LLM在教育领域的应用：个性化教学与智能评估" description: "介绍大语言模型如何革新教育行业，实现个性化教学、自动评估和智能辅导" tags: ["LLM", "教育", "个性化教学", "自动评估", "智能辅导"] category: "llm" icon...
--- title: "LLM在政府服务中的应用：政务服务与政策分析" description: "探索大语言模型如何提升政府服务效率，包括政务服务优化、政策分析和舆情监控" tags: ["LLM", "政府", "政务服务", "政策分析", "舆情监控"] category: "llm" ic...
--- title: "LLM在国防领域的应用：情报分析与决策支持" description: "探讨大语言模型在国防情报分析、战场模拟和军事决策支持系统中的应用" tags: ["LLM", "国防", "情报分析", "战场模拟", "决策支持"] category: "llm" icon: "...
--- title: "LLM在卫星领域的应用：遥感分析与轨道计算" description: "介绍大语言模型在卫星遥感数据分析、轨道计算和空间数据处理中的创新应用" tags: ["LLM", "卫星", "遥感分析", "轨道计算", "数据处理"] category: "llm" icon:...
--- title: "LLM在无人机中的应用：航路规划与自主决策" --- description: "探索大语言模型如何赋能无人机技术，实现智能航路规划、图像分析和自主决策" tags: ["LLM", "无人?, "航路规划", "图像分析", "自主决策"] category: "llm...
--- title: "LLM在机器人领域的应用：自然语言控制与任务规划" description: "深入探讨大语言模型如何革新机器人技术，包括自然语言控制、任务规划和人机交互的前沿应用" tags: ["LLM", "机器人", "自然语言控制", "任务规划", "人机交互"] categor...
--- title: "LLM在汽车领域的应用" description: "全面介绍大语言模型在汽车行业中的应用，涵盖自动驾驶、车载助手和智能座舱等场景" tags: ["LLM", "自动驾驶", "车载助手", "智能座舱", "汽车AI"] category: "llm" icon: "🧠...
--- title: "LLM在可穿戴设备中的应用" description: "探讨大语言模型在可穿戴设备中的应用，包括健康监测、语音助手和实时翻译等功能" tags: ["LLM", "可穿戴设备", "健康监测", "语音助手", "实时翻译"] category: "llm" icon: "...
--- title: "LLM在IoT中的应用" description: "全面介绍大语言模型在物联网领域的应用，包括智能家居、工业物联网和预测维护等场景" tags: ["LLM", "IoT", "智能家居", "工业物联网", "预测维护"] category: "llm" icon: "�...
--- title: "LLM边缘计算技术" description: "深入探讨LLM在边缘计算中的应用，涵盖模型压缩、端侧推理和延迟优化技术" tags: ["LLM", "边缘计算", "模型压缩", "端侧推理", "延迟优化"] category: "llm" icon: "🧠" ---...
--- title: "LLM混合部署架构" description: "全面介绍LLM混合部署方案，包括云边协同、多模型路由和弹性调度策略" tags: ["LLM", "混合部署", "云边协同", "多模型路由", "弹性调度"] category: "llm" icon: "🧠" ---...
--- title: "LLM离线部署技术" description: "详细介绍LLM离线部署方案，涵盖本地推理、边缘计算和隐私保护等关键技术" tags: ["LLM", "离线部署", "本地推理", "边缘计算", "隐私保护"] category: "llm" icon: "🧠" ---...
--- title: "LLM实时应用技术" description: "深入探讨LLM在实时场景中的应用，包括实时翻译、实时摘要和实时对话等技术方案" tags: ["LLM", "实时应用", "实时翻译", "实时摘要", "实时对话"] category: "llm" icon: "🧠"...
--- title: "LLM批处理技术" description: "详细介绍LLM批处理技术，涵盖批量推理优化、离线处理流程和成本控制策略" tags: ["LLM", "批处理", "批量推理", "离线处理", "成本优化"] category: "llm" icon: "🧠" --- L...
--- title: "LLM流式处理技术" description: "全面介绍LLM流式处理技术，包括流式输出原理、实时响应机制和SSE技术实现" tags: ["LLM", "流式处理", "SSE", "实时响应", "流式输出"] category: "llm" icon: "🧠" --...
--- title: "LLM事件驱动架构" description: "深入探讨大语言模型的事件驱动架构，包括事件溯源、消息队列和异步处理模式" tags: ["LLM", "事件驱动", "消息队列", "异步处理", "架构设计"] category: "llm" icon: "🧠" ---...
--- title: "LLM Serverless架构：无服务器部署、按需扩缩与成本优化" description: "全面介绍大语言模型的Serverless架构方案，涵盖无服务器部署模式、自动扩缩容策略和成本优化方法。" tags: ["LLM", "Serverless", "无服务器",...
--- title: "LLM微服务架构：服务拆分、API网关与容器化部署" description: "全面介绍大语言模型应用的微服务架构设计，涵盖服务拆分策略、API网关配置和容器化部署方案。" tags: ["LLM", "微服务", "服务拆分", "API网关", "容器化"] categ...
--- title: "LLM架构模式：分层架构、管道模式与Agent模式" description: "系统介绍大语言模型应用的主流架构模式，包括分层架构设计、管道处理模式和Agent自主决策模式。" tags: ["LLM", "架构模式", "分层架构", "管道模式", "Agent"] c...
--- title: "LLM技术路线图：发展趋势、技术预研与投资规划" description: "全面分析大语言模型技术路线图的制定方法，涵盖行业趋势研判、技术预研策略和AI投资规划框架。" tags: ["LLM", "技术路线图", "发展趋势", "技术预研", "投资规划"] categ...
--- title: "LLM发布说明编写：功能亮点、已知问题与升级路径" description: "系统介绍大语言模型发布说明的编写方法，涵盖功能亮点提炼、已知问题披露和升级路径设计等关键内容。" tags: ["LLM", "发布说明", "功能亮点", "已知问题", "升级路径"] cat...
--- title: "LLM变更日志管理：更新记录、Breaking Changes与迁移指南" description: "介绍大语言模型服务的变更日志管理最佳实践，包括更新记录规范、破坏性变更标识和用户迁移指南编写方法。" tags: ["LLM", "变更日志", "Breaking Cha...
--- title: "LLM版本管理策略：语义版本、灰度发布与A/B测试" description: "全面介绍大语言模型的版本管理方法论，包括语义版本规范、灰度发布流程和A/B测试框架设计。" tags: ["LLM", "版本管理", "语义版本", "灰度发布", "A/B测试"] cate...
--- title: "LLM向后兼容性：API版本管理与输出稳定性" description: "深入探讨大语言模型服务的向后兼容性保障策略，包括API版本管理规范和模型输出一致性维护方法。" tags: ["LLM", "向后兼容", "API版本管理", "输出稳定性", "兼容性"] cat...
--- title: "LLM弃用策略：模型退役、迁移计划与向后兼容" --- description: "系统介绍大语言模型的弃用管理流程，涵盖模型退役决策、用户迁移方案设计和向后兼容保障措施? tags: ["LLM", "弃用策略", "模型退?, "迁移计划", "向后兼容"] cate...
--- title: "LLM运维管理：监控、日志、告警与性能调优" description: "全面介绍大语言模型生产环境的运维管理体系，包括监控指标设计、日志采集策略、告警规则配置和性能调优方法。" tags: ["LLM", "运维", "监控", "告警", "性能调优"] category...
--- title: "LLM升级指南" description: "详解版本升级、性能优化和兼容性处理的最佳实践，确保LLM升级顺利进行" tags: ["LLM升级", "版本升级", "性能优化", "兼容性"] category: "llm" icon: "🧠" --- LLM升级指南 大...
--- title: "LLM迁移策略" description: "详解模型替换、数据迁移和平滑过渡的最佳实践，确保LLM迁移顺利进行" tags: ["LLM迁移", "模型替换", "数据迁移", "平滑过渡"] category: "llm" icon: "🧠" --- LLM迁移策略 随...
--- title: "LLM选型指南" description: "提供系统化的LLM选型方法论，涵盖需求分析、评估方法和决策框架" tags: ["LLM选型", "需求分析", "评估方法", "决策框架"] category: "llm" icon: "🧠" --- LLM选型指南 选择合...
--- title: "开源vs闭源LLM对比分析" description: "全面对比开源与闭源大语言模型在成本、定制化、安全性等方面的差异" tags: ["开源LLM", "闭源LLM", "成本对比", "定制化", "安全性"] category: "llm" icon: "🧠" --...
--- title: "OpenAI vs Anthropic对比分析" description: "深入对比GPT与Claude技术路线，分析两大AI巨头的产品策略和技术创新" tags: ["OpenAI", "Anthropic", "GPT", "Claude", "技术对比"] categ...
--- title: "主流LLM对比分析" description: "从性能、价格、适用场景等维度全面对比主流大语言模型，助您做出最佳选择" tags: ["LLM对比", "模型选择", "性能分析", "成本优化"] category: "llm" icon: "🧠" --- 主流LLM对...
--- title: "华为LLM服务详解" description: "全面介绍盘古大模型、ModelArts平台和昇腾生态，探索华为AI全栈解决方案" tags: ["华为", "盘古大模型", "ModelArts", "昇腾生态"] category: "llm" icon: "🧠" --...
--- title: "百度LLM服务详解" description: "深入解析文心一言、飞桨平台和千帆大模型平台，探索百度AI生态的完整布局" tags: ["百度", "文心一言", "飞桨平台", "千帆大模型"] category: "llm" icon: "🧠" --- 百度LLM服务...
--- title: "腾讯云LLM服务详解" --- description: "全面介绍腾讯混元大模型、TI平台和微信生态大模型应用，助力企业构建AI原生应用" tags: ["腾讯?, "混元大模?, "TI平台", "微信生?] category: "llm" icon: "🧠" 腾讯...
--- title: "阿里云LLM服务详解" description: "深入解析阿里云通义千问、PAI平台和百炼大模型，掌握企业级大模型服务的部署与应用" tags: ["阿里云", "通义千问", "PAI平台", "百炼大模型"] category: "llm" icon: "🧠" ---...
--- title: "Azure LLM服务" description: "全面介绍Azure平台上的大语言模型服务，包括OpenAI Service、Cognitive Services和ML Studio集成" tags: ["Azure", "LLM服务", "OpenAI", "Cogni...
--- title: "Google Cloud LLM服务" description: "全面介绍Google Cloud平台上的大语言模型服务，包括Vertex AI、PaLM和Gemini集成方案" tags: ["Google Cloud", "LLM服务", "Vertex AI", "P...
--- title: "AWS LLM服务" description: "全面介绍AWS平台上的大语言模型服务，包括Bedrock、SageMaker和Lambda集成方案" tags: ["AWS", "LLM服务", "Bedrock", "SageMaker", "Lambda"] categ...
--- title: "LLM SAP集成" description: "深入讲解大语言模型与SAP的集成方案，包括ERP增强、报表生成和流程优化" tags: ["SAP", "LLM集成", "ERP", "报表生成", "流程优化"] category: "llm" icon: "🧠" --...
--- title: "LLM Salesforce集成" description: "全面解析大语言模型与Salesforce的集成方案，涵盖CRM自动化、销售预测和客户洞察" tags: ["Salesforce", "LLM集成", "CRM", "销售预测", "客户洞察"] categor...
--- title: "LLM Jira集成" description: "详细介绍大语言模型与Jira的集成方案，涵盖任务管理、Bug分类和进度追踪" tags: ["Jira", "LLM集成", "任务管理", "Bug分类", "进度追踪"] category: "llm" icon: "�...
--- title: "LLM GitHub集成" description: "深入讲解大语言模型与GitHub平台的集成方案，包括代码审查、Issue管理和PR自动化" tags: ["GitHub", "LLM集成", "代码审查", "Issue管理", "PR自动化"] category:...
--- title: "LLM Notion集成" description: "全面解析大语言模型与Notion的集成方案，涵盖内容生成、数据库查询和页面自动化操作" tags: ["Notion", "LLM集成", "内容生成", "数据库", "自动化"] category: "llm" ic...
--- title: "LLM Microsoft Teams集成" description: "详细介绍大语言模型与Microsoft Teams的集成方案，包括智能助手开发、会议摘要和协作增强" tags: ["Microsoft Teams", "LLM集成", "智能助手", "会议摘要",...
--- title: "LLM Slack集成" description: "全面介绍大语言模型与Slack平台的集成方案，涵盖Bot开发、消息处理和自动化工作流构建" tags: ["Slack", "LLM集成", "Bot开发", "消息处理", "自动化"] category: "llm"...
--- title: "LLM日历集成" description: "探讨大语言模型与日历系统的深度集成，包括智能调度、会议安排、时间管理和日程优化" tags: ["日历集成", "智能调度", "会议安排", "时间管理", "LLM应用"] category: "llm" icon: "🧠"...
--- title: "LLM邮件集成" description: "探讨大语言模型与邮件系统的深度集成，包括自动回复、邮件分类、内容生成和智能处理" tags: ["邮件集成", "自动回复", "邮件分类", "内容生成", "LLM应用"] category: "llm" icon: "🧠"...
--- title: "LLM辅助网页爬取" description: "探讨大语言模型如何增强网页爬取能力，包括智能解析、内容提取、反爬策略处理和数据清洗" tags: ["网页爬取", "数据提取", "智能解析", "反爬策略", "LLM应用"] category: "llm" icon:...
--- title: "LLM文件系统集成" description: "探讨大语言模型与文件系统的深度集成，包括文档处理、文件管理、自动分类和智能搜索" tags: ["文件系统", "文档处理", "文件管理", "自动分类", "LLM应用"] category: "llm" icon: "�...
--- title: "LLM与数据库集成" description: "探讨大语言模型与数据库的深度集成，包括SQL生成、数据查询、ETL流程和智能数据分析" tags: ["数据库集成", "SQL生成", "ETL", "数据查询", "LLM应用"] category: "llm" icon...
--- title: "LLM API集成实践" description: "详细介绍大语言模型API集成的实践方法，包括REST、GraphQL和WebSocket协议的具体实现" tags: ["LLM API", "REST", "GraphQL", "WebSocket", "API集成"]...
--- title: "LLM集成模式总览" description: "全面介绍大语言模型的集成模式，包括同步调用、异步处理、流式响应和批处理架构" tags: ["LLM集成", "系统架构", "异步处理", "流式传输", "批处理"] category: "llm" icon: "🧠"...
--- title: "LLM在气候建模中的应用" description: "探讨大语言模型如何助力气候科学研究，包括气候预测、数据分析、政策建议和极端天气预警" tags: ["气候建模", "气候变化", "环境科学", "政策分析", "LLM应用"] category: "llm" ico...
--- title: "LLM在材料科学中的应用" description: "探讨大语言模型如何革新材料科学研究，包括新材料发现、性质预测、实验设计和材料数据库管理" tags: ["材料科学", "新材料发现", "性质预测", "实验设计", "LLM应用"] category: "llm"...
--- title: "LLM在蛋白质折叠预测中的应用" description: "深入探讨大语言模型在蛋白质结构预测中的革命性应用，包括AlphaFold技术原理、序列分析方法和实际案例" tags: ["蛋白质折叠", "AlphaFold", "生物信息学", "结构预测", "LLM应用"...
--- title: "LLM在药物相互作用预测中的应用" description: "详细介绍大语言模型在药物相互作用预测领域的应用，包括机制分析、风险评估和临床决策支持。" tags: ["药物相互作用", "药物安全", "临床决策", "LLM应用"] category: "llm" ico...
--- title: "LLM在自然科学中的应用：物理、化学与生物学" description: "全面介绍大语言模型在物理学、化学和生物学等自然科学领域的前沿应用，包括数据分析、模型预测和知识发现。" tags: ["自然科学", "物理学", "化学", "生物学", "LLM应用"] cate...
--- title: "使用LLM设计实验：实验方案、变量控制与统计规划" description: "探讨如何利用LLM辅助实验设计，包括实验方案制定、变量控制策略和统计分析规划，提升实验的科学性和效率。" tags: ["实验设计", "变量控制", "统计规划", "研究方法"] catego...
--- title: "LLM辅助假设生成：跨学科联想与创新假设" description: "探索如何利用LLM实现跨学科知识联想和创新性研究假设的生成，推动科学研究的创新突破。" tags: ["假设生成", "跨学科研究", "创新思维", "知识联想"] category: "llm" ic...
--- title: "LLM论文摘要生成：结构化摘要与关键发现提取" description: "介绍如何使用LLM自动生成论文的结构化摘要，提取关键发现和核心贡献，提升学术阅读效率。" tags: ["论文摘要", "摘要生成", "关键发现", "学术阅读"] category: "llm"...
--- title: "使用LLM辅助文献综述：自动化综述与趋势分析" description: "详细介绍如何利用LLM实现文献综述的自动化，包括文献筛选、主题归纳、趋势分析和综述报告生成。" tags: ["文献综述", "自动化综述", "趋势分析", "学术研究"] category: "l...
--- title: "LLM在科研中的应用：文献检索、假设生成与数据分析" description: "探讨大语言模型如何革新科学研究流程，涵盖文献检索、假设生成、实验数据分析等关键环节的应用方法。" tags: ["科研应用", "文献检索", "假设生成", "数据分析"] category:...
--- title: "LLM情感监控系统：实时分析、告警与趋势追踪" description: "详细介绍如何构建基于LLM的情感监控系统，实现实时舆情分析、异常告警和情感趋势追踪。" tags: ["情感分析", "舆情监控", "实时分析", "趋势追踪"] category: "llm" i...
工单智能路由 LLM可以实现工单的智能分类和自动分配。
--- title: "高级聊天机器人架构：多轮对话、上下文管理与意图识别" description: "深入探讨高级聊天机器人架构的核心技术，包括多轮对话管理、上下文窗口控制和意图识别系统的设计与实现。" tags: ["聊天机器人", "多轮对话", "意图识别", "上下文管理"] categ...
--- title: "LLM在客户服务中的应用" description: "全面解析大语言模型如何革新客户服务，包括智能客服、工单处理和知识库管理" tags: ["客户服务", "智能客服", "工单处理", "知识库", "LLM"] category: "llm" icon: "🧠" -...
--- title: "基于LLM的推荐引擎" description: "深入解析大语言模型如何增强传统推荐系统，解决冷启动、多目标优化等核心挑战" tags: ["推荐引擎", "协同过滤", "冷启动", "多目标优化", "LLM"] category: "llm" icon: "🧠" -...
--- title: "LLM个性化推荐系统" description: "探索大语言模型如何构建智能个性化系统，包括用户画像、个性化内容生成和动态推荐" tags: ["个性化", "推荐系统", "用户画像", "动态推荐", "LLM"] category: "llm" icon: "🧠"...
--- title: "LLM驱动的广告定向" description: "利用大语言模型优化广告投放，实现精准受众分析、创意优化和智能投放策略" tags: ["广告定向", "受众分析", "创意优化", "投放策略", "LLM"] category: "llm" icon: "🧠" ---...
--- title: "使用LLM进行SEO优化" description: "利用大语言模型提升搜索引擎排名，涵盖关键词研究、内容优化和结构化数据生成" tags: ["SEO", "关键词研究", "内容优化", "结构化数据", "LLM"] category: "llm" icon: "🧠...
--- title: "LLM在营销领域的应用" description: "探索大语言模型如何革新营销工作，包括文案生成、客户洞察分析和营销活动策划" tags: ["营销", "文案生成", "客户洞察", "活动策划", "LLM"] category: "llm" icon: "🧠" --...
--- title: "LLM在欺诈防范中的应用" description: "探讨大语言模型如何提升欺诈检测能力，包括异常检测、模式识别和实时监控" tags: ["欺诈防范", "异常检测", "模式识别", "反欺诈", "LLM"] category: "llm" icon: "🧠" --...
--- title: "LLM驱动的风险分析" description: "全面介绍大语言模型在信用风险、市场风险和操作风险分析中的应用方法与实践" tags: ["风险分析", "信用风险", "市场风险", "操作风险", "LLM"] category: "llm" icon: "🧠" --...
--- title: "使用LLM生成交易信号" --- description: "利用大语言模型分析新闻、市场情绪和量化策略，构建智能化交易信号生成系统" tags: ["交易信号", "市场情绪", "新闻分析", "量化策略", "LLM"] category: "llm" icon:...
--- title: "LLM在金融领域的应用" description: "深入探讨大语言模型在金融行业的核心应用场景，包括风险控制、投资研究、合规审查和智能客服" tags: ["金融", "LLM应用", "风控", "投研", "合规"] category: "llm" icon: "🧠"...
--- title: "合同分析：AI合同审查" description: "使用LLM进行合同分析和风险识别" tags: ["合同分析", "合同审查", "AI合同", "LLM", "法律科技"] category: "llm" icon: "📄" --- 合同分析：AI合同审查 合同分析...
--- title: "LLM法律应用：AI在法律领域的应用" description: "使用LLM进行法律文书处理和法律咨询" tags: ["法律应用", "AI法律", "法律文书", "LLM", "法律科技"] category: "llm" icon: "⚖️" --- LLM法律应用...
--- title: "药物发现：AI加速药物研发" description: "使用LLM辅助药物发现和研发过程" tags: ["药物发现", "AI药物", "药物研发", "LLM", "生物信息"] category: "llm" icon: "💊" --- 药物发现：AI加速药物研发...
--- title: "临床NLP：医疗文本处理" description: "使用LLM处理临床文本和医疗文档" tags: ["临床NLP", "医疗文本", "临床文档", "LLM", "医疗AI"] category: "llm" icon: "📋" --- 临床NLP：医疗文本处理 临...
--- title: "医学问答：AI医疗咨询" description: "使用LLM进行医学问答和健康咨询" tags: ["医学问答", "医疗咨询", "AI健康", "LLM", "医学"] category: "llm" icon: "🩺" --- 医学问答：AI医疗咨询 医学问答概述...
--- title: "LLM医疗应用：AI在医疗领域的应用" description: "使用LLM进行医疗领域的AI应用" tags: ["医疗应用", "AI医疗", "临床NLP", "LLM", "健康科技"] category: "llm" icon: "🏥" --- LLM医疗应用：...
--- title: "课程规划：AI辅助课程设计" description: "使用LLM进行课程规划和教学设计" tags: ["课程规划", "教学设计", "AI课程", "LLM", "教育技术"] category: "llm" icon: "📋" --- 课程规划：AI辅助课程设计...
--- title: "测验生成：AI创建测试题目" description: "使用LLM自动生成各种类型的测验题目" tags: ["测验生成", "题目生成", "AI测试", "LLM", "教育评估"] category: "llm" icon: "📝" --- 测验生成：AI创建测试题...
--- title: "辅导系统：AI智能辅导" description: "使用LLM构建智能辅导系统" tags: ["辅导系统", "智能辅导", "AI教师", "LLM", "个性化学习"] category: "hl" icon: "👨🏫" --- 辅导系统：AI智能辅导 辅导系统...
--- title: "LLM教育应用：AI辅助教学" description: "使用LLM进行教育和教学辅助" tags: ["教育应用", "AI教学", "智能辅导", "LLM", "教育技术"] category: "llm" icon: "📚" --- LLM教育应用：AI辅助教学...
--- title: "邮件生成：AI辅助邮件写作" description: "使用LLM生成各种类型的邮件内容" tags: ["邮件生成", "邮件写作", "AI邮件", "LLM", "商务沟通"] category: "llm" icon: "📧" --- 邮件生成：AI辅助邮件写作...
--- title: "营销文案：AI生成营销内容" description: "使用LLM生成各种营销文案和广告内容" tags: ["营销文案", "广告内容", "AI营销", "LLM", "文案"] category: "llm" icon: "📣" --- 营销文案：AI生成营销内容...
--- title: "内容创作：AI辅助内容生产" description: "使用LLM进行各种类型的内容创作" tags: ["内容创作", "AI内容", "内容生产", "LLM", "营销"] category: "llm" icon: "✍️" --- 内容创作：AI辅助内容生产 内容...
--- title: "剧本写作：AI辅助剧本创作" description: "使用LLM进行剧本写作和对话生成" tags: ["剧本写作", "对话生成", "AI创作", "LLM", "影视"] category: "llm" icon: "🎬" --- 剧本写作：AI辅助剧本创作 剧本...
--- title: "诗歌生成：AI创作诗歌" description: "使用LLM生成各种风格的诗歌" tags: ["诗歌生成", "AI诗歌", "创意写作", "LLM", "文学"] category: "llm" icon: "🌸" --- 诗歌生成：AI创作诗歌 诗歌生成概述 诗...
--- title: "故事生成：AI创作故事" description: "使用LLM自动生成故事和小说" tags: ["故事生成", "小说创作", "AI写作", "LLM", "创意"] category: "llm" icon: "📖" --- 故事生成：AI创作故事 故事生成概述 故...
--- title: "LLM创意应用：AI创意写作" description: "使用LLM进行创意写作、内容创作和故事生成" tags: ["创意写作", "内容创作", "故事生成", "LLM", "AI创意"] category: "llm" icon: "✨" --- LLM创意应用：A...
--- title: "报告生成：AI自动生成报告" description: "使用LLM自动生成各种类型的报告" tags: ["报告生成", "自动报告", "AI写作", "LLM", "文档"] category: "llm" icon: "📄" --- 报告生成：AI自动生成报告 报告...
--- title: "数据分析LLM：AI数据分析助手" description: "使用LLM进行数据分析和洞察生成" tags: ["数据分析", "AI分析", "数据洞察", "LLM", "商业智能"] category: "llm" icon: "📈" --- 数据分析LLM：AI数...
--- title: "SQL生成：AI生成数据库查询" description: "使用LLM自动生成SQL查询语句" tags: ["SQL生成", "数据库查询", "AI", "LLM", "数据分析"] category: "llm" icon: "🗃️" --- SQL生成：AI生成数...
--- title: "LLM数据应用：AI驱动的数据处理" description: "使用LLM进行数据分析、处理和洞察" tags: ["LLM数据", "数据分析", "数据处理", "AI洞察", "LLM"] category: "llm" icon: "📊" --- LLM数据应用：...
--- title: "DeepSeek Coder：高性能代码模型" description: "使用DeepSeek Coder进行代码生成和理解" tags: ["DeepSeek", "代码模型", "开源模型", "代码生成", "LLM"] category: "llm" icon: "...
--- title: "StarCoder：BigCode的开源代码模型" description: "使用StarCoder进行代码生成和理解" tags: ["StarCoder", "BigCode", "开源模型", "代码生成", "LLM"] category: "llm" icon:...
--- title: "Code Llama：Meta的开源代码模型" description: "使用Meta的Code Llama模型进行代码生成和理解" tags: ["Code Llama", "Meta", "开源模型", "代码生成", "LLM"] category: "llm" ic...
--- title: "Codex：OpenAI的代码生成模型" description: "了解和使用OpenAI Codex进行代码生成" tags: ["Codex", "OpenAI", "代码生成", "LLM", "AI模型"] category: "llm" icon: "⚡" ---...
--- title: "Cursor：AI原生代码编辑器" description: "使用Cursor AI编辑器提高开发效率" tags: ["Cursor", "AI编辑器", "代码编辑", "LLM", "开发工具"] category: "hl" icon: "📝" --- Curso...
--- title: "GitHub Copilot：AI编程伙伴" description: "使用GitHub Copilot提高编程效率的完整指南" tags: ["GitHub Copilot", "AI编程", "代码补全", "LLM", "开发工具"] category: "llm"...
--- title: "代码生成工具：AI编程助手" description: "使用AI代码生成工具提高编程效率" tags: ["代码生成", "AI工具", "编程助手", "LLM", "开发工具"] category: "llm" icon: "🛠️" --- 代码生成工具：AI编程助手...
--- title: "LLM代码审查：自动化代码检查" description: "使用LLM进行自动化代码审查，提高代码质量" tags: ["代码审查", "自动化检查", "代码质量", "LLM", "开发"] category: "llm" icon: "🔍" --- LLM代码审查：...
--- title: "LLM代码生成：AI辅助编程" description: "使用LLM进行代码生成、补全和转换" tags: ["代码生成", "AI编程", "代码补全", "LLM", "编程辅助"] category: "llm" icon: "💻" --- LLM代码生成：AI辅助...
--- title: "欺诈检测：识别LLM欺诈行为" description: "检测和防范利用LLM进行的欺诈行为" tags: ["欺诈检测", "反欺诈", "LLM安全", "风险控制", "安全"] category: "llm" icon: "🚨" --- 欺诈检测：识别LLM欺诈行...
--- title: "垃圾邮件检测：过滤垃圾内容" description: "使用LLM检测和过滤垃圾邮件、垃圾信息" tags: ["垃圾邮件", "垃圾检测", "内容过滤", "LLM", "安全"] category: "llm" icon: "📧" --- 垃圾邮件检测：过滤垃圾内容...
--- title: "NSFW检测：过滤不当内容" description: "检测和过滤LLM生成的不适合工作场合的内容" tags: ["NSFW", "不当内容", "内容过滤", "LLM", "安全"] category: "llm" icon: "🔞" --- NSFW检测：过滤不当...
--- title: "内容审核：AI生成内容的质量控制" description: "建立AI生成内容的审核机制，确保内容质量和合规性" tags: ["内容审核", "质量控制", "AI内容", "LLM", "审核"] category: "llm" icon: "📋" --- 内容审核：...
--- title: "输出过滤：保护LLM输出安全" description: "过滤和验证LLM生成的内容，确保输出安全可靠" tags: ["输出过滤", "内容过滤", "安全输出", "LLM", "防护"] category: "llm" icon: "🔒" --- 输出过滤：保护LL...
--- title: "输入验证：确保LLM接收安全输入" description: "验证和清洗LLM输入，防止恶意内容和攻击" tags: ["输入验证", "输入清洗", "安全输入", "LLM", "防护"] category: "llm" icon: "✅" --- 输入验证：确保LLM...
--- title: "LLM防火墙：网络安全防护" description: "为LLM应用构建防火墙，防御各种网络攻击" tags: ["防火墙", "网络安全", "LLM防护", "攻击防御", "安全"] category: "llm" icon: "🧱" --- LLM防火墙：网络安全...
--- title: "NeMo Guardrails：NVIDIA的安全框架" description: "使用NeMo Guardrails构建安全、可控的LLM应用" tags: ["NeMo Guardrails", "NVIDIA", "安全框架", "LLM", "防护"] catego...
--- title: "护栏系统：保护LLM安全运行" description: "设计和实现LLM护栏系统，确保AI在安全边界内运行" tags: ["护栏", "Guardrails", "安全边界", "LLM", "防护"] category: "llm" icon: "🚧" --- 护栏...
--- title: "LLM安全工具：构建安全的AI系统" description: "使用工具构建和维护LLM应用的安全性" tags: ["安全工具", "AI安全", "防护机制", "LLM", "安全"] category: "llm" icon: "🔒" --- LLM安全工具：构建...
--- title: "LLM有害性：评估模型安全性" description: "评估LLM生成内容的潜在危害，确保模型安全可靠" tags: ["有害性", "安全性评估", "危害评估", "LLM", "安全"] category: "llm" icon: "🛡️" --- LLM有害性：...
--- title: "LLM毒性：检测和过滤有害内容" description: "检测和过滤LLM生成的有毒、有害内容，确保输出安全" tags: ["毒性检测", "内容安全", "有害内容", "LLM", "过滤"] category: "llm" icon: "🚫" --- LLM毒性...
--- title: "LLM偏见：识别和消除AI偏见" description: "识别LLM中的各种偏见类型，并采用方法消除偏见" tags: ["AI偏见", "偏见识别", "偏见消除", "LLM", "公平性"] category: "llm" icon: "🔍" --- LLM偏见：...
--- title: "LLM公平性：消除模型偏见" description: "评估和消除LLM中的偏见，确保AI系统公平对待所有群体" tags: ["公平性", "偏见消除", "AI公平", "LLM", "无偏见"] category: "llm" icon: "⚖️" --- LLM公平...
--- title: "LLM伦理工具：确保AI负责任" description: "使用工具评估和确保LLM的伦理性和负责任的AI实践" tags: ["AI伦理", "负责任AI", "公平性", "LLM", "工具"] category: "llm" icon: "🤝" --- LLM伦理...
--- title: "LLM法规：了解AI监管要求" description: "了解全球AI法规和监管要求，确保LLM应用合规" tags: ["AI法规", "监管", "GDPR", "AI Act", "合规"] category: "llm" icon: "⚖️" --- LLM法规：了...
--- title: "LLM合规工具：满足法规要求" description: "使用工具确保LLM应用符合相关法规和行业标准" tags: ["合规工具", "法规遵从", "GDPR", "LLM", "标准"] category: "llm" icon: "✅" --- LLM合规工具：满足...
--- title: "LLM审计追踪：记录AI决策" description: "建立LLM的审计追踪系统，记录模型决策和使用历史" tags: ["审计追踪", "AI记录", "可追溯性", "LLM", "合规"] category: "llm" icon: "📋" --- LLM审计追踪...
--- title: "LLM政策：制定AI使用规范" description: "制定和实施LLM使用政策，确保AI系统负责任地运行" tags: ["AI政策", "使用规范", "负责任AI", "LLM", "治理"] category: "llm" icon: "📜" --- LLM政策...
--- title: "LLM治理工具：管理AI系统" description: "使用工具管理LLM的开发、部署和运维，确保AI系统合规可控" tags: ["AI治理", "LLM管理", "合规", "工具", "治理框架"] category: "llm" icon: "🏛️" --- L...
--- title: "风险评分：评估模型输出风险" description: "为LLM输出生成风险评分，识别潜在的有害或不当内容" tags: ["风险评分", "内容安全", "风险评估", "LLM", "安全过滤"] category: "llm" icon: "⚠️" --- 风险评分：...
--- title: "置信度评分：量化预测可靠性" description: "为LLM预测生成置信度评分，帮助判断输出可靠性" tags: ["置信度", "评分", "可靠性", "LLM", "决策支持"] category: "llm" icon: "🎯" --- 置信度评分：量化预测可...
--- title: "模型校准：对齐信心与准确度" description: "校准LLM的预测置信度，使模型信心与实际准确度对齐" tags: ["校准", "置信度校准", "可靠性", "LLM", "概率校准"] category: "llm" icon: "⚖️" --- 模型校准：对齐...
--- title: "不确定性估计：量化模型信心" description: "估计LLM预测的不确定性，为决策提供置信度信息" tags: ["不确定性估计", "置信度", "贝叶斯深度学习", "LLM", "可靠性"] category: "llm" icon: "📊" --- 不确定性...
--- title: "分布外检测：识别异常输入" description: "检测LLM的分布外输入，防止模型处理未知数据" tags: ["分布外检测", "OOD", "异常检测", "LLM", "输入验证"] category: "llm" icon: "🔍" --- 分布外检测：识别异...
--- title: "压力测试模型：验证极限性能" description: "对LLM进行压力测试，验证模型在极端条件下的性能表现" tags: ["压力测试", "性能测试", "极限测试", "LLM", "负载测试"] category: "llm" icon: "💪" --- 压力测试...
--- title: "鲁棒性测试：验证模型稳定性" description: "系统化的LLM鲁棒性测试方法，确保模型在各种条件下稳定运行" tags: ["鲁棒性", "稳定性测试", "压力测试", "LLM", "质量保证"] category: "llm" icon: "🏋️" ---...
--- title: "对抗样本：测试模型鲁棒性" description: "理解和生成对抗样本，测试和提升LLM的鲁棒性" tags: ["对抗样本", "鲁棒性", "安全测试", "LLM", "攻击防御"] category: "llm" icon: "🛡️" --- 对抗样本：测试模型...
--- title: "失败模式分析：预防模型失效" description: "识别和分析LLM的失败模式，构建更健壮的AI系统" tags: ["失败模式", "可靠性", "鲁棒性", "LLM", "预防"] category: "llm" icon: "⚠️" --- 失败模式分析：预防模...
--- title: "错误分析：系统化的问题诊断" description: "系统化的LLM错误分析方法，从错误中学习并改进模型" tags: ["错误分析", "问题诊断", "LLM", "质量改进", "调试"] category: "llm" icon: "❌" --- 错误分析：系统化...
--- title: "模型调试在LLM中的应用" description: "介绍模型调试技术在大型语言模型开发和优化中的应用。" tags: ["模型调试", "llm", "调试技术", "错误诊断", "模型优化"] category: "llm" icon: "🧠" --- 模型调试在L...
--- title: "可解释性在LLM中的应用" description: "介绍可解释性技术在大型语言模型中的重要性、方法和应用。" tags: ["可解释性", "llm", "模型解释", "透明度", "信任"] category: "llm" icon: "🧠" --- 可解释性在LL...
--- title: "可解释性在LLM中的应用" description: "介绍可解释性技术在大型语言模型中的重要性、方法和应用。" tags: ["可解释性", "llm", "模型解释", "透明度", "信任"] category: "llm" icon: "🧠" --- 可解释性在LL...
--- title: "LIME在LLM解释中的应用" description: "介绍LIME（局部可解释模型无关解释）在大型语言模型解释中的应用。" tags: ["LIME", "局部解释", "llm", "模型解释", "可解释性"] category: "llm" icon: "🧠"...
--- title: "SHAP值在LLM解释中的应用" description: "介绍SHAP值在大型语言模型解释和特征重要性分析中的应用。" tags: ["SHAP", "shapley值", "llm", "模型解释", "特征重要性"] category: "llm" icon: "🧠...
--- title: "特征归因在LLM中的应用" description: "介绍特征归因技术在大型语言模型解释和理解中的应用。" tags: ["特征归因", "llm", "模型解释", "可解释性", "归因方法"] category: "llm" icon: "🧠" --- 特征归因在L...
--- title: "注意力可视化在LLM中的应用" description: "介绍注意力可视化技术在大型语言模型理解和解释中的应用。" tags: ["注意力可视化", "llm", "模型解释", "可解释性", "注意力机制"] category: "llm" icon: "🧠" ---...
--- title: "梯度分析在LLM训练中的应用" description: "介绍梯度分析在大型语言模型训练监控、诊断和优化中的应用。" tags: ["梯度分析", "llm", "训练监控", "模型诊断", "优化"] category: "llm" icon: "🧠" --- 梯度分...
--- title: "损失分析在LLM训练中的应用" description: "介绍损失分析在大型语言模型训练监控、诊断和优化中的应用。" tags: ["损失分析", "llm", "训练监控", "模型诊断", "优化"] category: "llm" icon: "🧠" --- 损失分...
--- title: "学习曲线在LLM训练中的应用" description: "介绍学习曲线在大型语言模型训练监控、诊断和优化中的应用。" tags: ["学习曲线", "llm", "训练监控", "模型诊断", "可视化"] category: "llm" icon: "🧠" --- 学习...
--- title: "早停技术在LLM训练中的应用" description: "介绍早停技术在大型语言模型训练中的原理、实现和最佳实践。" tags: ["早停", "llm", "训练优化", "正则化", "过拟合"] category: "llm" icon: "🧠" --- 早停技术在...
--- title: "随机搜索在LLM超参数调优中的应用" description: "介绍随机搜索算法在大型语言模型超参数调优中的原理、实现和最佳实践。" tags: ["随机搜索", "超参数调优", "llm", "机器学习", "优化算法"] category: "llm" icon: "...
--- title: "网格搜索在LLM超参数调优中的应用" description: "介绍网格搜索算法在大型语言模型超参数调优中的原理、实现和最佳实践。" tags: ["网格搜索", "超参数调优", "llm", "机器学习", "优化算法"] category: "llm" icon: "...
--- title: "贝叶斯优化在LLM超参数调优中的应用" description: "介绍贝叶斯优化算法在大型语言模型超参数调优中的原理、实现和最佳实践。" tags: ["贝叶斯优化", "超参数调优", "llm", "机器学习", "优化算法"] category: "llm" icon...
--- title: "LLM超参数调优指南" description: "介绍大型语言模型超参数调优的策略、工具和最佳实践。" tags: ["超参数调优", "llm", "优化", "机器学习", "超参数搜索"] category: "llm" icon: "🧠" --- LLM超参数调优...
--- title: "LLM实验设计方法论" description: "介绍大型语言模型实验设计的系统方法论，包括假设制定、变量控制、评估指标选择等。" tags: ["实验设计", "llm", "方法论", "科学研究", "变量控制"] category: "llm" icon: "🧠"...
--- title: "Comet ML：LLM实验管理平台" description: "介绍Comet ML在大型语言模型实验跟踪、可视化和协作中的应用。" tags: ["comet-ml", "实验管理", "llm", "可视化", "协作"] category: "llm" icon:...
--- title: "Neptune.ai：LLM实验元数据管理" description: "介绍Neptune.ai在大型语言模型实验元数据管理和协作中的应用。" tags: ["neptune", "元数据管理", "llm", "实验跟踪", "协作"] category: "llm" i...
--- title: "Weights & Biases：LLM实验可视化平台" description: "介绍Weights & Biases在大型语言模型实验跟踪、可视化和协作中的应用。" tags: ["wandb", "实验可视化", "llm", "mlops", "监控"] categ...
--- title: "MLflow：LLM实验管理平台" description: "介绍MLflow在大型语言模型实验管理中的应用，包括实验跟踪、模型注册、部署和协作。" tags: ["mlflow", "实验管理", "模型跟踪", "llm", "mlops"] category: "ll...
--- title: "Kubeflow：在Kubernetes上构建ML管道" description: "使用Kubeflow在Kubernetes集群上构建和部署端到端的机器学习管道" tags: ["Kubeflow", "Kubernetes", "ML管道", "容器化", "MLOps...
--- title: "Dagster与LLM：数据感知的工作流编排" description: "使用Dagster构建数据感知的LLM工作流，实现类型安全的数据管道" tags: ["Dagster", "LLM", "数据管道", "工作流", "MLOps"] category: "llm"...
--- title: "Prefect与LLM：现代工作流编排" description: "使用Prefect构建灵活、可观察的LLM工作流" tags: ["Prefect", "LLM", "工作流", "Python", "编排"] category: "llm" icon: "🔮" --...
--- title: "Airflow与LLM：构建可靠的AI工作流调度" description: "使用Apache Airflow调度和管理LLM任务，实现可靠的AI工作流" tags: ["Airflow", "LLM", "工作流调度", "DAG", "MLOps"] category:...
--- title: "LLM编排系统：构建复杂AI工作流" description: "使用LangChain、CrewAI等工具编排复杂的LLM工作流和多代理系统" tags: ["LLM", "编排", "LangChain", "多代理", "工作流"] category: "llm" ic...
--- title: "LLM推理管道：优化模型部署与服务" description: "构建高效的LLM推理管道，实现低延迟、高吞吐的模型服务" tags: ["LLM", "推理管道", "模型部署", "性能优化", "服务化"] category: "llm" icon: "⚡" --- L...
--- title: "LLM训练管道：自动化模型训练流程" description: "构建端到端的LLM训练管道，从数据准备到模型评估的完整流程" tags: ["LLM", "训练管道", "模型训练", "自动化", "MLOps"] category: "llm" icon: "🏋️"...
--- title: "数据工程管道：构建LLM训练数据的基础" description: "从数据采集到特征工程，构建完整的LLM数据处理管道" tags: ["数据工程", "数据管道", "特征工程", "数据处理", "ETL"] category: "llm" icon: "📊" ---...
--- title: "LLM数据管道：端到端的数据处理流程" description: "构建高效的LLM数据管道，实现从数据采集到模型训练的自动化流程" tags: ["LLM", "数据管道", "Pipeline", "数据处理", "自动化"] category: "llm" icon:...
--- title: "LLM工作流设计：构建智能应用的标准流程" description: "学习如何设计和实现LLM工作流，从简单的链式调用到复杂的多步骤智能应用" tags: ["LLM", "工作流", "Workflow", "智能应用", "流程设计"] category: "llm"...
--- title: "LLM未来趋势" description: "探讨大语言模型技术的未来发展方向和行业趋势" tags: ["LLM", "未来趋势", "技术发展", "行业预测"] category: "llm" icon: "🧠" --- LLM未来趋势 概述 大语言模型(LLM)正在...
--- title: "LLM研究论文" description: "解读大语言模型领域的重要研究论文和技术突破" tags: ["LLM", "研究论文", "学术研究", "技术突破"] category: "llm" icon: "🧠" --- LLM研究论文 概述 大语言模型(LLM)领域...
--- title: "LLM学术会议" description: "介绍大语言模型领域的重要学术会议和行业峰会" tags: ["LLM", "学术会议", "行业峰会", "技术交流"] category: "llm" icon: "🧠" --- LLM学术会议 概述 大语言模型(LLM)领域...
--- title: "开源LLM项目" description: "介绍主流的开源大语言模型项目及其特点和应用场景" tags: ["LLM", "开源项目", "模型库", "技术选型"] category: "llm" icon: "🧠" --- 开源LLM项目 概述 开源大语言模型(LLM...
--- title: "LLM社区生态" description: "探索大语言模型社区的生态系统，包括开源项目、社区组织和协作平台" tags: ["LLM", "社区", "开源", "生态系统"] category: "llm" icon: "🧠" --- LLM社区生态 概述 大语言模型(...
--- title: "LLM经验教训" description: "总结大语言模型项目实施过程中的关键经验教训和避坑指南" tags: ["LLM", "经验教训", "项目管理", "避坑指南"] category: "llm" icon: "🧠" --- LLM经验教训 概述 在大语言模型(...
--- title: "LLM成功故事" description: "分享大语言模型在各行业的成功应用案例和业务成果" tags: ["LLM", "成功案例", "业务成果", "数字化转型"] category: "llm" icon: "🧠" --- LLM成功故事 概述 大语言模型(LLM...
--- title: "LLM案例研究" description: "深入分析大语言模型在各行业的实际应用案例，分享实施经验与成果" tags: ["LLM", "案例研究", "行业应用", "实施经验"] category: "llm" icon: "🧠" --- LLM案例研究 概述 大语言...
--- title: "LLM反模式" description: "识别和避免大语言模型应用开发中的常见错误和不良实践" tags: ["LLM", "反模式", "错误处理", "开发陷阱"] category: "llm" icon: "🧠" --- LLM反模式 概述 在大语言模型(LLM)...
--- title: "LLM最佳实践" description: "掌握大语言模型应用开发的核心最佳实践，提升模型性能和用户体验" tags: ["LLM", "最佳实践", "提示工程", "应用开发"] category: "llm" icon: "🧠" --- LLM最佳实践 概述 大语言...
--- title: "LLM教程编写" description: "编写高质量的LLM教程，帮助用户学习和掌握LLM技术" tags: ["教程编写", "教学设计", "LLM学习"] category: "llm" icon: "🧠" --- LLM教程编写 教程编写概述 LLM教程编写是创...
--- title: "LLM用户指南" description: "为终端用户提供清晰的LLM使用指南，帮助快速上手和高效使用" tags: ["用户指南", "使用手册", "LLM使用"] category: "llm" icon: "🧠" --- LLM用户指南 用户指南概述 LLM用户指...
--- title: "LLM SDK文档" description: "编写全面的LLM SDK文档，帮助开发者快速集成和使用" tags: ["SDK文档", "开发工具", "集成指南"] category: "llm" icon: "🧠" --- LLM SDK文档 SDK文档概述 SDK...
--- title: "LLM API文档" description: "编写清晰、完整的LLM API文档，确保开发者快速集成" tags: ["API文档", "接口设计", "开发者体验"] category: "llm" icon: "🧠" --- LLM API文档 API文档概述 LL...
--- title: "LLM文档体系" description: "建立完整的LLM文档体系，确保知识传承和规范管理" tags: ["文档体系", "知识管理", "LLM管理"] category: "llm" icon: "🧠" --- LLM文档体系 文档体系概述 LLM文档体系是组织管...
--- title: "LLM影响分析" description: "评估LLM应用对组织、用户和社会的多维度影响" tags: ["影响分析", "业务影响", "社会影响"] category: "llm" icon: "🧠" --- LLM影响分析 影响分析概述 LLM影响分析是评估大语言模...
--- title: "LLM风险评估" description: "系统化识别和评估LLM应用中的各类风险，制定有效的应对策略" tags: ["风险评估", "风险管理", "LLM安全"] category: "llm" icon: "🧠" --- LLM风险评估 风险评估概述 LLM风险评...
--- title: "LLM审批流程" description: "建立规范化的LLM使用审批机制，确保合规和安全" tags: ["审批流程", "合规管理", "风险控制"] category: "llm" icon: "🧠" --- LLM审批流程 审批流程概述 LLM审批流程是组织管理A...
--- title: "模型审查流程" description: "建立系统化的LLM模型审查机制，确保模型质量和安全性" tags: ["模型审查", "质量保证", "安全评估"] category: "llm" icon: "🧠" --- 模型审查流程 模型审查的重要性 模型审查是LLM治理...
--- title: "LLM治理框架" description: "建立全面的LLM治理体系，确保AI模型的安全、合规和高效使用" tags: ["LLM治理", "AI治理", "合规管理"] category: "llm" icon: "🧠" --- LLM治理框架 什么是LLM治理框架 L...
--- title: "New Relic与LLM" description: "介绍如何使用New Relic平台监控LLM应用，包括APM、日志管理和AI监控功能。" tags: ["New Relic", "LLM", "APM"] category: "llm" icon: "🧠" ---...
--- title: "Datadog监控LLM" description: "介绍如何使用Datadog平台监控LLM应用，包括APM、日志管理和自定义仪表盘。" tags: ["Datadog", "LLM", "APM"] category: "llm" icon: "🧠" --- Data...
--- title: "Grafana可视化LLM" description: "介绍如何使用Grafana构建LLM应用的可视化仪表盘，包括数据源配置、面板设计和告警设置。" tags: ["Grafana", "LLM", "可视化"] category: "llm" icon: "🧠" --...
--- title: "Prometheus监控LLM" description: "详解如何使用Prometheus监控LLM应用，包括指标定义、数据收集和告警配置。" tags: ["Prometheus", "LLM", "监控"] category: "llm" icon: "🧠" ---...
--- title: "OpenTelemetry与LLM" description: "介绍如何使用OpenTelemetry标准化LLM应用的可观测性，实现指标、日志和追踪的统一管理。" tags: ["OpenTelemetry", "LLM", "可观测性"] category: "llm"...
--- title: "分布式追踪与LLM" description: "探讨分布式追踪技术在LLM应用中的应用，包括跨服务追踪和多模型协作场景。" tags: ["分布式追踪", "LLM", "微服务"] category: "llm" icon: "🧠" --- 分布式追踪与LLM 分布式追...
--- title: "LLM链路追踪" description: "详解LLM应用的链路追踪技术，帮助你追踪请求在复杂系统中的完整流转路径。" tags: ["链路追踪", "LLM", "分布式"] category: "llm" icon: "🧠" --- LLM链路追踪 链路追踪在LLM应...
--- title: "LLM日志管理" description: "介绍LLM应用的日志管理策略，包括日志设计、存储方案和分析工具的最佳实践。" tags: ["日志", "LLM", "管理"] category: "llm" icon: "🧠" --- LLM日志管理 为什么日志管理对LLM...
--- title: "LLM指标监控" description: "深入讲解LLM应用的关键监控指标，包括性能指标、质量指标和成本指标的定义与采集方法。" tags: ["指标", "LLM", "监控"] category: "llm" icon: "🧠" --- LLM指标监控 指标监控的重...
--- title: "LLM可观测性" description: "全面了解LLM可观测性的概念、核心支柱和实践方法，帮助你构建可监控的AI系统。" tags: ["可观测性", "LLM", "监控"] category: "llm" icon: "🧠" --- LLM可观测性 什么是LLM可...
--- title: "LLM响应缓存" description: "全面介绍LLM响应缓存策略，实现高效的内容复用和成本优化" tags: ["响应缓存", "内容复用", "成本优化"] category: "llm" icon: "🧠" --- LLM响应缓存 响应缓存是将LLM生成的结果存...
--- title: "模型缓存" description: "详解LLM模型缓存技术，优化模型加载和推理性能" tags: ["模型缓存", "推理优化", "内存管理"] category: "llm" icon: "🧠" --- 模型缓存 模型缓存是将LLM模型权重和推理状态保存在高速存储中...
--- title: "LLM预计算" description: "讲解LLM预计算策略，提前生成内容以实现即时响应" tags: ["预计算", "异步处理", "性能优化"] category: "llm" icon: "🧠" --- LLM预计算 预计算是在用户请求到达之前，提前生成LLM响...
--- title: "LLM边缘缓存" description: "介绍LLM边缘缓存技术，在靠近用户的位置提供低延迟的LLM服务" tags: ["边缘计算", "边缘缓存", "低延迟"] category: "llm" icon: "🧠" --- LLM边缘缓存 边缘缓存将LLM响应缓存在...
--- title: "CDN与LLM" description: "探索CDN技术在LLM系统中的应用，实现全球低延迟的LLM服务" tags: ["CDN", "全球部署", "低延迟"] category: "llm" icon: "🧠" --- CDN与LLM CDN（内容分发网络）传统上...
--- title: "LLM缓存策略" description: "详解LLM系统中的各种缓存策略，提升响应速度并降低API调用成本" tags: ["缓存策略", "性能优化", "成本控制"] category: "llm" icon: "🧠" --- LLM缓存策略 LLM API调用成本...
--- title: "LLM回退模式" description: "全面介绍LLM系统中的回退模式，包括多模型回退、多供应商回退等实用方案" tags: ["回退模式", "多模型", "供应商冗余"] category: "llm" icon: "🧠" --- LLM回退模式 回退模式是LLM...
--- title: "LLM优雅降级" description: "讲解LLM系统在异常情况下的优雅降级策略，保障核心功能可用" tags: ["优雅降级", "容错设计", "高可用"] category: "llm" icon: "🧠" --- LLM优雅降级 当LLM服务出现异常或资源不足...
--- title: "LLM背压机制" description: "介绍LLM系统中的背压机制原理与实现，确保高负载下系统稳定运行" tags: ["背压机制", "流量控制", "系统稳定性"] category: "llm" icon: "🧠" --- LLM背压机制 当LLM服务接收请求的...
--- title: "LLM重试策略" description: "详解LLM调用中的重试策略，包括指数退避、抖动、条件重试等实用模式" tags: ["重试策略", "容错机制", "可靠性"] category: "llm" icon: "🧠" --- LLM重试策略 在实际生产环境中，调用...
--- title: "LLM超时模式" description: "详解LLM应用中的超时处理策略，包括连接超时、读取超时、超时传播等最佳实践" tags: ["超时", "错误处理", "可靠性"] category: "llm" icon: "🧠" --- LLM超时模式 为什么需要超时处理...
--- title: "LLM隔舱模式" description: "详解LLM应用中的隔舱模式，通过资源隔离防止级联故障，提高系统可用性" tags: ["隔舱", "资源隔离", "容错"] category: "llm" icon: "🧠" --- LLM隔舱模式 什么是隔舱模式 隔舱模式（...
--- title: "LLM熔断机制" description: "详解LLM应用中的熔断器模式，包括熔断状态管理、恢复策略和降级方案" tags: ["熔断", "容错", "高可用"] category: "llm" icon: "🧠" --- LLM熔断机制 什么是熔断器 熔断器（Circ...
--- title: "LLM请求限流" description: "详细介绍LLM应用中的请求限流技术，包括限流策略、队列管理和降级方案" tags: ["限流", "流量控制", "服务质量"] category: "llm" icon: "🧠" --- LLM请求限流 限流与速率限制的区别...
--- title: "高级速率限制" description: "介绍LLM应用中的高级速率限制策略，包括滑动窗口、令牌桶等算法及其实现" tags: ["速率限制", "限流", "流量控制"] category: "llm" icon: "🧠" --- 高级速率限制 为什么需要速率限制 速率...
--- title: "JWT在LLM中的应用" description: "详解JWT令牌在LLM应用中的实现，包括生成、验证、刷新等最佳实践" tags: ["JWT", "令牌", "身份验证"] category: "llm" icon: "🧠" --- JWT在LLM中的应用 JWT简介...
--- title: "OAuth与LLM集成" description: "讲解如何将OAuth 2.0认证协议与LLM服务集成，实现安全的第三方授权访问" tags: ["OAuth", "授权", "第三方登录"] category: "llm" icon: "🧠" --- OAuth与LL...
--- title: "API密钥管理" description: "全面介绍LLM API密钥的生成、存储、轮换和安全管理实践" tags: ["API密钥", "密钥管理", "安全"] category: "llm" icon: "🧠" --- API密钥管理 为什么密钥管理很重要 API密...
--- title: "LLM授权策略" description: "详细介绍LLM应用中的授权策略，包括角色控制、权限管理、细粒度访问控制等实践方案" tags: ["授权", "权限管理", "访问控制"] category: "llm" icon: "🧠" --- LLM授权策略 授权与认证...
--- title: "LLM认证机制" description: "深入探讨大语言模型API的认证机制，包括API密钥认证、OAuth认证、证书认证等安全方案" tags: ["认证", "API安全", "身份验证"] category: "llm" icon: "🧠" --- LLM认证机制...
--- title: "LLM网关" description: "全面介绍LLM网关的设计与实现，包括请求聚合、认证授权、限流和监控等功能" tags: ["LLM网关", "API网关", "统一入口", "安全控制"] category: "llm" icon: "🧠" --- LLM网关 L...
--- title: "服务网格与LLM" description: "介绍如何利用服务网格技术管理LLM微服务，包括流量管理、安全策略和可观测性" tags: ["服务网格", "Istio", "微服务管理", "LLM部署"] category: "llm" icon: "🧠" --- 服务...
--- title: "LLM网格架构" description: "介绍LLM网格架构的设计理念，包括服务发现、通信模式和分布式LLM编排" tags: ["LLM网格", "分布式架构", "服务编排", "微服务"] category: "llm" icon: "🧠" --- LLM网格架构...
--- title: "请求路由" description: "介绍LLM服务中的智能请求路由策略，包括负载均衡、模型路由和故障转移机制" tags: ["请求路由", "负载均衡", "模型路由", "故障转移"] category: "llm" icon: "🧠" --- 请求路由 请求路由的...
--- title: "队列管理" description: "介绍LLM服务中的请求队列管理策略，包括队列设计、优先级调度和背压机制" tags: ["队列管理", "消息队列", "请求调度", "LLM服务"] category: "llm" icon: "🧠" --- 队列管理 队列在LL...
--- title: "LLM自动扩缩容" description: "介绍LLM服务的自动扩缩容策略，包括指标选择、扩缩容规则配置和性能优化" tags: ["自动扩缩容", "弹性伸缩", "LLM服务", "性能优化"] category: "llm" icon: "🧠" --- LLM自动...
--- title: "竞价实例与LLM" description: "详解竞价实例在LLM推理和训练中的应用，包括成本优势、中断处理和最佳实践" tags: ["竞价实例", "Spot实例", "成本优化", "LLM训练"] category: "llm" icon: "🧠" --- 竞价实...
--- title: "云成本优化" description: "全面介绍LLM部署中的云资源成本优化方法，涵盖计算、存储、网络等多维度优化策略" tags: ["云成本", "成本优化", "AWS", "云计算"] category: "llm" icon: "🧠" --- 云成本优化 云成本...
--- title: "GPU定价策略" description: "分析主流GPU型号的定价机制、性能价格比，以及如何根据LLM工作负载选择最优GPU配置" tags: ["GPU定价", "硬件选择", "性价比", "LLM推理"] category: "llm" icon: "🧠" ---...
--- title: "LLM成本模型" description: "深入解析大语言模型的成本构成、计费模式与成本优化策略，帮助团队有效控制LLM运营开支" tags: ["成本模型", "LLM运营", "成本优化", "云计算"] category: "llm" icon: "🧠" --- L...
--- title: "模型发布管理" description: "LLM模型的全生命周期发布管理，从开发到生产环境的系统化管理流程" tags: ["发布管理", "生命周期", "版本控制"] category: "llm" icon: "🧠" --- 模型发布管理 概述 模型发布管理是LLM...
--- title: "LLM回滚策略" description: "LLM模型的回滚策略设计与实现，包括快速回滚、蓝绿回滚和自动化回滚机制" tags: ["回滚策略", "故障恢复", "版本管理"] category: "llm" icon: "🧠" --- LLM回滚策略 概述 回滚（Ro...
--- title: "LLM影子部署" description: "LLM模型的影子部署策略，在不影响生产环境的前提下验证新模型的真实表现" tags: ["影子部署", "流量镜像", "无风险验证"] category: "llm" icon: "🧠" --- LLM影子部署 概述 影子部署...
--- title: "LLM蓝绿部署" description: "LLM模型的蓝绿部署策略，实现零停机的模型版本切换和快速回滚能力" tags: ["蓝绿部署", "零停机", "版本切换"] category: "llm" icon: "🧠" --- LLM蓝绿部署 概述 蓝绿部署（Blue...
--- title: "LLM金丝雀发布" description: "LLM模型的金丝雀发布策略，实现模型的渐进式上线和实时监控，确保生产环境稳定性" tags: ["金丝雀发布", "渐进部署", "生产监控"] category: "llm" icon: "🧠" --- LLM金丝雀发布 概...
--- title: "LLM A/B测试" description: "LLM模型的A/B测试方法论和实践，包括实验设计、指标选择、统计分析和自动化测试框架" tags: ["A/B测试", "实验分析", "统计验证"] category: "llm" icon: "🧠" --- LLM A/...
--- title: "特性标志与LLM" description: "使用特性标志控制LLM功能的渐进式发布，实现灵活的模型版本管理和用户级别的功能开关" tags: ["特性标志", "渐进发布", "功能开关"] category: "llm" icon: "🧠" --- 特性标志与LLM...
--- title: "模型注册中心" description: "构建和使用模型注册中心来管理LLM模型的全生命周期，包括版本控制、元数据管理和部署跟踪" tags: ["模型管理", "版本控制", "元数据"] category: "llm" icon: "🧠" --- 模型注册中心 概述...
--- title: "GitOps与LLM" description: "使用GitOps模式管理LLM模型的版本控制、配置管理和部署流程" tags: ["GitOps", "版本控制", "配置管理"] category: "llm" icon: "🧠" --- GitOps与LLM 概述...
--- title: "LLM持续集成与持续部署" description: "LLM项目的CI/CD流水线设计与最佳实践，涵盖模型训练、测试、部署的自动化流程" tags: ["CI/CD", "自动化部署", "DevOps"] category: "llm" icon: "🧠" --- LL...
--- title: "LLM浸泡测试" description: "全面介绍LLM系统的浸泡测试方法，包括长时间运行测试、内存泄漏检测、资源退化监控、稳定性验证以及浸泡测试结果分析" tags: ["浸泡测试", "稳定性测试", "内存泄漏", "长期运行"] category: "llm" i...
--- title: "LLM压力测试" description: "系统讲解LLM系统的压力测试方法，包括极限负载测试、资源耗尽测试、故障恢复测试、压力测试策略以及系统瓶颈识别" tags: ["压力测试", "极限测试", "系统瓶颈", "LLM稳定性"] category: "llm" ic...
--- title: "LLM负载测试" description: "详细介绍LLM系统的负载测试方法，包括并发测试、吞吐量测试、延迟测试、资源监控、负载测试工具使用以及性能基线建立" tags: ["负载测试", "性能测试", "并发测试", "LLM性能"] category: "llm" i...
--- title: "LLM端到端测试" description: "全面介绍LLM系统的端到端测试方法，包括完整场景测试、用户交互测试、多轮对话测试、测试脚本编写以及自动化端到端测试框架" tags: ["端到端测试", "E2E测试", "场景测试", "LLM验证"] category: "...
--- title: "LLM集成测试" description: "详细介绍LLM系统的集成测试方法，包括RAG管道测试、Agent工具链测试、多组件协作测试、测试替身使用以及集成测试环境搭建" tags: ["集成测试", "管道测试", "组件协作", "LLM测试"] category: "...
--- title: "LLM单元测试" description: "深入讲解LLM系统的单元测试方法，包括提示模板测试、工具函数测试、参数校验测试、模拟对象使用以及测试用例设计" tags: ["单元测试", "测试方法", "LLM开发", "代码质量"] category: "llm" ico...
--- title: "LLM测试策略" description: "全面介绍LLM系统的测试策略，涵盖测试金字塔、测试类型划分、测试环境搭建、测试数据管理以及持续集成中的测试实践" tags: ["测试策略", "质量保证", "LLM测试", "持续集成"] category: "llm" ic...
--- title: "LLM故障转移" description: "系统讲解LLM服务的故障转移机制，包括健康检查、自动切换、流量路由、状态同步以及故障转移的最佳实践" tags: ["故障转移", "高可用", "负载均衡", "自动切换"] category: "llm" icon: "🧠"...
--- title: "LLM备份策略" description: "详细介绍LLM系统的备份策略，包括模型权重备份、训练数据备份、配置文件备份、向量数据库备份以及增量备份与异地容灾方案" tags: ["备份策略", "数据保护", "模型备份", "容灾"] category: "llm" ic...
--- title: "LLM灾难恢复" description: "全面介绍LLM系统的灾难恢复策略，涵盖故障检测、恢复计划制定、数据备份与还原、服务降级方案以及自动化恢复流程" tags: ["灾难恢复", "故障恢复", "高可用", "LLM运维"] category: "llm" icon...
--- title: "LLM事件响应" description: "全面介绍LLM事件响应流程，包括应急预案、根因分析、事后复原等核心环节和最佳实践" tags: ["事件响应", "应急预案", "根因分析", "事后复原"] category: "llm" icon: "🧠" --- LLM...
--- title: "LLM告警" description: "全面介绍LLM告警系统设计，包括告警规则、告警路由、告警响应等核心功能实现" tags: ["LLM告警", "告警规则", "告警路由", "告警响应"] category: "llm" icon: "🧠" --- LLM告警 L...
--- title: "LLM仪表板" description: "详细介绍LLM监控仪表板设计，包括监控面板、趋势分析、自定义看板等核心功能" tags: ["LLM仪表板", "监控面板", "趋势分析", "自定义看板"] category: "llm" icon: "🧠" --- LLM仪...
--- title: "LLM报告" description: "介绍LLM报告系统设计，包括关键指标、报告自动化、可视化等核心功能实现" tags: ["LLM报告", "关键指标", "报告自动化", "可视化"] category: "llm" icon: "🧠" --- LLM报告 LLM...
--- title: "LLM审计" description: "全面介绍LLM审计流程，包括算法审计、数据审计、第三方审计等关键环节和最佳实践" tags: ["LLM审计", "算法审计", "数据审计", "第三方审计"] category: "llm" icon: "🧠" --- LLM审...
--- title: "私有推理" description: "详细介绍LLM私有推理技术，包括可信执行环境(TEE)、同态加密、安全多方计算等隐私保护推理方法" tags: ["私有推理", "TEE", "同态加密", "安全多方计算"] category: "llm" icon: "🧠" -...
--- title: "联邦学习LLM" description: "介绍联邦学习在大语言模型中的应用，包括安全聚合、通信优化、联邦微调等关键技术" tags: ["联邦学习", "安全聚合", "通信优化", "联邦微调"] category: "llm" icon: "🧠" --- 联邦学习L...
--- title: "模型隐私" description: "深入探讨LLM模型面临的隐私威胁，包括逆向攻击、成员推断、模型水印等技术及防护措施" tags: ["模型隐私", "逆向攻击", "成员推断", "模型水印"] category: "llm" icon: "🧠" --- 模型隐私...
--- title: "数据隐私" description: "全面介绍LLM领域的数据隐私保护技术，包括差分隐私、数据脱敏、隐私计算等核心概念和实践方法" tags: ["数据隐私", "差分隐私", "数据脱敏", "隐私计算"] category: "llm" icon: "🧠" --- 数...
--- title: "GDPR与LLM" description: "探讨GDPR法规对大语言模型开发和应用的影响，包括数据主体权利、合规挑战和隐私保护措施" tags: ["GDPR", "数据主体权利", "合规挑战", "隐私保护"] category: "llm" icon: "🧠" -...
--- title: "LLM合规：大语言模型使用的合规要求与实践" description: "全面解析大语言模型使用的合规要求，包括数据保护法规、内容安全、审计要求及企业合规实践指南" tags: ["LLM合规", "数据保护", "内容安全", "合规审计"] category: "llm"...
--- title: "LLM治理：企业级LLM使用的治理框架" description: "探讨企业级LLM使用的治理框架，包括使用策略、审批流程、风险管控、责任划分等组织管理实践" tags: ["LLM治理", "企业治理", "风险管控", "使用策略"] category: "llm" i...
--- title: "使用分析：LLM服务使用数据的收集与分析" description: "全面介绍LLM服务使用数据的收集方法、分析维度、可视化展示及基于数据的优化决策实践" tags: ["使用分析", "数据分析", "LLM监控", "性能分析"] category: "llm" ico...
--- title: "成本追踪：LLM API使用成本的监控与优化" description: "全面介绍LLM API使用成本的追踪方法、预算管理策略、成本优化技巧及账单分析实践" tags: ["成本追踪", "API成本", "预算管理", "LLM优化"] category: "llm"...
--- title: "降级模型：LLM服务的模型降级与容错方案" description: "探讨LLM服务中的模型降级策略，包括多模型切换、降级链设计、自动故障转移等高可用架构方案" tags: ["降级模型", "容错方案", "高可用", "故障转移"] category: "llm" ic...
--- title: "重试策略：LLM API调用的智能重试机制" description: "详解LLM API调用中的各种重试策略，包括指数退避、自适应重试、条件重试等，提升应用可用性" tags: ["重试策略", "指数退避", "容错机制", "LLM API"] category: "...
--- title: "错误处理：LLM应用中的错误处理策略" description: "全面解析LLM应用中各类错误的处理方法，包括网络错误、API错误、内容过滤、超时处理等异常场景" tags: ["错误处理", "异常处理", "LLM错误", "容错"] category: "llm" i...
--- title: "客户端库：各语言LLM客户端库的使用与开发" description: "介绍主流编程语言下LLM客户端库的选择、使用技巧及自定义客户端库的开发方法" tags: ["客户端库", "LLM客户端", "Python", "JavaScript", "Go"] categor...
--- title: "SDK设计：构建LLM应用SDK的设计原则" description: "探讨构建LLM应用SDK的核心设计原则，涵盖接口设计、配置管理、中间件机制、可扩展性等关键架构要素" tags: ["SDK设计", "架构设计", "LLM SDK", "接口设计"] categor...
--- title: "API版本管理：LLM API版本控制策略与实践" description: "深入探讨大语言模型API的版本管理策略，包括版本控制、向后兼容性保证、迁移路径规划等最佳实践" tags: ["API版本管理", "向后兼容", "版本控制", "LLM API"] categ...
--- title: "LLM代理服务" description: "构建LLM代理服务的完整指南，实现请求转发、负载均衡、API网关与多模型路由" tags: ["LLM代理", "请求转发", "负载均衡", "API网关"] category: "llm" icon: "🧠" --- LLM...
--- title: "Open WebUI" description: "Open WebUI多用户管理、RAG集成、模型切换功能详解，打造企业级本地LLM交互平台" tags: ["Open WebUI", "多用户", "RAG集成", "模型切换"] category: "llm" icon...
--- title: "Text Generation WebUI" description: "Text Generation WebUI全功能指南，掌握参数配置、角色扮演、扩展插件与多种模型后端支持" tags: ["Text Generation WebUI", "参数配置", "角色扮演",...
--- title: "FastChat部署" description: "FastChat完整部署指南，包括控制器搭建、模型工作节点配置、WebUI界面与OpenAI兼容API" tags: ["FastChat", "控制器", "Web UI", "OpenAI兼容API"] category...
--- title: "LMDeploy部署" description: "LMDeploy高性能推理框架实战，掌握TurboMind引擎、W4A16量化与服务化部署技术" tags: ["LMDeploy", "TurboMind", "W4A16量化", "服务化部署"] category: "...
--- title: "TGI部署" description: "Text Generation Inference (TGI) 部署实战，涵盖Docker部署、量化模型、性能优化与生产环境配置" tags: ["Text Generation Inference", "TGI", "Docker部...
--- title: "Triton推理服务器" description: "NVIDIA Triton Inference Server实战指南，涵盖动态批处理、模型并发、多模型管理与性能调优" tags: ["Triton", "NVIDIA Triton", "动态批处理", "模型并发"]...
--- title: "推理服务器" description: "构建高性能LLM推理服务器的核心技术，包括模型加载优化、请求队列管理与并发控制策略" tags: ["推理服务器", "模型加载", "请求队列", "并发控制"] category: "llm" icon: "🧠" --- 推理服...
--- title: "GPU集群管理" description: "GPU集群架构设计、网络拓扑优化、作业调度策略与集群监控的完整实践指南" tags: ["GPU集群", "网络拓扑", "作业调度", "集群监控"] category: "llm" icon: "🧠" --- GPU集群管理...
--- title: "Kubernetes部署LLM" description: "使用Kubernetes集群部署和管理大语言模型，涵盖GPU节点调度、HPA自动扩缩容、模型服务化等实战技巧" tags: ["Kubernetes", "K8s", "GPU节点", "HPA自动扩缩"] cat...
Docker部署LLM：使用容器化技术部署大语言模型 Docker部署优势 使用Docker部署大语言模型可以确保环境一致性、简化依赖管理、提高可移植性，并支持快速扩展。容器化技术使得LLM服务可以在任何支持Docker的环境中稳定运行。 Docker镜像构建 基础镜像选择 dockerfile D...
LLM部署指南：从开发到生产环境的完整部署流程 部署概述 大语言模型的部署是一个复杂的工程任务，涉及模型优化、服务架构设计、性能调优和监控等多个方面。成功的部署需要在延迟、吞吐量、成本和质量之间找到平衡。 模型优化 模型量化 python import torch from transformers...
TensorBoard：使用TensorBoard可视化LLM训练 TensorBoard简介 TensorBoard是TensorFlow和PyTorch都支持的可视化工具，提供训练过程的实时监控、模型图可视化、权重分布分析、嵌入空间投影等功能。对于大语言模型开发，TensorBoard可以帮助研...
MLflow：使用MLflow管理LLM项目 MLflow简介 MLflow是一个开源的机器学习生命周期管理平台，提供实验追踪、模型打包、模型注册和部署等功能。对于大语言模型项目，MLflow可以帮助团队标准化开发流程，提高协作效率。 基础配置 安装与启动 bash 安装MLflow pip ins...
Weights & Biases：使用W&B追踪LLM实验 W&B简介 Weights & Biases (W&B) 是一个强大的机器学习实验追踪平台，提供实时可视化、超参数搜索、模型版本管理等功能。对于大语言模型开发，W&B可以帮助团队高效地追踪训练过程、比较实验结果。 基础配置 安装与登录 ba...
实验追踪：LLM训练实验的追踪与管理 为什么需要实验追踪 大语言模型训练涉及大量超参数配置、数据版本和模型检查点。有效的实验追踪系统可以帮助研究人员记录所有关键信息，比较不同实验结果，并快速回溯到最佳配置。 实验追踪系统架构 核心组件设计 python from dataclasses import...
可复现性：确保LLM实验和结果的可复现性 为什么可复现性很重要 在大语言模型研究和开发中，实验的可复现性是科学严谨性的基石。可复现性确保其他人能够验证您的结果，并在此基础上进行进一步研究。缺乏可复现性会导致研究浪费和信任危机。 环境控制 完整的环境配置 python import torch imp...
模型卡片：编写规范的LLM模型文档 模型卡片的重要性 模型卡片（Model Card）是大语言模型的标准文档格式，它为模型使用者提供全面的信息，包括模型能力、限制、训练过程和伦理考量。良好的模型卡片可以提高模型的可信度和可复用性。 模型卡片模板 基础模板结构 yaml modelcardtempla...
模型仓库最佳实践：HuggingFace Hub等平台的使用技巧 HuggingFace Hub 基础 环境配置 开始使用HuggingFace Hub前需要进行基础配置： python from huggingfacehub import login import os 方式1：交互式登录 log...
模型共享：LLM模型的分享、分发与协作最佳实践 为什么需要模型共享 在大语言模型开发过程中，模型共享是团队协作和开源生态的核心环节。良好的模型共享实践可以确保模型在不同环境间的可移植性，促进知识传播，并加速整个社区的技术进步。 模型打包与分发 完整模型包结构 创建规范的模型包是共享的基础： pyth...
LLM版权：大语言模型涉及的版权法律问题 LLM 版权问题概述 随着大语言模型技术的快速发展，版权法律问题日益成为AI领域的重要关注点。从训练数据的使用到模型生成内容的版权归属，LLM涉及的法律问题复杂且多变。 LLM 版权问题的主要领域： - 训练数据版权：使用受版权保护的数据进行训练 - 模型权...
数据许可：LLM训练数据的许可协议与合规要求 数据许可的重要性 在大语言模型的开发和部署过程中，数据许可（Data Licensing）是一个至关重要但常被忽视的环节。正确理解和遵守数据许可协议，不仅是法律合规的要求，也是维护知识产权、促进开源社区健康发展的基础。 数据许可的核心关注点： - 法律合...
开放数据集：开源LLM训练和评测数据集汇总 开放数据集的重要性 开放数据集（Open Datasets）是推动大语言模型研究和发展的核心资源。高质量的开源数据集降低了LLM开发的门槛，促进了学术界和工业界的合作创新。 开放数据集的主要价值： - 研究可复现：提供标准化的实验基础 - 降低开发成本：减...
基准数据集：LLM评测常用基准数据集介绍 LLM 评测的重要性 随着大语言模型的快速发展，客观、全面的模型评测变得至关重要。基准数据集（Benchmark Datasets）为模型评估提供了标准化的测试环境，帮助研究者和开发者理解模型的能力边界和改进方向。 基准数据集的核心价值： - 标准化比较：提...
红队数据：通过对抗测试生成LLM安全训练数据 什么是红队测试 红队测试（Red Teaming）是一种模拟攻击者思维的测试方法，通过主动尝试突破系统的安全防护来发现漏洞。在LLM领域，红队测试旨在发现模型的安全弱点，并利用这些发现生成高质量的安全训练数据。 红队测试的核心价值在于： - 发现未知漏洞...
安全数据：构建LLM安全训练数据集 LLM 安全性的重要性 随着大语言模型在各个领域的广泛应用，模型安全性成为至关重要的关注点。安全数据是训练LLM识别和拒绝有害请求的基础，直接关系到AI系统能否在真实世界中安全部署。 安全数据的核心目标包括： - 防止有害输出：避免生成暴力、仇恨、歧视等有害内容...
对齐数据：LLM对齐训练中的数据策略 什么是对齐数据 对齐数据（Alignment Data）是指用于训练大语言模型使其行为符合人类价值观和期望的专门数据集。对齐训练的目标是让模型不仅能够生成流畅的文本，更重要的是生成有用、无害、诚实的响应。 对齐数据的核心特征包括： - 价值观对齐：体现人类社会的...
DPO数据：直接偏好优化训练数据的构建方法 DPO 算法简介 DPO（Direct Preference Optimization）是2023年由斯坦福大学提出的新型对齐训练方法。与传统的RLHF不同，DPO 将奖励建模和强化学习优化合并为一个简单的分类问题，直接使用偏好数据优化语言模型策略。 DP...
RLHF数据：基于人类反馈强化学习的训练数据准备 RLHF 概述 RLHF（Reinforcement Learning from Human Feedback）是当前最主流的LLM对齐训练方法之一。该方法最早由OpenAI在InstructGPT中系统化应用，现已成为ChatGPT、Claude、...
偏好数据：构建人类偏好数据以优化LLM行为 什么是偏好数据 偏好数据（Preference Data）是描述人类对模型输出相对偏好的数据格式。与传统的监督学习数据不同，偏好数据不直接给出"正确答案"，而是标注出对于同一个输入，哪个输出更优。这种数据格式成为现代大语言模型对齐训练的核心资源。 偏好数据...
--- title: "思维链数据" description: "详细介绍思维链（Chain-of-Thought）推理数据的构建方法、标注技术和应用策略" tags: ["思维链", "CoT数据", "链式推理", "推理数据"] category: "llm" icon: "🧠" --- 思...
--- title: "LLM数据增强" description: "详细介绍LLM数据增强技术，包括文本回译、同义词替换和指令增强等方法" tags: ["数据增强", "文本回译", "同义词替换", "指令增强"] category: "llm" icon: "🧠" --- LLM数据增强...
--- title: "合成数据生成" description: "详细介绍合成数据生成技术，包括Self-Instruct方法、数据增强和LLM生成数据的实践" tags: ["合成数据", "Self-Instruct", "数据增强", "LLM生成"] category: "llm" ico...
--- title: "数据质量控制" description: "详细介绍数据质量控制的方法论，包括质量检测、数据清洗和标注质量保证技术" tags: ["数据质量", "质量检测", "数据清洗", "标注质量"] category: "llm" icon: "🧠" --- 数据质量控制 数据...
--- title: "数据集策划" description: "详细介绍数据集策划的方法论，包括数据去重、质量过滤和数据多样性控制技术" tags: ["数据策划", "去重", "质量过滤", "数据多样性"] category: "llm" icon: "🧠" --- 数据集策划 数据集策划...
--- title: "LLM数据集总览" description: "全面介绍大语言模型训练所需的数据集类型，包括预训练数据、指令微调数据和对齐数据" tags: ["数据集", "预训练数据", "指令微调数据", "对齐数据"] category: "llm" icon: "🧠" --- L...
--- title: "MoE负载均衡" description: "详细介绍MoE模型中的负载均衡技术，包括专家负载均衡、Token丢弃策略和负载监控方法" tags: ["负载均衡", "专家负载", "Token丢弃", "负载监控"] category: "llm" icon: "🧠" -...
--- title: "MoE路由策略" description: "深入解析MoE模型中的路由策略，包括Top-K路由、路由坍缩问题和动态路由机制，帮助优化专家选择" tags: ["路由策略", "Top-K路由", "路由坍缩", "动态路由"] category: "llm" icon: "...
--- title: "混合专家模型MoE" description: "全面介绍混合专家模型（Mixture of Experts）的架构设计、路由机制和训练策略，解析Mixtral等主流MoE模型" tags: ["MoE", "混合专家", "路由机制", "Mixtral"] categor...
--- title: "稀疏模型技术" description: "深入解析大语言模型中的稀疏化技术，包括稀疏注意力、MoE稀疏激活和稀疏加速等核心方法，帮助降低模型计算开销" tags: ["稀疏模型", "稀疏注意力", "MoE", "稀疏加速"] category: "llm" icon:...
--- title: "剪枝完全指南" description: "全面介绍大模型剪枝技术，包括非结构化剪枝、结构化剪枝和迭代剪枝策略，实现模型压缩与加速。" tags: ["模型剪枝", "非结构化剪枝", "结构化剪枝", "迭代剪枝"] category: "llm" icon: "🧠" -...
--- title: "量化完全指南" description: "全面介绍大模型量化技术，包括PTQ、QAT、GPTQ、AWQ等主流方法，实现模型压缩与推理加速。" tags: ["量化", "PTQ", "QAT", "INT8", "INT4", "GPTQ", "AWQ"] category...
--- title: "设备端推理" description: "全面讲解设备端AI推理技术，涵盖AI芯片优化、功耗管理和离线推理方案，实现完全本地化的AI能力。" tags: ["设备端推理", "AI芯片", "功耗管理", "离线推理"] category: "llm" icon: "🧠"...
--- title: "移动端LLM" description: "全面介绍移动端LLM部署技术，包括Core ML、TFLite适配和端侧推理优化，实现手机上的大模型运行。" tags: ["移动端LLM", "Core ML", "TFLite", "端侧推理"] category: "llm"...
--- title: "边缘AI推理" description: "深入讲解边缘AI推理技术，包括NPU加速、联合推理架构和边缘设备部署方案，实现低延迟本地推理。" tags: ["边缘计算", "NPU", "联合推理", "边缘部署"] category: "llm" icon: "🧠" --...
--- title: "无服务器LLM" description: "探讨Serverless LLM架构，包括函数计算、冷启动优化和按需扩缩策略，实现LLM的弹性部署。" tags: ["Serverless", "函数计算", "冷启动", "按需扩缩"] category: "llm" ico...
--- title: "云推理服务" description: "全面介绍云推理服务架构，包括弹性伸缩、多区域部署、成本优化和主流云平台LLM服务对比。" tags: ["云推理", "弹性伸缩", "多区域部署", "云平台"] category: "llm" icon: "🧠" --- 云推理...
--- title: "GPU调度系统" description: "介绍GPU调度系统的设计与实现，包括Kubernetes调度、资源调度策略和多租户GPU资源管理方案。" tags: ["GPU调度", "资源调度", "Kubernetes", "调度策略"] category: "llm"...
--- title: "多GPU推理" description: "全面讲解多GPU推理技术，涵盖张量并行、流水线并行和NVLink高速互联，实现大模型高效分布式推理。" tags: ["多GPU", "张量并行", "流水线并行", "NVLink"] category: "llm" icon:...
--- title: "GPU利用率优化" description: "深入探讨GPU利用率优化技术，包括CUDA编程、显存管理和计算优化策略，帮助提升大模型推理和训练效率。" tags: ["GPU利用率", "CUDA", "显存优化", "计算优化"] category: "llm" icon...
显存管理：LLM推理和训练中的显存优化技术 显存基础概念 显存组成分析 python import torch import subprocess class GPUMemoryAnalyzer: def init(self, deviceid: int = 0): self...
吞吐量优化：提升LLM系统处理能力的方法 吞吐量指标定义 核心指标 python from dataclasses import dataclass from typing import List import time @dataclass class ThroughputMetrics:...
延迟优化：降低LLM推理延迟的技术和策略 延迟指标定义 关键延迟指标 python from dataclasses import dataclass from typing import Optional import time @dataclass class LatencyMetrics:...
LLM基准测试：标准化的模型性能测试和对比方法 基准测试的重要性 基准测试提供标准化的评估框架，让你能够客观地比较不同模型的性能，为模型选择和优化提供数据支撑。 测试集设计 构建高质量测试集 python from dataclasses import dataclass from typing i...
聊天机器人评估：对话系统评估指标和方法 聊天机器人评估的挑战 对话系统评估比单轮问答更复杂，需要考虑上下文连贯性、多轮交互质量、用户满意度等多个维度。 自动评估指标 对话质量指标 python from dataclasses import dataclass from typing import...
人工评估：LLM输出质量的人工评估方法和最佳实践 为什么需要人工评估 自动化指标虽然高效，但在评估主观质量（如对话自然度、创意性、安全性）时存在局限。人工评估是验证LLM输出质量的金标准。 评估标准设计 多维度评估框架 python from dataclasses import dataclass...
--- title: "LLM反馈循环" description: "深入讲解大语言模型反馈循环机制的设计与实现，涵盖A/B测试、在线学习、持续改进策略与用户反馈收集。" tags: ["反馈循环", "持续改进", "A/B测试", "在线学习"] category: "llm" icon: "�...
--- title: "LLM链路追踪" description: "详细介绍大语言模型分布式链路追踪的实现方案，包括OpenTelemetry集成、Span设计、追踪可视化与性能分析。" tags: ["链路追踪", "OpenTelemetry", "分布式追踪", "Span"] catego...
--- title: "LLM日志系统" description: "深入讲解大语言模型日志系统的设计与实现，涵盖结构化日志、ELK Stack部署、日志分析与管理的完整方案。" tags: ["LLM日志", "结构化日志", "ELK Stack", "日志管理"] category: "llm...
--- title: "LLM监控系统" description: "全面介绍大语言模型监控系统的架构设计与实现，包括指标采集、Prometheus集成、Grafana仪表盘搭建以及生产环境最佳实践。" tags: ["LLM监控", "监控系统", "Prometheus", "Grafana",...
聊天机器人设计概述 基于LLM的聊天机器人设计涉及对话流程、用户体验、系统架构等多个维度。一个好的聊天机器人不仅要技术过硬，还需要在交互设计上精心打磨，为用户提供自然、高效、愉快的体验。 设计原则 明确的定位 - 定义机器人的角色和能力边界 - 明确服务的目标用户和场景 - 设定合理的用户期望 自然...
LLM翻译概述 基于LLM的机器翻译利用大语言模型的语言理解能力实现高质量翻译。相比传统NMT模型，LLM翻译具有更好的上下文理解、更灵活的风格控制、以及跨领域泛化能力。 技术优势 上下文理解 - 理解全文语境而非孤立句子 - 处理代词消解和指代关系 - 保持术语一致性 风格控制 - 正式/非正式语...
文本摘要概述 文本摘要是将长文本压缩为简短摘要的NLP任务。LLM的出现使摘要质量大幅提升，能够生成流畅、准确、信息丰富的摘要，广泛应用于新闻、文档、会议记录等场景。 摘要类型 抽取式摘要 从原文中选择关键句子组成摘要： - 保持原文表述 - 信息准确度高 - 但可能缺乏连贯性 生成式摘要 重新组织...
文档问答概述 文档问答（Document QA）是指基于给定文档回答用户问题的任务。用户上传或指定文档后，系统能够理解文档内容并准确回答相关问题。这是LLM最实用的应用场景之一。 系统架构 RAG架构 最常见的文档问答实现方式： 1. 文档处理：解析、分块、索引 2. 检索：根据问题检索相关段落 3...
编程助手概述 编程助手是集成LLM能力的软件开发工具，帮助开发者更高效地编写、理解和维护代码。从简单的自动补全到智能的代码生成和调试，编程助手正在改变软件开发的方式。 产品演进 第一代：自动补全 - 基于统计模型的代码补全 - 简单的模式匹配 - IDE内置的基础功能 第二代：Copilot - 基...
代码生成概述 代码生成是LLM最具影响力的应用之一。通过自然语言描述，LLM能够自动生成可执行的代码，极大提升了开发效率。从简单的函数补全到复杂的项目构建，代码生成正在重塑软件开发方式。 技术原理 训练方法 - 预训练：在大规模代码语料上预训练 - 指令微调：使用代码指令数据微调 - RLHF：基于...
Agent规划概述 Agent规划是指LLM Agent将复杂任务分解为可执行步骤并制定执行策略的能力。规划能力是Agent解决复杂问题的核心，决定了Agent能够处理的任务复杂度和完成质量。 规划方法 集中式规划 一次性生成完整计划： - 分析任务需求 - 生成步骤序列 - 按计划顺序执行 优点：...
Agent记忆概述 Agent记忆是使LLM Agent能够存储、检索和利用历史信息的机制。良好的记忆系统使Agent能够维持上下文连续性、从经验中学习、并在长期交互中保持一致性。 记忆类型 感觉记忆 当前输入的即时处理： - 当前用户输入 - 最近的工具返回结果 - 临时状态信息 短期记忆（工作记...
多智能体概述 多智能体系统（Multi-Agent System）是由多个LLM Agent协作完成复杂任务的系统。每个Agent扮演特定角色，拥有专业化的技能和工具，通过协调配合实现超越单个Agent能力上限的目标。 架构模式 集中式架构 一个协调者管理多个工作者： - Orchestrator：...
Corrective RAG概述 Corrective RAG（CRAG）是对传统RAG的改进，增加了对检索结果质量的评估和纠正机制。当检索到的文档质量不高时，CRAG能够进行纠正操作，如丢弃低质量文档、触发额外检索、或对文档进行精炼，从而提升最终生成质量。 核心机制 检索评估器 CRAG引入轻量级...
Self RAG概述 Self RAG是一种让LLM自主决定何时需要检索、检索什么内容、以及如何使用检索结果的自适应RAG方法。与传统RAG始终执行检索不同，Self RAG能够根据查询的实际需求动态调整检索行为。 核心机制 反思标记 Self RAG在生成过程中使用特殊标记： - [Retriev...
Graph RAG概述 Graph RAG是将知识图谱与RAG（检索增强生成）结合的技术。它利用知识图谱的结构化关系信息来增强检索和生成，相比传统的基于向量的RAG，能够更好地处理多跳推理和全局性问题。 传统RAG的局限 - 依赖文本片段的语义相似度 - 难以捕获实体间的复杂关系 - 对需要综合多处...
知识图谱概述 知识图谱（Knowledge Graph）是以图结构表示实体及其关系的知识库。节点代表实体（人、地、事），边代表实体间的关系。知识图谱提供了结构化的世界知识，与LLM结合可以增强事实性和推理能力。 核心组成 实体 图中的节点，代表具体的概念和对象： - 人物、地点、组织 - 事件、概念...
语义搜索概述 语义搜索是基于文本语义含义而非关键词匹配的搜索技术。通过将文本编码为向量表示，语义搜索能够理解查询的真实意图，找到语义相关但可能不包含查询关键词的结果。 核心技术 文本向量化 使用嵌入模型将文本转换为向量： - 查询文本 → 查询向量 - 文档文本 → 文档向量 - 向量维度通常为76...
混合搜索概述 混合搜索（Hybrid Search）是将多种检索方法结合使用的技术，通常融合关键词搜索和语义搜索的优势。通过综合不同检索方法的结果，混合搜索能够提供比单一方法更好的检索效果。 检索方法 关键词搜索 基于词汇匹配的检索方法： - BM25：经典的TF-IDF改进算法 - 精确匹配关键词...
重排序概述 重排序（Reranking）是对初始检索结果进行二次排序的技术。在RAG系统中，向量检索可能遗漏最优结果，重排序通过更精细的相关性评估，将最相关的结果排到前面，显著提升检索质量。 工作原理 两阶段检索 1. 召回阶段：使用向量检索快速获取Top-K候选 2. 重排序阶段：使用重排序模型精...
文本嵌入概述 文本嵌入（Text Embedding）是将自然语言文本映射到稠密向量空间的技术。在这个空间中，语义相似的文本距离较近，语义不同的文本距离较远。文本嵌入是现代NLP和信息检索的基石。 技术演进 词向量时代 - Word2Vec：词级别的分布式表示 - GloVe：基于全局共现统计的词向...
嵌入模型概述 嵌入模型（Embedding Model）是将文本转换为稠密向量表示的神经网络模型。这些向量捕捉了文本的语义信息，使得语义相似的文本在向量空间中距离较近。嵌入模型是语义搜索、RAG、聚类等应用的核心组件。 工作原理 编码过程 1. 输入文本经过分词 2. 通过Transformer编码...
函数Schema概述 函数Schema（Function Schema）是使用JSON Schema格式定义函数接口的规范。在LLM函数调用中，Schema定义了函数的名称、描述、参数结构和约束，是模型理解如何调用函数的关键。 Schema结构 基本框架 json { "name": "getw...
JSON模式概述 JSON模式（JSON Mode）是LLM API提供的一种确保输出为合法JSON的机制。通过API参数设置，模型会保证输出可以被JSON解析器正确解析，大大简化了应用开发。 工作机制 API参数 在API请求中设置输出格式： json { "model": "gpt-4",...
--- title: "结构化输出" description: "LLM结构化输出技术，包括JSON Schema和约束解码" tags: ["结构化输出", "JSON Schema", "约束解码", "输出格式", "数据提取"] category: "llm" icon: "🧠" ---...
--- title: "流式响应" description: "LLM流式响应技术，包括SSE和分块传输实现" tags: ["流式响应", "SSE", "分块传输", "实时输出", "用户体验"] category: "llm" icon: "🧠" --- 流式响应 流式响应是LLM应用提升...
--- title: "缓存策略" description: "LLM缓存策略，包括前缀缓存和语义缓存实现" tags: ["缓存", "前缀缓存", "语义缓存", "KV缓存", "性能优化"] category: "llm" icon: "🧠" --- 缓存策略 LLM缓存是提升推理效率和降...
--- title: "批处理策略" description: "LLM批处理策略，包括连续批处理和动态批处理实现" tags: ["批处理", "连续批处理", "动态批处理", "推理优化", "吞吐量"] category: "llm" icon: "🧠" --- 批处理策略 批处理是提升L...
--- title: "负载均衡" description: "LLM负载均衡策略与请求路由实现" tags: ["负载均衡", "请求路由", "健康检查", "故障转移", "高可用"] category: "llm" icon: "🧠" --- 负载均衡 负载均衡是LLM高可用架构的核心组件...
--- title: "速率限制" description: "LLM速率限制策略，包括令牌桶、滑动窗口等算法实现" tags: ["速率限制", "令牌桶", "滑动窗口", "流量控制", "防滥用"] category: "llm" icon: "🧠" --- 速率限制 速率限制是保护LLM...
--- title: "API网关" description: "LLM API网关设计、Kong配置与流量管理实践" tags: ["API网关", "Kong", "流量管理", "服务治理", "负载均衡"] category: "llm" icon: "🧠" --- API网关 API网关...
--- title: "LLM商业化" description: "LLM商业化路径、部署实践与企业级应用案例" tags: ["商业化", "企业部署", "商业模式", "成本优化", "LLM应用"] category: "llm" icon: "🧠" --- LLM商业化 LLM商业化是指...
--- title: "LLM许可证" description: "LLM模型许可证解读与商业使用合规指南" tags: ["许可证", "Apache 2.0", "商业使用", "法律合规", "开源许可"] category: "llm" icon: "🧠" --- LLM许可证 LLM许可...
--- title: "开源LLM" description: "开源大语言模型生态综述，涵盖Llama、Qwen、Mistral等主流模型" tags: ["开源LLM", "Llama", "Qwen", "Mistral", "LLM生态"] category: "llm" icon: "🧠...
--- title: "Dolly数据集" description: "Databricks Dolly数据集详解，包括开源指令微调数据集特点和应用场景" tags: ["Dolly", "Databricks", "指令微调", "开源数据集"] category: "llm" icon: "🧠...
--- title: "Alpaca数据集" description: "Stanford Alpaca数据集详解，包括指令微调数据格式、生成方法和应用场景" tags: ["Alpaca", "指令微调", "数据集", "Stanford"] category: "llm" icon: "🧠"...
--- title: "自指令" description: "Self-Instruct技术详解，包括指令生成、数据增强和模型微调方法" tags: ["自指令", "Self-Instruct", "指令生成", "数据增强"] category: "llm" icon: "🧠" --- 自指令...
--- title: "宪法AI" description: "宪法AI原理与实践详解，包括Anthropic的Constitutional AI方法和实现" tags: ["宪法AI", "Constitutional AI", "Anthropic", "安全对齐"] category: "ll...
--- title: "LLM安全" description: "大语言模型安全原则与负责任AI实践，涵盖安全设计、风险评估和治理框架" tags: ["安全", "负责任AI", "风险评估", "治理"] category: "llm" icon: "🧠" --- LLM安全 安全原则概述 L...
--- title: "开源对比" description: "主流开源大语言模型对比分析，包括LLaMA、Qwen、Mistral等模型的技术特点和应用场景" tags: ["开源模型", "LLaMA", "Qwen", "Mistral"] category: "llm" icon: "🧠"...
--- title: "基准测试" description: "LLM基准测试详解，包括MMLU、HumanEval等主流基准测试和排行榜分析" tags: ["基准测试", "MMLU", "HumanEval", "排行榜"] category: "llm" icon: "🧠" --- 基准测...
--- title: "LLM评估" description: "大语言模型评估方法详解，包括自动评估、人工评估和综合评估框架" tags: ["评估", "基准", "指标", "质量"] category: "llm" icon: "🧠" --- LLM评估 评估的重要性 LLM评估是确保模型...
--- title: "内容过滤" description: "LLM内容过滤技术详解，包括毒性检测、内容审核和安全过滤实现" tags: ["内容过滤", "毒性检测", "审核", "安全"] category: "llm" icon: "🧠" --- 内容过滤 内容过滤的重要性 LLM的内容...
--- title: "越狱防护" description: "探讨LLM越狱攻击技术与防护方法，包括提示注入、安全护栏和防御策略" tags: ["安全", "越狱", "提示注入", "防护"] category: "llm" icon: "🧠" --- 越狱防护 什么是越狱攻击 越狱（Jai...
--- title: "提示注入：攻击原理与防御策略" description: "深入解析Prompt Injection攻击的类型、原理和有效防御方法" tags: ["提示注入", "越狱攻击", "安全防御"] category: "llm" icon: "🧠" --- 提示注入：攻击原理...
--- title: "LLM安全：构建可信赖的大模型应用" description: "全面介绍LLM安全风险和防护策略，包括内容安全、隐私保护和对抗攻击防御" tags: ["LLM安全", "内容安全", "隐私保护"] category: "llm" icon: "🧠" --- LLM安全...
--- title: "LLM成本优化：降本增效的实战策略" description: "系统介绍LLM应用的成本优化方法，包括Token效率、缓存策略和资源调度" tags: ["成本优化", "Token效率", "缓存策略"] category: "llm" icon: "🧠" --- LL...
--- title: "LLMOps：大语言模型的运维与持续交付" description: "构建LLM应用的CI/CD流水线，实现模型的自动化训练、评估和部署" tags: ["LLMOps", "CI/CD", "部署流水线"] category: "llm" icon: "🧠" --- L...
--- title: "模型版本管理：构建LLM全生命周期管理体系" description: "掌握模型版本控制和注册表的最佳实践，实现模型从训练到上线的全流程管理" tags: ["模型版本管理", "MLOps", "模型注册表"] category: "llm" icon: "🧠" ---...
--- title: "LLM A/B测试：科学评估模型迭代效果" description: "系统学习如何为LLM设计和执行A/B测试实验，用数据驱动模型优化决策" tags: ["A/B测试", "实验设计", "效果评估"] category: "llm" icon: "🧠" --- LLM...
--- title: "LLM推理系统：构建高可用大模型服务平台" description: "深入解析LLM推理系统的架构设计，包括vLLM、TGI等主流serving框架的实践" tags: ["推理系统", "Serving框架", "高并发"] category: "llm" icon: "...
--- title: "ONNX Runtime：跨平台模型推理引擎" description: "掌握ONNX格式转换和ONNX Runtime推理，实现模型的跨平台无缝部署" tags: ["ONNX", "跨平台推理", "模型转换"] category: "llm" icon: "🧠" -...
--- title: "TensorRT-LLM：NVIDIA大模型推理加速实战" description: "深入学习TensorRT-LLM的优化原理和实战应用，大幅提升LLM推理性能" tags: ["TensorRT-LLM", "NVIDIA", "推理优化"] category: "ll...
--- title: "边缘部署：在移动设备和边缘硬件上运行LLM" description: "探索如何将大语言模型部署到手机、IoT设备等边缘硬件，实现低延迟本地推理" tags: ["边缘计算", "移动推理", "ONNX"] category: "llm" icon: "🧠" --- 边...
--- title: "INT4推理" description: "INT4量化推理技术详解，涵盖GPTQ、AWQ和GGUF格式" tags: ["INT4推理", "GPTQ", "AWQ", "GGUF", "量化"] category: "llm" icon: "🧠" --- INT4推理...
--- title: "模型压缩" description: "大语言模型压缩技术详解，包括剪枝、量化和知识蒸馏" tags: ["模型压缩", "剪枝", "量化", "知识蒸馏"] category: "llm" icon: "🧠" --- 模型压缩 模型压缩（Model Compressio...
--- title: "思维树" description: "Tree-of-Thought推理框架详解，支持多路径搜索与规划" tags: ["Tree-of-Thought", "思维树", "束搜索", "规划"] category: "llm" icon: "🧠" --- 思维树 思维树（...
--- title: "思维链" description: "Chain-of-Thought提示技术详解，提升模型推理能力的核心方法" tags: ["Chain-of-Thought", "思维链", "提示工程", "推理"] category: "llm" icon: "🧠" --- 思维...
--- title: "推理增强" description: "大语言模型推理增强技术，包括过程奖励模型和推理时间计算" tags: ["推理增强", "过程奖励模型", "推理时间计算", "思维链"] category: "llm" icon: "🧠" --- 推理增强 推理增强（Reason...
--- title: "幻觉检测" description: "大语言模型幻觉检测技术，包括事实性验证、接地技术和可信度评估" tags: ["幻觉检测", "事实性", "接地技术", "可信度"] category: "llm" icon: "🧠" --- 幻觉检测 大语言模型的幻觉（Hall...
--- title: "红队测试" description: "大语言模型红队测试方法，包括对抗性测试、安全评估和漏洞发现" tags: ["红队测试", "对抗性测试", "安全评估", "越狱"] category: "llm" icon: "🧠" --- 红队测试 红队测试（Red Team...
--- title: "模型对齐" description: "模型对齐技术详解，包括RLHF、DPO、偏好学习等方法" tags: ["模型对齐", "RLHF", "DPO", "偏好学习"] category: "llm" icon: "🧠" --- 模型对齐 模型对齐（Model Alig...
--- title: "长上下文" description: "长上下文处理技术，包括滑动窗口注意力、位置编码扩展和上下文窗口管理" tags: ["长上下文", "滑动窗口", "位置编码", "上下文扩展"] category: "llm" icon: "🧠" --- 长上下文 长上下文处理是...
--- title: "MoE架构" description: "混合专家模型的原理与应用，涵盖稀疏激活、路由机制和Mixtral等模型" tags: ["MoE", "混合专家", "模型架构", "稀疏模型"] category: "llm" icon: "🧠" --- MoE架构 混合专家模...
--- title: "注意力变体" description: "掌握注意力机制的各类变体，包括MQA、GQA、Flash Attention和线性注意力的原理与实现" tags: ["注意力变体", "MQA", "GQA", "Flash Attention", "线性注意力"] categor...
--- title: "架构设计" description: "掌握LLM系统架构设计的核心原则，包括微服务架构、可扩展性和性能优化策略" tags: ["架构设计", "LLM系统", "微服务", "性能优化"] category: "llm" icon: "🧠" --- 架构设计 LLM系统...
--- title: "Function Calling" description: "掌握OpenAI Function Calling机制的原理与实现，理解结构化输出的最佳实践" tags: ["Function Calling", "OpenAI", "结构化输出", "工具调用"] cate...
--- title: "工具使用" description: "掌握LLM工具使用的核心技术，包括API调用、插件系统和工具集成的最佳实践" tags: ["工具使用", "API调用", "插件系统", "工具集成"] category: "llm" icon: "🧠" --- 工具使用 什么是...
--- title: "ReAct模式" description: "深入理解ReAct推理与行动模式的原理，掌握思考-行动-观察循环的实现方法" tags: ["ReAct", "推理与行动", "思考循环", "智能体"] category: "llm" icon: "🧠" --- ReAct...
--- title: "Agent框架" description: "掌握AI Agent框架的设计原理，包括LangChain、AutoGPT等主流框架的使用与架构设计" tags: ["Agent框架", "LangChain", "AutoGPT", "智能体设计"] category: "l...
--- title: "扩散模型" description: "深入理解扩散模型的数学原理，包括DDPM、得分匹配和去噪过程的实现" tags: ["扩散模型", "DDPM", "得分匹配", "去噪"] category: "llm" icon: "🧠" --- 扩散模型 扩散模型简介 扩散模...
--- title: "Stable Diffusion" description: "掌握Stable Diffusion的潜在扩散模型原理、文本到图像生成以及图像到图像转换技术" tags: ["Stable Diffusion", "潜在扩散", "文本到图像", "img2img"] cat...
--- title: "CLIP模型" description: "深入理解CLIP模型的对比学习原理、图像文本匹配机制以及零样本分类能力" tags: ["CLIP", "对比学习", "图像文本匹配", "零样本分类"] category: "llm" icon: "🧠" --- CLIP模型...
--- title: "多模态模型" description: "理解多模态模型的基本原理、架构设计与应用场景，涵盖视觉语言模型、图像理解和跨模态对齐技术" tags: ["多模态", "视觉语言模型", "图像理解", "跨模态"] category: "llm" icon: "🧠" --- 多...
--- title: "Tokenizer训练：构建分词器" description: "掌握Tokenizer的训练方法和实现，为LLM构建高效的分词器" tags: ["Tokenizer", "分词器", "BPE", "词表构建"] category: "llm" icon: "🧠" --...
--- title: "LLM预训练：从零构建大模型" description: "掌握LLM预训练的完整流程，包括数据准备、训练策略和评估方法" tags: ["预训练", "Pretraining", "语言模型训练", "基础模型"] category: "llm" icon: "🧠" --...
--- title: + title + --- description: + desc + tags: ["模型架构", "设计", "LLM"] category: llm icon: 🧠 --- 模型架构设计 设计原则 - 可扩展性：支持...
--- title: "学习率调度：训练收敛的关键" description: "掌握学习率调度的原理和实现，优化LLM训练过程" tags: ["学习率调度", "LR Scheduler", "训练优化", "收敛"] category: "llm" icon: "🧠" --- 学习率调度：训...
--- title: "梯度累积：模拟大Batch训练" description: "掌握梯度累积的原理和实现，在有限内存下实现大Batch训练效果" tags: ["梯度累积", "大Batch", "内存优化", "训练稳定性"] category: "llm" icon: "🧠" --- 梯...
--- title: "混合精度训练：FP16/BF16加速" description: "掌握混合精度训练的原理和实现，显著提升训练速度并减少内存" tags: ["混合精度", "FP16", "BF16", "AMP"] category: "llm" icon: "🧠" --- 混合精度训...
--- title: "数据并行：样本级并行计算" description: "掌握数据并行的原理和实现，包括DDP、FSDP和ZeRO等技术" tags: ["数据并行", "DDP", "FSDP", "ZeRO"] category: "llm" icon: "🧠" --- 数据并行：样本级...
--- title: "流水线并行：层间并行计算" description: "掌握流水线并行的原理和实现，实现多GPU间的层间并行" tags: ["流水线并行", "层间并行", "GPipe", "Microbatch"] category: "llm" icon: "🧠" --- 流水线并...
--- title: "张量并行：层内并行计算" description: "掌握张量并行的原理和实现，实现单层内的多GPU并行" tags: ["张量并行", "层内并行", "矩阵分割", "通信优化"] category: "llm" icon: "🧠" --- 张量并行：层内并行计算 张量...
--- title: "分布式训练：并行化策略详解" description: "掌握分布式训练的核心概念、并行策略和实现方法" tags: ["分布式训练", "并行计算", "数据并行", "模型并行"] category: "llm" icon: "🧠" --- 分布式训练：并行化策略详解...
--- title: "Megatron-LM：NVIDIA大模型训练框架" description: "深入了解Megatron-LM的架构设计和大规模分布式训练技术" tags: ["Megatron-LM", "NVIDIA", "张量并行", "大规模训练"] category: "llm"...
--- title: "LLM训练框架大全" description: "全面介绍主流LLM训练框架的特点和使用方法" tags: ["训练框架", "LLM训练", "分布式训练", "DeepSpeed"] category: "llm" icon: "🧠" --- LLM训练框架大全 训练框...
--- title: "Phi系列：微软小模型大能力" description: "深入了解Phi系列模型的创新训练方法和小模型性能突破" tags: ["Phi", "微软", "小模型", "高质量数据"] category: "llm" icon: "🧠" --- Phi系列：微软小模型大能...
--- title: "Gemma：Google开源轻量模型" description: "深入了解Gemma系列模型的特点和轻量化设计" tags: ["Gemma", "Google", "轻量模型", "开源LLM"] category: "llm" icon: "🧠" --- Gemma：...
--- title: "DeepSeek：深度求索大模型" description: "深入了解DeepSeek系列模型的创新架构和代码能力" tags: ["DeepSeek", "深度求索", "代码模型", "MoE"] category: "llm" icon: "🧠" --- DeepS...
--- title: "Yi系列大模型：零一万物" description: "深入了解Yi系列模型的架构特点和高性能表现" tags: ["Yi", "零一万物", "中文LLM", "开源模型"] category: "llm" icon: "🧠" --- Yi系列大模型：零一万物 Yi简介...
--- title: "百川大模型：Baichuan系列" description: "深入了解Baichuan系列模型的特点、架构和中文能力" tags: ["Baichuan", "百川", "中文LLM", "开源模型"] category: "llm" icon: "🧠" --- 百川大模...
--- title: "InternLM：书生系列大模型" description: "深入了解InternLM系列模型的设计特点和多模态能力" tags: ["InternLM", "书生", "上海AI实验室", "开源模型"] category: "llm" icon: "🧠" --- In...
--- title: "ChatGLM：智谱AI对话模型" description: "深入了解ChatGLM系列模型的特点、架构和中文对话能力" tags: ["ChatGLM", "智谱AI", "中文对话", "开源模型"] category: "llm" icon: "🧠" --- Cha...
--- title: "通义千问Qwen：阿里云大模型" description: "深入了解Qwen系列模型的架构特点、多模态能力和中文优化" tags: ["Qwen", "通义千问", "阿里云", "中文LLM"] category: "llm" icon: "🧠" --- 通义千问Qwe...
--- title: "Mistral模型：高效开源LLM" description: "深入了解Mistral模型的设计特点、Sliding Window Attention和高性能推理" tags: ["Mistral", "开源模型", "高效推理", "Sliding Window"] ca...
--- title: "LLaMA系列模型详解" description: "深入了解LLaMA模型家族的设计理念、架构特点和开源生态" tags: ["LLaMA", "Meta", "开源模型", "大语言模型"] category: "llm" icon: "🧠" --- LLaMA系列模型...
--- title: "AWQ：激活感知量化" description: "掌握AWQ的原理和实现，实现更高质量的LLM量化" tags: ["AWQ", "激活感知量化", "模型压缩", "高效推理"] category: "llm" icon: "🧠" --- AWQ：激活感知量化 AWQ简...
--- title: "GPTQ：训练后量化技术" description: "掌握GPTQ的原理和实现，实现LLM的高效量化压缩" tags: ["GPTQ", "训练后量化", "模型压缩", "INT4量化"] category: "llm" icon: "🧠" --- GPTQ：训练后量化...
--- title: "模型蒸馏：大模型知识迁移" description: "掌握模型蒸馏的原理和实现，将大模型能力迁移到小模型中" tags: ["模型蒸馏", "知识蒸馏", "知识迁移", "模型压缩"] category: "llm" icon: "🧠" --- 模型蒸馏：大模型知识迁移...
--- title: "投机解码：加速自回归生成" description: "掌握投机解码的原理和实现，通过并行验证显著提升生成速度" tags: ["投机解码", "Speculative Decoding", "并行解码", "推理加速"] category: "llm" icon: "🧠"...
--- title: "连续批处理：高吞吐量推理" description: "掌握连续批处理的原理和实现，实现LLM服务的最大化吞吐量" tags: ["连续批处理", "动态批处理", "高吞吐量", "推理优化"] category: "llm" icon: "🧠" --- 连续批处理：高吞...
--- title: "PagedAttention：高效KV Cache管理" description: "深入理解PagedAttention的原理和vLLM的实现，实现高吞吐量LLM服务" tags: ["PagedAttention", "vLLM", "KV Cache", "内存管理"]...
--- title: "Flash Attention：高效注意力计算" description: "掌握Flash Attention的原理和实现，显著提升Transformer推理速度" tags: ["Flash Attention", "注意力优化", "GPU加速", "IO感知"] ca...
--- title: "KV Cache：自回归生成加速器" description: "深入理解KV Cache的工作原理、实现方法和内存优化策略" tags: ["KV Cache", "自回归生成", "推理优化", "内存管理"] category: "llm" icon: "🧠" ---...
--- title: "LLM推理优化技术" description: "掌握大语言模型推理优化的各种技术，包括量化、缓存、批处理和并行推理" tags: ["推理优化", "量化推理", "推理加速", "性能优化"] category: "llm" icon: "🧠" --- LLM推理优化技...
--- title: "LoRA适配器合并" description: "掌握LoRA适配器的合并技术，包括单适配器合并、多适配器融合和权重调优" tags: ["LoRA合并", "适配器融合", "权重合并", "模型部署"] category: "llm" icon: "🧠" --- LoR...
--- title: "模型合并：组合多个模型的能力" description: "掌握模型合并的各种技术，包括权重平均、任务算术和DARE等方法" tags: ["模型合并", "权重平均", "模型组合", "能力融合"] category: "llm" icon: "🧠" --- 模型合并：...
--- title: "BLEU与ROUGE：文本生成评估指标" description: "掌握BLEU和ROUGE指标的原理、计算方法和在LLM评估中的应用" tags: ["BLEU", "ROUGE", "文本评估", "机器翻译"] category: "llm" icon: "🧠" -...
--- title: "困惑度：语言模型的核心指标" description: "深入理解困惑度的原理、计算方法和在LLM评估中的应用" tags: ["困惑度", "Perplexity", "语言模型评估", "信息论"] category: "llm" icon: "🧠" --- 困惑度：语...
--- title: "LLM评估指标全面指南" description: "掌握大语言模型评估的各种指标，包括自动评估、人工评估和基准测试" tags: ["评估指标", "模型评估", "基准测试", "性能度量"] category: "llm" icon: "🧠" --- LLM评估指标全...
--- title: "数据标注：构建高质量训练数据" description: "掌握数据标注的方法论、工具选择和质量控制，构建高质量的LLM训练数据" tags: ["数据标注", "人工标注", "标注工具", "质量控制"] category: "llm" icon: "🧠" --- 数据...
--- title: "SFT训练：监督微调实战" description: "掌握监督微调的完整流程，从数据准备到模型训练和评估" tags: ["SFT", "监督微调", "指令微调", "模型训练"] category: "llm" icon: "🧠" --- SFT训练：监督微调实战 S...
--- title: "奖励模型：RLHF的核心组件" description: "掌握奖励模型的设计、训练和评估，理解其在RLHF中的关键作用" tags: ["奖励模型", "Reward Model", "偏好学习", "RLHF"] category: "llm" icon: "🧠" --...
--- title: "DPO算法：直接偏好优化" description: "掌握DPO的原理和实现，无需奖励模型的简化对齐方法" tags: ["DPO", "偏好优化", "RLHF替代", "模型对齐"] category: "llm" icon: "🧠" --- DPO算法：直接偏好优化...
--- title: "PPO算法：近端策略优化" description: "深入理解PPO算法原理、实现细节和在RLHF中的应用" tags: ["PPO", "强化学习", "策略优化", "RLHF"] category: "llm" icon: "🧠" --- PPO算法：近端策略优化...
--- title: "RLHF基础：人类反馈强化学习" description: "理解RLHF的核心原理、三阶段训练流程和在LLM对齐中的应用" tags: ["RLHF", "人类反馈", "强化学习", "模型对齐"] category: "llm" icon: "🧠" --- RLHF基...
--- title: "指令微调：让模型学会听从指令" description: "掌握指令微调的数据构建、训练策略和评估方法，提升模型的指令遵循能力" tags: ["指令微调", "Instruction Tuning", "监督学习", "任务泛化"] category: "llm" icon...
--- title: "LLM训练数据清洗技术" description: "深入掌握训练数据清洗的各种技术，包括文本清洗、质量过滤和去重策略" tags: ["数据清洗", "文本处理", "质量过滤", "去重"] category: "llm" icon: "🧠" --- LLM训练数据清洗...
--- title: "LLM训练数据准备" description: "掌握大语言模型训练数据的收集、清洗、预处理和格式化全流程" tags: ["数据准备", "数据收集", "预处理", "训练数据"] category: "llm" icon: "🧠" --- LLM训练数据准备 数据准备...
--- title: "FSDP：PyTorch全分片数据并行" description: "掌握FSDP的核心原理和实践方法，实现高效的分布式模型训练" tags: ["FSDP", "PyTorch", "分布式训练", "全分片"] category: "llm" icon: "🧠" ---...
--- title: "DeepSpeed：微软分布式训练框架" description: "掌握DeepSpeed的核心技术ZeRO优化、混合精度训练和流水线并行，高效训练大模型" tags: ["DeepSpeed", "分布式训练", "ZeRO", "大模型训练"] category: "l...
--- title: "PEFT库：参数高效微调工具集" description: "全面介绍PEFT库支持的各种参数高效微调方法，选择最适合的微调策略" tags: ["PEFT", "参数高效微调", "Adapter", "Prefix Tuning"] category: "llm" ico...
--- title: "全量微调：完整模型参数更新" description: "掌握全量微调的技术细节、资源配置和最佳实践，适用于追求极致性能的场景" tags: ["全量微调", "完整训练", "大模型训练", "分布式训练"] category: "llm" icon: "🧠" --- 全...
--- title: "QLoRA：量化感知的高效微调" description: "掌握QLoRA的量化技术与LoRA的结合，实现单卡微调大模型的突破" tags: ["QLoRA", "量化微调", "4-bit量化", "显存优化"] category: "llm" icon: "🧠" --...
--- title: "LoRA微调：高效的模型适配技术" description: "深入理解LoRA的原理、实现和实践，掌握低秩适配在大模型微调中的应用" tags: ["LoRA", "微调", "参数高效", "低秩适配"] category: "llm" icon: "🧠" --- Lo...
--- title: "LLM评估基础" --- description: "介绍大语言模型的评估方法、指标和基准测试" tags: ["LLM评估", "基准测试", "NLP", "模型评估"] category: "llm" icon: "🧠" --- LLM评估基础...
--- title: "LangChain高级：链式调用与Agent" description: "深入掌握LangChain的高级Chain类型、Agent机制和自定义工具开发" tags: ["LangChain", "Chain", "Agent", "工具调用"] category: "ll...
--- title: "LangChain基础：构建LLM应用的核心框架" description: "系统学习LangChain的核心组件、链式调用和代理机制，掌握LLM应用开发的完整流程" tags: ["LangChain", "LLM应用", "Chain", "Agent"] catego...
--- title: "向量数据库入门" description: "全面介绍向量数据库的原理和主流产品的使用方法" tags: ["向量数据库", "FAISS", "ChromaDB", "Milvus"] category: "llm" icon: "🧠" --- 向量数据库入...
--- title: "RAG检索增强生成基础" --- description: "全面介绍RAG系统的原理、组件和实现方法" tags: ["RAG", "检索增强生?, "LLM", "向量检?] category: "llm" icon: "🧠" --- RAG检索增强...
--- title: "LlamaIndex：数据驱动的LLM应用框架" description: "深入掌握LlamaIndex的核心概念、数据索引策略和查询引擎，构建强大的RAG应用" tags: ["LlamaIndex", "RAG", "LLM应用", "数据索引"] category:...
--- title: "Weaviate：AI原生向量数据库" description: "探索Weaviate的独特设计，掌握混合搜索、多模态向量化和GraphQL查询的强大功能" tags: ["Weaviate", "向量数据库", "混合搜索", "GraphQL"] category: "...
--- title: "对话系统构建指南" --- description: "介绍如何使用大语言模型构建智能对话系统" tags: ["对话系统", "Chatbot", "LLM"] category: "llm" icon: "🧠" --- 对话系统构建指南 对话系...
--- title: "Pinecone：云原生向量数据库详解" description: "深入了解Pinecone的架构设计、使用方法和最佳实践，构建高性能向量检索系统" tags: ["Pinecone", "向量数据库", "云服务", "实时检索"] category: "llm" ico...
--- title: "文本生成技术详解" description: "深入介绍大语言模型的文本生成原理和各种解码策略" tags: ["文本生成", "解码策略", "LLM", "NLP"] category: "llm" icon: "🧠" --- 文本生成技术详解 文本生成原理 大语言模型...
--- title: "Tokenizer训练指南" description: "介绍如何训练自定义分词器，满足特定领域的需求" tags: ["Tokenizer", "BPE", "分词器训练", "NLP"] category: "llm" icon: "🧠" --- Tokenizer训练...
--- title: "ChromaDB：轻量级向量数据库实战" description: "掌握ChromaDB的核心用法，从安装部署到构建完整的RAG应用，适合快速原型开发" tags: ["ChromaDB", "向量数据库", "RAG", "嵌入"] category: "llm" ico...
--- title: "向量数据库：LLM时代的基础设施" description: "深入理解向量数据库的核心原理、应用场景以及主流解决方案，掌握RAG系统的关键组件" tags: ["向量数据库", "向量检索", "相似度搜索", "RAG"] category: "llm" icon: "�...
--- title: "Transformers库完全指南" description: "深入介绍HuggingFace Transformers库的使用方法和高级特性" tags: ["Transformers", "HuggingFace", "模型加载", "推理"] category: "l...
--- title: "Hugging Face入门指南" description: "全面介绍Hugging Face生态系统，包括Hub、Transformers和Spaces" tags: ["HuggingFace", "Transformers", "NLP", "开源"] categor...
--- title: "模型下载指南" description: "全面介绍如何从HuggingFace、ModelScope等平台下载大语言模型" tags: ["模型下载", "HuggingFace", "ModelScope", "模型仓库"] category: "llm" icon: "...
--- title: "SafeTensors：安全的模型存储格式" description: "介绍SafeTensors格式的特点和使用方法，实现安全高效的模型加载" tags: ["SafeTensors", "模型格式", "HuggingFace", "安全"] category: "ll...
--- title: "GGUF格式详解" description: "深入了解GGUF格式的特点和使用方法，实现高效模型部署" tags: ["GGUF", "模型格式", "llama.cpp", "量化"] category: "llm" icon: "🧠" --- GGUF格式详解 什么是...
--- title: "模型量化基础：降低推理成本" description: "介绍模型量化的基本原理和常用方法，实现高效的模型部署" tags: ["量化", "模型压缩", "推理优化", "部署"] category: "llm" icon: "🧠" --- 模型量化基础：降低推理成本 什...
--- title: "vLLM基础：高吞吐量推理引擎" description: "介绍vLLM的核心特性和使用方法，实现高性能LLM服务部署" tags: ["vLLM", "推理优化", "PagedAttention", "服务部署"] category: "llm" icon: "🧠"...
--- title: "llama.cpp：高效CPU/GPU推理" description: "介绍llama.cpp的使用方法，实现高效的本地模型推理" tags: ["llama.cpp", "GGUF", "CPU推理", "量化"] category: "llm" icon: "🧠" -...
--- title: "Ollama：本地LLM运行利器" description: "详细介绍Ollama的安装、使用和高级配置，轻松运行本地大语言模型" tags: ["Ollama", "本地部署", "LLM", "开源"] category: "llm" icon: "🧠" --- Ol...
--- title: "本地LLM部署指南" description: "全面介绍如何在本地部署和运行大语言模型，包括硬件要求和优化技巧" tags: ["本地部署", "LLM", "Ollama", "推理"] category: "llm" icon: "🧠" --- 本地LLM部署指南 为...
--- title: "Claude API完全指南" description: "详细介绍Anthropic Claude API的使用方法和高级特性" tags: ["Claude", "Anthropic", "API", "LLM"] category: "llm" icon: "🧠" -...
--- title: "OpenAI API完全指南" description: "详细介绍OpenAI API的使用方法、参数配置和最佳实践" tags: ["OpenAI", "API", "GPT", "开发"] category: "llm" icon: "🧠" --- OpenAI AP...
--- title: "LLM API调用实战" description: "全面介绍如何调用主流大语言模型API，包括OpenAI、Claude、国产模型等" tags: ["LLM API", "API调用", "OpenAI", "Claude"] category: "llm" icon:...
--- title: "In-Context Learning：上下文学习机制" description: "深入理解大语言模型的上下文学习能力及其工作原理" tags: ["In-Context Learning", "上下文学习", "LLM", "元学习"] category: "llm" i...
--- title: "Zero-shot学习：无示例推理" description: "探索大语言模型的零样本学习能力，无需任何示例即可完成任务" tags: ["Zero-shot", "零样本学习", "LLM", "推理"] category: "llm" icon: "🧠" --- Ze...
--- title: "Few-shot学习：小样本学习技术" description: "理解大语言模型中的少样本学习原理和实践技巧" tags: ["Few-shot", "少样本学习", "In-Context Learning", "LLM"] category: "llm" icon: "...
--- title: "Prompt Engineering：提示工程实战指南" description: "掌握高效的大语言模型提示技巧，包括零样本、少样本和思维链等方法" tags: ["Prompt Engineering", "提示工程", "LLM", "实战"] category: "l...
--- title: "Embedding：词向量与语义表示" description: "理解词嵌入技术从Word2Vec到现代Transformer嵌入的发展历程" tags: ["Embedding", "词向量", "语义表示", "NLP"] category: "llm" icon: "...
--- title: "Tokenization：文本分词技术详解" description: "深入理解BPE、WordPiece、SentencePiece等分词算法及其在LLM中的应用" tags: ["Tokenization", "BPE", "分词", "NLP"] category:...
--- title: "BERT系列模型详解" description: "深入理解BERT及其变体（RoBERTa、ALBERT、DeBERTa）的架构和应用" tags: ["BERT", "预训练", "NLP", "双向编码器"] category: "llm" icon: "🧠" ---...
--- title: "GPT系列模型演进与原理" description: "回顾GPT-1到GPT-4的发展历程，理解生成式预训练的核心思想" tags: ["GPT", "OpenAI", "生成模型", "预训练"] category: "llm" icon: "🧠" --- GPT系列模...
--- title: "注意力机制深入解析" description: "从数学原理到代码实现，全面理解Transformer中的注意力机制" tags: ["注意力机制", "Self-Attention", "Transformer", "深度学习"] category: "llm" icon:...
--- title: "Transformer原理详解" description: "深入解析Transformer架构的核心组件和工作原理，理解现代大语言模型的基石" tags: ["Transformer", "深度学习", "NLP", "架构"] category: "llm" icon:...
--- title: "LLM概念入门：什么是大语言模型" description: "全面介绍大语言模型（Large Language Model）的基本概念、发展历程和核心原理" tags: ["LLM", "大语言模型", "入门", "概念"] category: "llm" icon: "...