大模型技术应用——AIXX建设项目采购需求.docx

大模型技术应用一一AIXX建设项目采购需求一、项目概述AIXX建设项目，意在通过深度应用跨越式发展的大模型技术，聚焦政务智慧协同和业务智能化，推动XX数字政府智慧化的范式变革，提供整体智治的政务协同体系和基层治理体系，以数字政府智慧化引领政务创新，实现高效履职和基层减负。项目建设内容包括：（1）模型底座：Al数据处理平台、政务大模型服务平台、政务垂类大模型专家调优服务。（2）大模型业务支撑平台：智能业务集成开放平台、X政钉底座智能化升级。（3）智慧化场景应用层：政务业务智能助手、智能辅助创作平台、智慧办公场景应用。二、模型底座1 .AI数据处理平台AI数据处理平台对接上游数据源，通过数据处理工具，将传统的非结构化、结构化语料转化为用于智能化业务的向量及其他Al友好数据，整合分散在各部门的政务知识，实现智能数据标准化与治理，为Al模型训练及应用提供高质量数据，建立健全Al数据安全管理体系，确保数据在采集、传输、存储、处理过程中的安全性与合规性。1.1. AI数据处理平台用户管理AI数据处理平台的用户管理功能旨在提供用户认证与权限控制体系。支持通过X政钉账号密码登录或扫码登录，支持找回密码和新账号激活功能；支持管理员新增或移除数据集管理员，实现多角色协作。主要功能包括登录认证和权限管控。1.2.智能数据要素集元数据管理智能数据要素元数据管理提供数据要素的基础信息和元数据管理功能。提供数据要素集的基础增删改差能力。提供数据要素的分类标签、使用场景标签、来源标签、关键词等元数据信息编辑能力。针对多模态数据，提供智能化元数据自动提取功能。主要功能包括数据集列表、数据集操作、数据集元数据浏览、数据集详情、数据集文档详情。1. 3.智能数据要素数据接入智能数据要素数据接入提供多方系统数据源的连接管理和数据同步能力。提供数据源连接状态监控与管理能力，提供数据源连接调试预览能力，支持对多种格式的数据源的配置后预览。主要功能包括本地文件与外部数据源注册、数据源连接验证与参数校验、数据源预览、数据源状态预览、数据抽取任务进度浏览、数据接入日志与审计追踪。L4.智能数据要素清洗智能数据要素清洗提供数据要素的粗加工能力。将不同来源、不同格式、不同结构、不同模态的文档内容统一转换为标准的多模态信息块形态。在系统自动清洗处理以外，提供预处理策略选择、清洗流程编排、清洗规则配置以及信息块编辑功能。主要功能包括文档解析与结构化提取、文档解析与结构化提取配置、数据转换预览、数据清洗与质量评估、数据预处理工作流配置与执行、数据质量问题自动检测、敏感信息智能识别与脱敏。1. 5.智能数据要素知识建模智能数据要素知识建模子系统对标准的多模态信息块进行知识抽取、知识表示、知识索引以及知识标注处理。面向知识文档场景，提供将信息块建模为知识片段和知识图谱的功能。针对模型训练场景,提供对信息块进行人工标注的功能,支持标注为模型训练所需数据格式。主要功能包括知识抽取规则配置、行业图谱自动化构建、图谱知识融合操作、增量图谱构建、知识可视化操作、人工标注增强。1.6. 智能数据要素目录智能数据要素目录提供数据要素集的管理台导航、搜索和推荐能力，用于业务场景相关数据要素集的检索与定位。包含数据要素集统一搜索入口，包含对数据要素集的分类型筛选功能。提供数据要素集之间的关系分析挖掘能力，包含数据要素推荐和数据关系预览功能。主要功能包括智能数据要素目录构建、知识发现引擎、智能数据要素集关系管理、元数据管理与检索。1.7. 智能数据要素分发智能数据要素分发与集成扩展子系统提供安全的系统集成和数据使用功能。提供数据要素集的权限管控能力，控制数据要素集的可见性和开发授权。提供数据要素流转过程的安全审计功能。提供数据要素集快速集成至智能业务集开环境、模型服务训练环境的能力。主要功能包括数据导出、数据集分享、数据要素浏览、数据要素集成。2.政务大模型服务平台政务大模型服务平台是政务智慧办公和业务智能化的模型基础支撑平台，提供基于业务场景需求的模型调优能力，通过多种训练算法和框架实现一站式政务专属大模型生产。平台提供模型训练、模型推理、数据集管理、服务调度等模型开发和应用的整套工具链，可实现多种垂类模型的训练、推理和部署，并进行统一管理，是业务智能化的“发动机”。2.L模型训练系统支持快速选择数据集，基于通用模型训练能力，低成本微调模型。支持从预训练到SFT（监督微调）训练，再到RLHF（人类反馈强化学习）训练，完成垂类模型生产。主要功能包括底模型管理、知识问答预训练、知识问答SFT（监督微调）训练、知识问答RLHF（人类反馈学习）训练、通用模型训练、训练任务调度。2.2.模型管理支持正在进行训练和完成训练的政务垂类模型管理，提供可视化页面，作为AIXX模型管理统一入口，包括模型训练进度展示、各模型状态管理等。主要功能包括专属模型训练任务管理、专属模型状态管理。2.3.模型体验模型体验中心为政府提供多个模型在线体验服务，可同时选择三个不同的模型，咨询相同问题，对比各个模型响应的内容差异和响应时长等。主要功能包括多模型在线体验。2. 4.训练数据集管理在数据集管理模块中，管理对训练大模型至关重要的训练数据，按照不同的训练目的，支持SFT（监督微调）、Pre-train（预训练）、RLHF（人类反馈强化学习）等多种训练数据集的管理，并提供多种文件格式的上传和解析能力，让模型训练变得更加顺畅和高效。主要功能包括数据上传、数据管理。2. 5.资源管理通过可视化手段对模型训练、推理消耗的资源从多个维度进行管理、统计和分析。主要功能包括TOkenS消耗看板。3. 政务垂类大模型专家调优服务基于AIXX的需求，实施政务垂类模型训练和调优服务。包含数据处理、模型训练、模型测试等服务，提供定制化训练专属模型，提高垂类模型在特定场景任务上的效果，完成政策解读模型、业务问答模型、智能审核（校对）模型、智能PPT创作模型、公文创作模型5个模型的调优服务。3.1.数据处理服务完成政策解读模型、业务问答模型、智能审核（校对）模型、智能PPT创作模型、公文创作模型5个模型的数据处理服务。数据处理包括3个方面。第一，数据集构建，根据特定的领域任务场景，构建通用数据集、领域知识数据集、场景任务数据集、用户自有数据集。第二，数据集做清洗，包括去重、处理、低质量内容过滤等。第三，通过数据增强能力扩展数据样本，提高模型的泛化能力。主要服务包括数据集构建、数据清洗、数据增强服务。3.2.模型训练服务完成政策解读模型、业务问答模型、智能审核（校对）模型、智能PPT创作模型、公文创作模型5个模型的模型训练服务。模型训练包括3个关键步骤：一是ContinUalPretrain（继续预训练），通过引入领域知识来强化专属模型在特定领域的知识；二是SFT（监督微调），在特定任务上进行有监督学习，以提升大模型在特定任务上的指令遵循能力；三是RLHF（人类反馈强化学习），通过用户反馈进行进一步调整，旨在提高模型的响应质量与用户满意度。主要服务包括继续预训练、监督微调、人类反馈学习服务。3.3.模型测试服务完成政策解读模型、业务问答模型、智能审核（校对）模型、智能PPT创作模型、公文创作模型5个模型的模型测试服务。模型测试主要涵盖评测构建、自动化评测和人工测试三个方面。评测构建是通过设计和创建合适的测试用例和评测指标，以确保专属模型满足预期需求。自动化评测则借助大模型能力，快速高效地执行大量测试，提升检测效率。人工测试则关注于深度分析和最终确定评估模型表现，确保在复杂场景下的稳健性和可靠性。三者相辅相成，共同评估模型的质量和实用性。主要服务包括人工评测构建服务、自动化评测服务、抽样人工测试服务。三、大模型业务支撑平台1.智能业务集成开放平台智能业务集成开放平台是让政务大模型走向工程化应用的桥梁，主要包括智能应用管理、智能助手搭建、智能助手技能中心和智能助手增强学习四部分。通过低代码方式搭建智能助手，实现AI技能、X政钉一方应用技能和三方应用技能的智能化调度，让智能助手紧密地和业务系统协作起来，为平台智能应用生态繁荣提供有力支撑。LL智能应用管理智能应用管理用于构建和管理智能体开发所需的工具集。提供了一套全面的功能，帮助开发者轻松创建、发布智能应用。通过直观的界面和丰富的接口，用户可以管理智能应用的入驻、上架、下架和发布，加速智能助手的上线过程。主要功能包括集成登录、智能应用开发。通过系统可以创建、发布智能应用，管理智能应用的入驻、上架、下架和发布，也包括智能应用基本信息（名称、图标、简介）、权限、API的管理与配置。1. 2.智能助手搭建智能助手搭建平台提供接口开发、智能助手创建和接口目录等功能。管理员可以通过平台进行智能接口的设计与实现,便于与其他系统进行数据交互。同时,平台支持智能助手的白屏化创建，帮助用户实现自动化任务和信息处理。止匕外,接口目录功能便于管理和查找已开发的接口，提高开发效率和资源利用率。该平台旨在为开发者提供便捷的工具和资源，以支持智能应用的构建与整合。主要功能包括开放接口、智能助手创建、智能助手安稳生产。通过系统可以进行智能助手的创建，包括名称、头像、能力信息、欢迎语的设置。可以进行Al技能的选择编排，并进行预览测试。L3.智能助手技能中心开发者可以通过该中心选择和集成预定义的技能，也可以自定义新的技能来满足特定需求。技能中心简化了技能的开发和部署流程，支持技能的测试、发布和更新，从而增强智能助手的功能和服务范围。主要功能包括问答技能、接口技能、大模型工作流节点、知识检索工作流节点、问题分类器节点、条件分支节点、业务迭代节点、代码执行器节点、模板转换节点、变量聚合器节点、参数提取器节点、网址请求节点、工作流其他节点。通过系统可以进行问答技能、接口技能、工作流技能的创建编排，可以进行提示词的设置、安全内容审查设置、模型选择、知识集的挂载以及技能的调试，可以查看AI技能运行的历史日志。1. 4.智能助手增强学习智能助手增强学习通过用户行为采集、分析和学习优化，实现Al的持续自优化。平台通过数据采集工具记录用户的交互行为，包括点击、停留时间和反馈等。其次，利用数据分析技术，平台识别用户的偏好和需求，生成行为模式。最后，基于分析结果，系统不断调整和优化推荐算法，实现实时学习。最终，平台能够逐步提升用户体验，确保提供更精准和有针对性的建议与服务，满足用户的多样化需求。主要功能包括用户行为采集、用户行为分析、用户行为学习与优化、数据与安全、系统集成。2. X政钉底座智能化升级X政钉底座智能化升级为AIXX提供共性支撑，主要包含以下四大模块，一是打造智能广场，统一Al应用入口；二是智能化交互革新，提供智能助手统一前端组件，优化Al交互卡片及会话管理，支持与Al助手多维度对话交流；三是构建政务知识图谱支持智能搜索，实现信息智能检索；四是将智能助手数字分身融入政务组织架构体系，确保权限管理灵活安全。2. L智能广场为AIXX提供统一入口，用户可通过列表查看所有智能应用概要信息，选中应用后可以进入智能应用或开始智能助手会话。主要功能包括应用列表展示、应用切换交互。2. 2.智能助手智能助手提供聊天窗口实现智能对话、会话管理等功能，界面可展示不同类型的富文本消息、，可根据用户需求创建或切换对话。主要功能包括应用信息展示、历史聊天消息展示、欢迎词展示、富文本多类型聊天消息展示、富文本多类型聊天消息展示、多角色聊天消息展示、多角色聊天消息展示、聊天消息对话框交互。2. 3.智能搜索构建政务领域的知识图谱，政府部门可以使用智能搜索工具管理内部文档、知识库和智能化应用，提高搜索结果的相关性和精确度，提高工作效率。主要功能包括智能搜索记忆、智能搜索多模态感知、智能搜索规划、智能知识库