人工智能服务器采购项目（第二次）招标公告

X-X 推理服务器（数量X台）；

一、功能用途（货物用途、需实X采购政策需满足的要求）

用于科研教学使用，为科研教学提供算力。

二、技术规格及参数要求（货物基本参数要求，包括需满足的质量、安全、技术规格、物理特性等要求）

★1.配置≥4颗处理器（需通过中国信息X安全可靠测评）；单颗处理器核心数≥X核心，主频≥2.6GHz；

★2.主板：主板内存槽数量≥X；

★3.配置≥1TB 内存，内存频率≥XMT/S；

★4.配置≥2块XG SSD硬盘、≥2块7.XT NVMe SSD硬盘。提供RAID卡，支持RAID 0、 1、 5、 X。

★5.配置≥4个XGE端口（满配光模块）,配置≥8个XGE端口（满配光模块）；

★6.电源：配置≥4个XW冗余电源；

★7．不超过4U空间提供≥2.2 PFLOPS FPX算力；

★8．配置不少于8颗GPU/NPU，单颗GPU/NPU提供不低于XGB HBM，支持GPU/NPX口；

★9. GPU/NPU间支持fullmesh全互联，互联带宽最大不低于XGB/s；

★X.配置独立的远程管理控制端口，支持远程监控图形界面；

▲X.支持故障检测功能，精确定位硬件故障，可精确到FRU；

★X.支持告警管理及SNMP Trap、 SMTP、 syslog服务多种格式告警上报，保障设备7*X小时高可靠运行；

★X.支持将本地媒体设备或镜像、文件夹虚拟为远程设备；

▲X.支持使用客户端证书和证书密码的双因素认证方式登录单板管理系统。

▲X. 推理服务器与推理服务器采用的RAID卡为同一品牌。

X-X管理服务器（数量X台）；

一、功能用途（货物用途、需实X采购政策需满足的要求）

用作部署科研教学等软件。

二、技术规格及参数要求（货物基本参数要求，包括需满足的质量、安全、技术规格、物理特性等要求）

★1.配置≥2颗处理器（需通过中国信息X安全可靠测评）；单颗处理器核心数≥X核心，主频≥2.6GHz；

★2.主板：主板内存槽数量≥X；

★3.配置≥XGB 内存，内存频率≥XMT/S；

★4.配置≥2块XG SSD硬盘、≥2块8T HDD硬盘。提供RAID卡，支持RAID 0、 1、 5、 X。

★5.配置≥4个GE端口，≥4个XGE端口（满配光模块）；

★6.电源：配置≥2个XW冗余电源；

▲7.支持中文BIOS界面。

X-X XG交换机（数量X台）；

一、功能用途

用XX络X结构完X、实现相应功能服务。

二、技术规格及参数要求（货物基本参数要求，包括需满足的质量、安全、技术规格、物理特性等要求）

★1.产品类型：企X交换机

★2.交换容量≥4.8Tbps，包转发率≥XMppsX所列最低参数为准；

★3.电源提供1+1备份，风扇模块≥4个；

★4.提供X/XGE SFPX接口数量≥X个，X/XGE QSFPX接口≥6个；

★5.X机可用缓存≥XMB;

★6.支持M-LAG或vPC或DRNI等跨机箱链路捆绑技术；

★7.支持RIP、OSPF、ISIS、BGP 、RIPng、OSPFv3、ISISv6、BGP4+等动态路由协议；

★8.支持Vxlan功能，且支持BGP EVPN特性；

▲9.支持VXLAN over IPv6功能；

▲X.远程端口镜像支持ERSPAN增强功能；

▲X.设备应支持文件提权、非法用户以及关键文件（包括但不限于：日志文件、系统配置文件等）篡改攻击场景进行检测，并上报日志；

★X.配置要求X兆多模光模块≥X个，XG多模光模块≥X个，XG多模光模块≥4个，XG堆叠线缆≥1条，双交流电源模块，风扇模块满配。

★X.电源电压X-XV AC。

X-X 管理交换机（数量X台）；

一、功能用途（货物用途、需实X采购政策需满足的要求）

X络X结构完X、实现相应功能服务。

二、技术规格及参数要求（货物基本参数要求，包括需满足的质量、安全、技术规格、物理特性等要求）

★1.产品类型：企X交换机 。

★2.交换容量≥XGbps，包转发率≥XMppsX所列最低参数为准；

★3.电源提供1+1备份；

★4.提供≥X个X/X/XBAX端口，≥4 个X兆 SFP+端口；

★5.提供≥2个专用堆叠口，不占用业务口带宽，堆叠带宽（双向）大于XGbps；

★6.支持≥XK个MAC条目。

★7.支持IGMP v1/v2/v3、PIM-SM、PIM-DM、PIM-SSM等组播协议；

★8.支持静态路由、支持 RIP、RIPng、OSPF、OSPFv3、IS-IS、IS-ISv6、 BGP、BGP4+等路由协议；

★9.配置要求X兆多模光模块≥4个，交流电源模块≥2个；

★X.电源电压X-XV AC。

X-X 机柜（数量X台）；

一、功能用途（货物用途、需实X采购政策需满足的要求）

用于X服务器、交换机等的机柜。

二、技术规格及参数要求（货物基本参数要求，包括需满足的质量、安全、技术规格、物理特性等要求）

★1、XU标准服务器机柜，规格：≥X*X*Xmm；

★2、SPCC优质冷扎钢板制作，脱脂，磷化，静电喷塑。

XX软件（数量X套）；

一、功能用途（货物用途、需实X采购政策需满足的要求）

1、实现人工智能算力资源统一管理与调度，为校内教师、学生及科研人员提供稳定的人工智能算力服务并且灵活X配人工智能算力资源；

2、提供全流程人工智能开发工具链，覆盖从数据接入、数据管理、数据预处理、数据标注、模型训练、模型评估优化、模型推理部署、用户体系管理和系统运维等全流程功能；

3、预置DeepSeek等大模型，支持X预置的大模型打造多场景智能体应用；

二、技术规格及参数要求（货物基本参数要求，包括需满足的质量、安全、技术规格、物理特性等要求）

★1X提供一站式的全场景AI开发与应用功能，涵盖从数据接入、数据管理、数据预处理、数据标注、模型训练、模型评估优化、模型推理部署、用户体系管理和系统运维的全流程，使得用X上高效完成AI项目的全生命周期的开发与管理。在校内AI教学和科研场景中，实现算力资源灵活调度，AI数据处理和模型开发效率的大幅度提升（需提供完X的软件界面截图证明）；

★2X预置包括但不限于DeepSeek、千问和LLaMA等不少于3个第三方开源大模型，预置大模型需为开源发布的最新版本。支持基于大模型的知识库构建、在线推理、检索问答等能力。支持校内多部门基于大模型打造场景化智能体应用，提升校内教学、科研和服务管理的智能化水平（需提供完X的软件界面截图证明）；

▲3X支持对不同架构的国际AI算力芯片与国内AI算力芯片（包括但不限于华为昇腾、寒武纪、海光、天数智芯和燧原等）和不同架构的国际与国内通用算力芯片（包括但不限于华为鲲鹏和XX等）等多种异构算力资源进行调度、管理。通过提供至少3种不同算力芯片适配证明或软件界面截图进行证明；

▲4、在执行模型训练和推理任务时，在训练数据集和相关镜像准备完善的前提下，训练任务启动时长低于X秒，任务关闭响应低于X秒，推理请求PXX位延迟低于2X服务的HTTP PXX位延迟低于1.5秒（需提供完X的软件界面截图证明）；

▲5、支持资源弹性调度，支持多资源池划X，用户根据自身需要，将任务调度到所需的资源池上。支持资源视图管理，包括系统资源视图、作业资源视图等（需提供完X的软件界面截图证明）；

▲6、支持专属资源池和共享资源池管理。共享资源池可授权指定用户组使用共享资源并配置可用资源上限，便于在AI教学、科研和大模型推理过程中灵活X配资源。支持普通用户之间数据范围隔离，普通用户仅能查阅和使用自身的数据；管理员可查阅组内所有数据，包括数据集、标注任务、代码开发项目、模型库、模型训练项目（需提供完X的软件界面截图证明）；

★7、支持多租户（组织）和租户隔离。支持多组织管理、用户权限管理、用户组管理及用户管理。支持多种用户类型，包括管理员、普通用户等。支持用户密码保护，可通过邮箱验证重置密码或管理员重置密码。支持用户操作安全审计（需提供完X的软件界面截图证明）；

★8、支持可视化X代码构建数据预处理和模型训练的AI流水线，自由拖拽AI组件与连接线，构建端到端AI流水线。支持全流程自动化执行，自动调度数据预处理、模型训练、评估、发布及服务更新等环节。支持将已验证AI流水线转化为可复用模板。实时可视化展示AI流水线运行状态、节点日志与历史记录（需提供完X的软件界面截图证明）；

▲9、支持数据集上传、数据集下载、数据集X类、数据集排序及数据集查询等功能。支持查看数据集版本详情，展示数据集文件结构，支持用户查看数据集信息，文件目录结构等。支持数据可视化，支持直方图、气泡图、柱状图等数据可视化方法（需提供完X的软件界面截图证明）；

★X、支持用户数据在个人空间管理，包括对文件和文件夹的新建、删除、解压、复制、移动、重命名、上传、下载等，可在个人空间预览常见的图像、文本、音频、视频等文件。支持个人数据移动或复制共享给同一用户组内用户使用（需提供完X的软件界面截图证明）；

▲X、支持多源异构的数据池、数据源管理，支持创建本地上传、***等不同种类的数据通道，实现对结构化、半结构化、非结构化等数据源的接入和管理，可用于回传边端数据、采集终端数据、用户数据库的接入等（需提供完X的软件界面截图证明）；

★X、支持数据ETL，支持用户选择结构化数据源、数据集，创建ETL工作流；支持SQL编辑，支持可视化拖拽的方式搭建ETL建模流程；支持将ETL各节点数据输出为数据集（需提供完X的软件界面截图证明）；

▲X、支持图像处理，包含尺寸修改、裁剪、颜色转换、图像反转、高斯过滤、箱型过滤、图片模糊等处理方式。支持对数据进行清洗，数据格式包括但不限于jpg、jpeg、png、txt、json、csv、xlsx，支持去近似、去模糊、去除语气词、去除邮箱、去除电话号码、去除身份证号的清洗方式。支持对数据增广，增广方式包括但不限于几何变换（缩放、平移、旋转、水平翻转、垂直翻转、水平剪切、垂直剪切），色彩变换（亮度、对比度、色温、色调、饱和度、反色、灰度值均匀X布），其他变换（高斯模糊、锐化、减少通道位数、遮挡）等方式（需提供完X的软件界面截图证明）；

★X、支持图像、文本、视频、语音、3D点云等多种标注类型任务创建，可实现多人标注、团队标注，自动将标注任务拆X成多个作业，每个作业可X配不同的标注员进行标注，支持标签模板管理。支持智能预标注，使用自己上传的模型进行智能预标注（需提供完X的软件界面截图证明）；

★X、支持采用不同架构的国际AI算力芯片与国内AI算力芯片进行模型训练。支持PyTorch、TensorFlow、MindSpore等国内外主流AI框架。支持配置对接git代码仓，直接加载代码进行开发、调试；可通过在线Notebook、VS Code进行代码开发、训练、评估。支持通过SSH信息或密钥方式访问代码开发环境，方便开发者进行远程调试。模型开发过程可视化查看，支持集成使用第三方工具链，包括TensorBoard、MindInsight等。支持conda，可在代码开发中按需选择并激活进入conda虚拟环境，进行模型开发/训练（需提供完X的软件界面截图证明）；

▲X、支持实验对比，支持对项目中的模型训练、评估任务的基本信息、输入参数、输出指标进行对比，包括表格对比和可视化对比。支持模型增量训练，可以加载已有任务输出的权重文件，作为预训练模型进行增量训练（需提供完X的软件界面截图证明）；

★X、用户可基于预置大模型快速开展大模型微调训练。支持LoRA/全量微调，微调过程日志可视化。支持对微调训练后的大模型进行量化、裁剪后部署推理，提供用户推理可调用的API接口，方便用户可以用接口的方式调用大模型的推理能力，提供推理调用监控（需提供完X的软件界面截图证明）；

X、支持通过聊天窗口通过加载已微调的大模型进行对话，从而快速验证大模型能力。聊天窗口可选择不同参数的大模型进行交互使用，支持对大模型回答结果进行反馈优化；

★X、支持用户自定义大模型服务和知识库检索问答服务，可采用自定义服务进行数据问答对生成、数据向量化和检索重排序。支持Prompt模版管理，支持Prompt创建、管理、X色创建及赋能使用（需提供完X的软件界面截图证明）；

X、支持创建推理服务，可配置不同架构的国际AI算力芯片与国内AI算力芯片和不同架构的国际与国内通用算力芯片创建推理任务，提供在线预测服务，支持用户进行在线预测；

▲X、提供推理服务接口调用指南，展示推理服务的API接口地址、模型信息、输入参数、输出参数等信息，用户可以通过复制API接口地X推理服务。支持API鉴权，包括但不限于API Key和AK/SK两种方式（需提供完X的软件界面截图证明）；

X、支持图片、文本等数据输入预测，支持图片、文本推理结果可视化展示。支持推理数据回传，支持用户将调用推理服务产生的X进行统一管理和使用；支持推理回传结果可视化展示，可对推理结果按条件进行筛选，支持使用表达式对推理结果json字段进行高级筛选；

★X、支持A/B测试，对于已部署的推理服务，支持部署测试版本并导入部X线上流量，可用于后续不同模型推理结果的对比。支持灰度发布，支持配置流量X配策略，将推理服务升级至新版本。支持对在线服务进行监控统计，包括QPS、响应时间、调用次数等。支持使用在线服务对本地数据集进行推理预测（需提供完X的软件界面截图证明）；

X、支持使用客户端上传本地镜像或Docker镜像。提供容器镜像隔离能力，支持为不同用户X配相应的访问权限，实现用户组间权限隔离；

★X、支持集群监控，提供集群、节点、设备、任务等多维度监控，包括CPU/GPU/NPU使用情况、内存使用情况、X络吞吐量等。支持自定义配置告警规则，支持指定时间段内的CPU/GPU/NPU占用率以及对应内存使用量的告警数据采集，提供告警频率、通知间隔的设置，告警规则支持生效、停止、编辑、删除等操作（需提供完X的软件界面截图证明）；

X、支持集群节点弹性伸缩。支持显示任务运行列表，提供任务状态和资源使用情况查看、任务查找、按模块筛选、强制停止任务。支持任务排队管理，可自定义调X任务排队优先级；

▲X、支持站内消息提醒，包括任务消息和运维消息，支持筛选、标记已读、删除等。支持集群日志管理，支持日志收集和查看；支持版本升级管理（需提供完X的软件界面截图证明）；

★X、软件授权要求：软件永久授权，可终身使用。软件授权数量需包含至少X张AI加速卡的永久授权。后续扩容的AI加速卡授权单价不高于本次采购的单价，如后续采购量增加则要求单价根据采购量阶梯下降（需提供承诺函）。