人工智能服務器采購項目招標項目的潛在供應商應在線上獲取招標文件,并于****年**月**日 **時**分（北京時間）前遞交投標文件。
**1-** 推理服務器（數量：2臺）；
一、功能用途（貨物用途、需實現的功能、目標以及為落實政府采購政策需滿足的要求）
用于部署科研教學等軟件。
用于科研教學使用，為科研教學提供算力。
二、技術規(guī)格及參數要求（貨物基本參數要求，包括需滿足的質量、安全、技術規(guī)格、物理特性等要求）
★1.整機規(guī)格:4U 標準機架式服務器。
★2.配置≥4顆自主可控處理器；單顆處理器核心數≥**核心，主頻≥2.6GHz；
★3.主板：主板內存槽數量≥**；
★4.配置≥1TB 內存，內存頻率≥****MT/S；
★5.配置不少于2塊**0G SSD、2塊7.**T NVMe SSD硬盤。提供RAID卡，支持RAID 0、 1、 5、 **。
★6.配置≥4個**GE端口（滿配光模塊）,配置≥8個**0GE端口（滿配光模塊）；
★7.電源：配置≥4個****W冗余電源；
★8．不超過4U空間提供2.2 PFLOPS FP**算力；
★9．配置不少于8顆GPU/NPU，單顆GPU/NPU提供不低于**GB HBM，支持GPU/NPU直出**0GE 網口；
★**. GPU/NPU間支持fullmesh全互聯，互聯帶寬最大不低于**2GB/s；
★**.配置獨立的遠程管理控制端口，支持遠程監(jiān)控圖形界面；
★**.支持故障檢測功能，精確定位硬件故障，可精確到FRU；
★**.支持告警管理及SNMP Trap、 SMTP、 syslog服務多種格式告警上報，保障設備7***小時高可靠運行；
★**.為保障供應連續(xù)性及項目交付，須提供服務器主板廠家針對本次采購項目出具的供應保障函，內容須明確保障本次采購的服務器主板供應的證明、承諾等材料。
★**.支持將本地媒體設備或鏡像、文件夾虛擬為遠程設備；
**.支持使用客戶端證書和證書密碼的雙因素認證方式登錄單板管理系統(tǒng)。
**. 推理服務器采用自研 RAID 卡。
**. 推理服務器采用制造商注冊地在中國大陸的BMC管理芯片。
**1-**管理服務器（數量：1臺）；
一、功能用途（貨物用途、需實現的功能、目標以及為落實政府采購政策需滿足的要求）
用于部署科研教學等軟件。
二、技術規(guī)格及參數要求（貨物基本參數要求，包括需滿足的質量、安全、技術規(guī)格、物理特性等要求）
★1.整機規(guī)格:2U 標準機架式服務器。
★2.配置≥2顆自主可控處理器；單顆處理器核心數≥**核心，主頻≥2.6GHz；
★3.主板：主板內存槽數量≥**；
★4.配置≥**2GB 內存，內存頻率≥****MT/S；
★5.配置不少于2塊**0G SSD、2塊8T HDD硬盤。提供RAID卡，支持RAID 0、 1、 5、 **。
★6.配置≥4個GE端口，≥4個**GE端口（滿配光模塊）；
★7.電源：配置≥2個**0W冗余電源；
8.支持中文BIOS界面
★9.除“關鍵部件安全要求”指標不適用于本項目外，其他參數應符合《通用服務器政府采購需求標準（****年版）》（財庫〔****〕**號）中加“*”的指標要求。
**1-** **G交換機（數量：1臺）；
一、功能用途
用于服務器的業(yè)務網絡與存儲網絡的連接，確保組網結構完整、實現相應功能服務。
二、技術規(guī)格及參數要求（貨物基本參數要求，包括需滿足的質量、安全、技術規(guī)格、物理特性等要求）
★1.產品類型：企業(yè)級數據中心交換機
★2.高度≤1U，固定接口交換機；
★3.交換容量≥4.8Tbps，包轉發(fā)率≥****Mpps，以設備廠家官網所列最低參數為準；
★4.交換機產品的處理器（CPU）芯片采用自助可控芯片；
★5.電源支持1+1備份，風扇模塊≥4個；
★6.提供**/**GE SFP**接口數量≥**個，**/**0GE QSFP**接口≥6個；
★7.整機可用緩存≥**MB;
★8.支持M-LAG或vPC或DRNI等跨機箱鏈路捆綁技術；
★9.支持RIP、OSPF、ISIS、BGP 、RIPng、OSPFv3、ISISv6、BGP4+等動態(tài)路由協(xié)議；
★**.支持Vxlan功能，且支持BGP EVPN特性；
**.支持VXLAN over IPv6功能；
**.遠程端口鏡像支持ERSPAN增強功能；
**.通過中國信息安全EAL4+級別測評；
★**.配置要求：萬兆多模光模塊**個，**G多模光模塊**個，**G多模光模塊4個，**0G堆疊線纜1條，雙交流電源模塊，風扇模塊滿配。
★**.電源電壓：**-**0V AC。
**1-** 管理交換機（數量：1臺）；
一、功能用途（貨物用途、需實現的功能、目標以及為落實政府采購政策需滿足的要求）
用于服務器管理網絡的連接，確保組網結構完整、實現相應功能服務。
二、技術規(guī)格及參數要求（貨物基本參數要求，包括需滿足的質量、安全、技術規(guī)格、物理特性等要求）
★1.產品類型：企業(yè)級數據中心交換機
★2.高度≤1U，固定接口交換機；
★3.交換容量≥**2Gbps，包轉發(fā)率≥**7Mpps，以設備廠家官網所列最低參數為準；
★4.交換機產品的處理器（CPU）芯片采用自助可控芯片；
★5.電源支持 1+1備份；
★6.提供≥** 個 **/**0/****BASE-T 以太網端口，≥4 個萬兆 SFP+端口；
★7.提供≥2個專用堆疊口，不占用業(yè)務口帶寬，堆疊帶寬（雙向）大于**Gbps；
★8.支持≥**K個MAC條目。
★9.支持IGMP v1/v2/v3、PIM-SM、PIM-DM、PIM-SSM等組播協(xié)議；
★**.支持靜態(tài)路由、支持 RIP、RIPng、OSPF、OSPFv3、IS-IS、IS-ISv6、 BGP、BGP4+等路由協(xié)議；
**.支持配置回滾不重啟功能。
★**.配置要求：萬兆多模光模塊4個，交流電源模塊2個；
★**.電源電壓：**-**0V AC。
**1-** 機柜（數量：1臺）；
一、功能用途（貨物用途、需實現的功能、目標以及為落實政府采購政策需滿足的要求）
用于承載數據中心服務器、交換機等的機柜。
二、技術規(guī)格及參數要求（貨物基本參數要求，包括需滿足的質量、安全、技術規(guī)格、物理特性等要求）
★1、**U標準服務器機柜，規(guī)格：≥**0**********mm；
★2、SPCC優(yōu)質冷扎鋼板制作，脫脂，磷化，靜電噴塑。
**1-** 人工智能平臺軟件（數量：1套）；
一、功能用途
★1、人工智能平臺提供一站式的全場景AI開發(fā)與應用功能，涵蓋從數據接入、數據管理、數據預處理、數據標注、模型訓練、模型評估優(yōu)化、模型推理部署、用戶體系管理和系統(tǒng)運維的全流程，使得用戶能夠在統(tǒng)一的平臺上高效完成AI項目的全生命周期的開發(fā)與管理。在校內AI教學和科研場景中，實現算力資源靈活調度，AI數據處理和模型開發(fā)效率的大幅度提升（需提供完整的軟件界面截圖證明）；
★2、平臺預置包括DeepSeek、千問和LLaMA等不少于5個第三方開源大模型，預置大模型需為開源發(fā)布的最新版本。支持基于大模型的知識庫構建、在線推理、檢索問答等能力。支持校內多部門基于大模型打造場景化智能體應用，提升校內教學、科研和服務管理的智能化水平（需提供完整的軟件界面截圖證明）；
★3、平臺支持對不同架構的國際AI算力芯片與國內AI算力芯片（包括華為昇騰、寒武紀、海光、天數智芯和燧原等）和不同架構的國際與國內通用算力芯片（包括華為鯤鵬和X**等）等多種異構算力資源進行調度、管理。平臺需提供至少3種不同算力芯片適配證明或軟件界面截圖證明；
★4、在執(zhí)行模型訓練和推理任務時，人工智能平臺本身性能損耗≤**%。在訓練數據集和相關鏡像準備完善的前提下，訓練任務啟動時長低于**秒，任務關閉響應低于**秒，推理請求P**分位延遲低于2秒，平臺服務的HTTP P**分位延遲低于1.5秒（需提供完整的軟件界面截圖證明）；
★5、支持資源彈性調度，支持多資源池劃分，用戶根據自身需要，將任務調度到所需的資源池上。支持資源視圖管理，包括系統(tǒng)資源視圖、作業(yè)資源視圖等（需提供完整的軟件界面截圖證明）；
★6、支持專屬資源池和共享資源池管理。共享資源池可授權指定用戶組使用共享資源并配置可用資源上限，便于在AI教學、科研和大模型推理過程中靈活分配資源。支持普通用戶之間數據范圍隔離，普通用戶僅能查閱和使用自身的數據；管理員可查閱組內所有數據，包括數據集、標注任務、代碼開發(fā)項目、模型庫、模型訓練項目（需提供完整的軟件界面截圖證明）；
★7、支持多租戶（組織）和租戶隔離。支持多組織管理、用戶權限管理、用戶組管理及用戶管理。支持多種用戶類型，包括管理員、普通用戶等。支持用戶密碼保護，可通過郵箱驗證重置密碼或管理員重置密碼。支持用戶操作安全審計（需提供完整的軟件界面截圖證明）；
★8、支持可視化零代碼構建數據預處理和模型訓練的AI流水線，自由拖拽AI組件與連接線，構建端到端AI流水線。支持全流程自動化執(zhí)行，自動調度數據預處理、模型訓練、評估、發(fā)布及服務更新等環(huán)節(jié)。支持將已驗證AI流水線轉化為可復用模板。實時可視化展示AI流水線運行狀態(tài)、節(jié)點日志與歷史記錄（需提供完整的軟件界面截圖證明）；
★9、支持數據集上傳、數據集下載、數據集分類、數據集排序及數據集查詢等功能。支持查看數據集版本詳情，展示數據集文件結構，支持用戶查看數據集信息，文件目錄結構等。支持數據可視化，支持直方圖、氣泡圖、柱狀圖等數據可視化方法（需提供完整的軟件界面截圖證明）；
★**、支持用戶數據在個人空間管理，包括對文件和文件夾的新建、刪除、解壓、復制、移動、重命名、上傳、下載等，可在個人空間預覽常見的圖像、文本、音頻、視頻等文件。支持個人數據移動或復制共享給同一用戶組內用戶使用（需提供完整的軟件界面截圖證明）；
★**、支持多源異構的數據池、數據源管理，支持創(chuàng)建本地上傳、http、關系型數據庫、rtsp數據流、MQTT等不同種類的數據通道，實現對結構化、半結構化、非結構化等數據源的接入和管理，可用于回傳邊端數據、采集終端數據、用戶數據庫的接入等（需提供完整的軟件界面截圖證明）；
★**、支持數據ETL，支持用戶選擇結構化數據源、數據集，創(chuàng)建ETL工作流；支持SQL編輯，支持可視化拖拽的方式搭建ETL建模流程；支持將ETL各節(jié)點數據輸出為數據集（需提供完整的軟件界面截圖證明）；
★**、支持圖像處理，包含尺寸修改、裁剪、顏色轉換、圖像反轉、高斯過濾、箱型過濾、圖片模糊等處理方式。支持對數據進行清洗，數據格式包括但不限于jpg、jpeg、png、txt、json、csv、xlsx，支持去近似、去模糊、去除語氣詞、去除郵箱、去除電話號碼、去除身份證號的清洗方式。支持對數據增廣，增廣方式包括但不限于幾何變換（縮放、平移、旋轉、水平翻轉、垂直翻轉、水平剪切、垂直剪切），色彩變換（亮度、對比度、色溫、色調、飽和度、反色、灰度值均勻分布），其他變換（高斯模糊、銳化、減少通道位數、遮擋）等方式（需提供完整的軟件界面截圖證明）；
★**、支持圖像、文本、視頻、語音、3D點云等多種標注類型任務創(chuàng)建，可實現多人標注、團隊標注，自動將標注任務拆分成多個作業(yè)，每個作業(yè)可分配不同的標注員進行標注，支持標簽模板管理。支持智能預標注，使用自己上傳的模型進行智能預標注（需提供完整的軟件界面截圖證明）；
★**、支持采用不同架構的國際AI算力芯片與國內AI算力芯片進行模型訓練。支持PyTorch、TensorFlow、MindSpore等國內外主流AI框架。支持配置對接git代碼倉，直接加載代碼進行開發(fā)、調試；可通過在線Notebook、VS Code進行代碼開發(fā)、訓練、評估。支持通過SSH信息或密鑰方式訪問代碼開發(fā)環(huán)境，方便開發(fā)者進行遠程調試。模型開發(fā)過程可視化查看，支持集成使用第三方工具鏈，包括TensorBoard、MindInsight等。支持conda，可在代碼開發(fā)中按需選擇并激活進入conda虛擬環(huán)境，進行模型開發(fā)/訓練（需提供完整的軟件界面截圖證明）；
★**、支持實驗對比，支持對項目中的模型訓練、評估任務的基本信息、輸入參數、輸出指標進行對比，包括表格對比和可視化對比。支持模型增量訓練，可以加載已有任務輸出的權重文件，作為預訓練模型進行增量訓練（需提供完整的軟件界面截圖證明）；
★**、用戶可基于預置大模型快速開展大模型微調訓練。支持LoRA/全量微調，微調過程日志可視化。支持對微調訓練后的大模型進行量化、裁剪后部署推理，提供用戶推理可調用的API接口，方便用戶可以用接口的方式調用大模型的推理能力，提供推理調用監(jiān)控（需提供完整的軟件界面截圖證明）；
★**、支持通過聊天窗口通過加載已微調的大模型進行對話，從而快速驗證大模型能力。聊天窗口可選擇不同參數的大模型進行交互使用，支持對大模型回答結果進行反饋優(yōu)化。
★**、支持用戶自定義大模型服務和知識庫檢索問答服務，可采用自定義服務進行數據問答對生成、數據向量化和檢索重排序。支持Prompt模版管理，支持Prompt創(chuàng)建、管理、角色創(chuàng)建及賦能使用（需提供完整的軟件界面截圖證明）；
★**、支持創(chuàng)建推理服務，可配置不同架構的國際AI算力芯片與國內AI算力芯片和不同架構的國際與國內通用算力芯片創(chuàng)建推理任務，提供在線預測服務，支持用戶進行在線預測（需提供完整的軟件界面截圖證明）；
★**、提供推理服務接口調用指南，展示推理服務的API接口地址、模型信息、輸入參數、輸出參數等信息，用戶可以通過復制API接口地址，調用中心推理服務。支持API鑒權，包括但不限于API Key和AK/SK兩種方式（需提供完整的軟件界面截圖證明）；
★**、支持圖片、文本等數據輸入預測，支持圖片、文本推理結果可視化展示。支持推理數據回傳，支持用戶將調用推理服務產生的推理數據回傳至平臺進行統(tǒng)一管理和使用；支持推理回傳結果可視化展示，可對推理結果按條件進行篩選，支持使用表達式對推理結果json字段進行高級篩選（需提供完整的軟件界面截圖證明）；
★**、支持A/B測試，對于已部署的推理服務，支持部署測試版本并導入部分線上流量，可用于后續(xù)不同模型推理結果的對比。支持灰度發(fā)布，支持配置流量分配策略，將推理服務升級至新版本。支持對在線服務進行監(jiān)控統(tǒng)計，包括QPS、響應時間、調用次數等。支持使用在線服務對本地數據集進行推理預測（需提供完整的軟件界面截圖證明）；
★**、支持使用客戶端上傳本地鏡像或Docker鏡像。提供容器鏡像隔離能力，支持為不同用戶分配相應的訪問權限，實現用戶組間權限隔離（需提供完整的軟件界面截圖證明）；
★**、支持集群監(jiān)控，提供集群、節(jié)點、設備、任務等多維度監(jiān)控，包括CPU/GPU/NPU使用情況、內存使用情況、存儲使用情況、網絡吞吐量等。支持自定義配置告警規(guī)則，支持指定時間段內的CPU/GPU/NPU占用率以及對應內存使用量的告警數據采集，提供告警頻率、通知間隔的設置，告警規(guī)則支持生效、停止、編輯、刪除等操作（需提供完整的軟件界面截圖證明）；
★**、支持集群節(jié)點彈性伸縮。支持顯示任務運行列表，提供任務狀態(tài)和資源使用情況查看、任務查找、按模塊篩選、強制停止任務。支持任務排隊管理，可自定義調整任務排隊優(yōu)先級（需提供完整的軟件界面截圖證明）；
★**、支持站內消息提醒，包括任務消息和運維消息，支持篩選、標記已讀、刪除等。支持集群日志管理，支持日志收集和查看；支持版本升級管理（需提供完整的軟件界面截圖證明）；
