大模型技術(shù)應(yīng)用實訓(xùn)室解決方案(2025年更新版)
一、建設(shè)背景
在當(dāng)今時代,,大數(shù)據(jù),、云計算等前沿技術(shù)持續(xù)突破,,大模型技術(shù)已然崛起為人工智能領(lǐng)域的關(guān)鍵研究方向,。自 2022 年 11 月 ChatGPT 面世,,大模型便迅速成為焦點,,科技大佬們競相推出大模型實驗室解決方案,。大模型不僅在互聯(lián)網(wǎng)場景大放異彩,,更憑借其能力垂直化特性,深度融入具體業(yè)務(wù)需求,,展現(xiàn)出廣闊的應(yīng)用前景,。
基于學(xué)校現(xiàn)有實驗室建設(shè)基礎(chǔ),,攜手行業(yè)企業(yè),,大模型實驗室應(yīng)運而生。它緊扣行業(yè)大模型產(chǎn)業(yè)發(fā)展脈搏,,打造產(chǎn)學(xué)研一體化合作教學(xué)平臺,,催生 “教學(xué)相長、理論實踐融合,、校企協(xié)同共進” 的創(chuàng)新教育模式,。該實驗室既能助力院校 “雙師型” 師資隊伍建設(shè),又能培育大模型應(yīng)用開發(fā)領(lǐng)域的復(fù)合型,、創(chuàng)新型人才,。
鑒于產(chǎn)教融合實訓(xùn)基地開放共享應(yīng)用需求,,以及校企合作項目化特征,建設(shè)集教學(xué)培訓(xùn),、項目實踐、科研等功能于一身的 “大模型技術(shù)應(yīng)用實訓(xùn)室” 迫在眉睫,。這將滿足教學(xué),、科研、培訓(xùn),、社會服務(wù)等多元需求,,產(chǎn)出一批具影響力的社會服務(wù)成果,推動科技成果轉(zhuǎn)化與產(chǎn)業(yè)化,,持續(xù)提升學(xué)校服務(wù)地方經(jīng)濟社會發(fā)展的能力,。
在信息化社會浪潮下,高職院校作為高技能人才培養(yǎng)重鎮(zhèn),,肩負著培育具備創(chuàng)新能力,、實踐能力與跨界融合能力的高素質(zhì)人才的使命。建設(shè)大模型技術(shù)應(yīng)用實訓(xùn)室,,為學(xué)生打造實踐平臺,,對提升高職院校人才培養(yǎng)質(zhì)量、促進產(chǎn)學(xué)研用深度融合意義非凡,,有助于批量孵化具備大模型技術(shù)應(yīng)用能力的高素質(zhì)人才,,契合社會經(jīng)濟發(fā)展需求。
二,、建設(shè)目標(biāo)
1,、優(yōu)化高校大模型技術(shù)應(yīng)用課程體系
致力于構(gòu)建一個全面且深入的大模型技術(shù)應(yīng)用課程框架,不僅豐富現(xiàn)有的人工智能教學(xué)資源,,還將大模型技術(shù)及其實際應(yīng)用案例融入其中,。增加實驗和實訓(xùn)環(huán)節(jié)的比例,確保學(xué)生在掌握理論知識的同時,,通過動手實踐深化對大模型技術(shù)的理解和運用能力,。此舉旨在促進高校人才的全面發(fā)展和技術(shù)技能的提升。
2,、創(chuàng)建大模型技術(shù)應(yīng)用實訓(xùn)室
在現(xiàn)有校內(nèi)實驗室的基礎(chǔ)上,,與行業(yè)企業(yè)合作,專注于大模型技術(shù)的發(fā)展趨勢,,遵循“產(chǎn)業(yè)導(dǎo)向,、項目驅(qū)動、能力培養(yǎng),、全面發(fā)展”的教育理念,。利用工智能教學(xué)科研平臺及真實的工業(yè)案例,,建立一種將教學(xué)與學(xué)習(xí)、理論與實踐,、學(xué)校與企業(yè)緊密結(jié)合的教育模式,。通過這種深度整合的方式,共同培育具備高技術(shù)水平的專業(yè)人才,,涵蓋從專業(yè)技能培訓(xùn)到師資力量提升,,再到教育資源開發(fā)、實習(xí)實踐以及科學(xué)研究等多個方面,。
3,、塑造人工智能開發(fā)應(yīng)用領(lǐng)域的復(fù)合型人才
實訓(xùn)室建設(shè)的核心目的是為了培育具有堅實基礎(chǔ)的大模型開發(fā)和應(yīng)用專家。通過完善實訓(xùn)設(shè)施及相關(guān)軟件的支持,,為涉及大模型技術(shù)應(yīng)用的教學(xué)活動提供全面保障,,從而有效地支撐大模型技術(shù)領(lǐng)域所需核心人才的培養(yǎng)和發(fā)展。
4,、激發(fā)創(chuàng)新創(chuàng)業(yè)潛能
在實際操作案例中,,推動人工智能與其他學(xué)科(如藝術(shù)、設(shè)計,、傳媒等)之間的深度融合,,鼓勵學(xué)生跨領(lǐng)域思考和創(chuàng)新。借助大模型工具激發(fā)學(xué)生的創(chuàng)造力,,培養(yǎng)他們的跨學(xué)科創(chuàng)新能力和社會責(zé)任感,,最終向社會輸送一批既擁有創(chuàng)新精神又具備實戰(zhàn)經(jīng)驗的高素質(zhì)“智能化”人才。這樣不僅可以滿足社會對創(chuàng)新型人才的需求,,同時也促進了多學(xué)科間的交流與發(fā)展,。
三、唯眾大模型技術(shù)應(yīng)用實訓(xùn)室關(guān)鍵技術(shù)
(一)模型架構(gòu)設(shè)計與優(yōu)化
模型架構(gòu)設(shè)計是大模型的核心基礎(chǔ),,它直接決定了模型處理海量數(shù)據(jù),、提取有價值信息的能力。架構(gòu)設(shè)計不僅需要考慮模型的深度和寬度,,還要兼顧其靈活性和可擴展性,,以適應(yīng)不同任務(wù)需求。同時,,模型優(yōu)化是提升性能的關(guān)鍵環(huán)節(jié),,包括超參數(shù)調(diào)整、模型剪枝,、量化等技術(shù),。通過這些技術(shù),可以有效減少計算量、降低內(nèi)存占用,、提高推理速度,,從而優(yōu)化模型的整體性能。
(二)預(yù)訓(xùn)練與遷移學(xué)習(xí)
預(yù)訓(xùn)練技術(shù)是大模型的重要支撐,,通過在海量無標(biāo)注數(shù)據(jù)上進行學(xué)習(xí),,模型能夠掌握通用的知識表示,形成強大的語義理解能力,。遷移學(xué)習(xí)則進一步拓展了預(yù)訓(xùn)練模型的應(yīng)用范圍,,允許將預(yù)訓(xùn)練好的模型遷移到新的任務(wù)上,并通過微調(diào)適應(yīng)特定領(lǐng)域的需求,。這種技術(shù)不僅減少了標(biāo)注數(shù)據(jù)的需求,還極大地提高了模型在新任務(wù)上的性能,,加速了模型的落地應(yīng)用,。
(三)分布式計算與并行處理
大模型的訓(xùn)練通常涉及海量數(shù)據(jù)和復(fù)雜計算,對計算資源提出了很高要求,。分布式計算和并行處理技術(shù)成為解決這一問題的關(guān)鍵,。通過將訓(xùn)練任務(wù)分解并分配到多個計算節(jié)點上,利用多核CPU,、GPU等硬件資源進行并行處理,,可以顯著提高訓(xùn)練效率,縮短模型訓(xùn)練時間,,從而加速模型的迭代和優(yōu)化,。
(四)數(shù)據(jù)處理與特征工程
高質(zhì)量的數(shù)據(jù)是訓(xùn)練優(yōu)秀模型的基石。數(shù)據(jù)處理包括數(shù)據(jù)清洗,、標(biāo)注,、增強等操作,旨在去除噪聲,、補充缺失值,、擴充數(shù)據(jù)量,從而提高數(shù)據(jù)的質(zhì)量和可用性,。特征工程則是從原始數(shù)據(jù)中提取有意義的特征,,通過特征選擇、特征轉(zhuǎn)換等方法,,將數(shù)據(jù)轉(zhuǎn)化為模型能夠有效學(xué)習(xí)的格式,,提升模型的訓(xùn)練效果和泛化能力。
(五)自動化機器學(xué)習(xí)(AutoML)
隨著模型規(guī)模和復(fù)雜度的不斷增加,,手動調(diào)整超參數(shù)和模型結(jié)構(gòu)變得越來越困難且耗時,。自動化機器學(xué)習(xí)(AutoML)技術(shù)應(yīng)運而生,通過自動化的搜索算法,快速尋找超參數(shù)組合和模型架構(gòu),,大大降低了模型調(diào)優(yōu)的難度,,提高了模型性能和開發(fā)效率,使學(xué)生能夠更專注于模型的應(yīng)用和優(yōu)化,。
(六)模型壓縮與部署
大模型通常具有較高的計算復(fù)雜度和存儲需求,,這在實際應(yīng)用中帶來了諸多挑戰(zhàn)。模型壓縮技術(shù),,如剪枝,、量化等,通過去除冗余信息,、降低模型精度等方式,,有效降低模型的復(fù)雜度和存儲大小,使其能夠適應(yīng)資源有限的設(shè)備,。同時,,高效的模型部署技術(shù)也是確保模型在實際場景中高效運行的關(guān)鍵,包括優(yōu)化推理引擎,、適配不同硬件平臺等,,從而實現(xiàn)模型的快速響應(yīng)和廣泛應(yīng)用。
實訓(xùn)室布局圖
四,、實訓(xùn)室建設(shè)內(nèi)容
4.1 大模型技術(shù)應(yīng)用教學(xué)平臺
大模型技術(shù)應(yīng)用教學(xué)平臺是基于現(xiàn)代信息技術(shù),,包括計算機技術(shù)、多媒體技術(shù)和網(wǎng)絡(luò)通信技術(shù),,針對職業(yè)教育的發(fā)展需求而設(shè)計的一種創(chuàng)新教學(xué)模式,。該平臺融合了現(xiàn)代教育理念、教學(xué)內(nèi)容與信息技術(shù),,形成了一個多功能,、開放式的教、學(xué),、訓(xùn)一體化交互平臺,。
1.架構(gòu)與部署:平臺采用B/S結(jié)構(gòu),利用Spring Cloud微服務(wù)技術(shù),,并通過Kubernetes進行部署,,支持公有云、私有云及混合云的安裝模式,。它支持多數(shù)據(jù)源以確保技術(shù)一致性,,保障服務(wù)的穩(wěn)定性、可擴展性和彈性擴容能力,。每個獨立服務(wù)都支持分布式集群部署,,可以無限橫向擴展,,提高系統(tǒng)處理能力和大規(guī)模并發(fā)教學(xué)場景的支持能力。
2.主要模塊:
(1)通用課程模塊:涵蓋課程制作工具,、作業(yè),、活動、云盤,、共享課,、我的課、云優(yōu)選課,、云視頻庫和3D模型庫等功能,。
1) 課程制作工具:支持PDF、PPT,、Word,、Excel等多種格式文本、圖片,、音頻,、視頻及超鏈接的混合編排,并自動生成動態(tài)課程目錄,。支持多種格式文件(如圖片、視頻,、壓縮文件等)同屏展示,。
2) 作業(yè)模塊:支持單選題、多選題,、判斷題,、主觀題等多種題型,提供自定義出題和自動出題功能,,具備監(jiān)控和客觀題自動評分功能,。
3) 共享課與我的課:允許教師將自己創(chuàng)建或積累的課程歸檔為“我的課程”,并能將共享課程,、云優(yōu)選課,、云視頻庫中的課程轉(zhuǎn)化為個人課程,支持一鍵分享到公共資源池中,。
4) 課堂活動:包含簽到,、主題討論、提問,、分組任務(wù),、投票、問卷,、計時器等多種互動形式,,增強課堂趣味性和參與度。
5) 云優(yōu)選課:整合了多門課程的教學(xué)材料,如教材,、教案,、課件等,內(nèi)置至少100個不少于20分鐘的在線課程視頻,,支持智能備課和一鍵上課,。
6) 云視頻庫:提供數(shù)字化教學(xué)內(nèi)容,支持課堂教學(xué),、遠程教學(xué)和課外學(xué)習(xí),,充實校內(nèi)圖書館數(shù)字資源,助力示范性職業(yè)院校建設(shè)和精品課程開發(fā),。
7) 個人云盤:提供分類管理的云存儲服務(wù),,支持按類型分類(如視頻、音頻,、圖片,、文檔等),實現(xiàn)一鍵上傳,、刪除,、新建、重命名和移動等功能,。
8) 3D模型庫:至少包含50個3D模型,,配備虛擬仿真教學(xué)工具,支持3D模型播放和交互操作,。
(2)考試模塊:支持試卷導(dǎo)入,、手動創(chuàng)建、題庫選題三種方式構(gòu)建考試,,同時提供自動組卷和判分功能,。
此外,平臺內(nèi)置豐富的大模型技術(shù)基礎(chǔ)課程資源,,如大模型簡介,、Python與大模型、LLM大模型API,、C++與大模型,、CUDA基礎(chǔ)、LangChain基礎(chǔ),、向量數(shù)據(jù)庫,、Prompt工程、大模型應(yīng)用開發(fā)等,,旨在全面覆蓋并深入講解大模型技術(shù)的相關(guān)知識,。
4.2 大模型項目實訓(xùn)管理平臺
大模型項目實訓(xùn)管理平臺旨在覆蓋實訓(xùn)項目的整個生命周期,,從項目的創(chuàng)建、任務(wù)分配,、文檔管理,、代碼開發(fā)與測試,到實驗環(huán)境配置和成果提交與評估等各個環(huán)節(jié),,提供全面支持,。
1.項目全生命周期管理:
用戶可以輕松創(chuàng)建新的實訓(xùn)項目,設(shè)定項目基本信息,、目標(biāo)及團隊成員,,并為每個成員分配具體任務(wù)。通過實時跟蹤任務(wù)完成情況,,確保項目按計劃推進,。
平臺提供了項目成果展示區(qū),方便團隊成員分享經(jīng)驗和技術(shù)文檔,,促進知識交流和團隊協(xié)作,。
2.文檔管理系統(tǒng):
支持上傳、編輯和保存各類實訓(xùn)文檔(如需求文檔,、設(shè)計文檔,、測試報告),并提供分類功能,,使用戶能夠根據(jù)項目或類型快速檢索所需文檔,。
文檔版本控制保證了內(nèi)容的準(zhǔn)確性和一致性,同時支持多人協(xié)同編輯,,提高工作效率。
3.集成開發(fā)工具:
集成了大模型開發(fā)所需的各種工具,,包括模型訓(xùn)練框架,、數(shù)據(jù)預(yù)處理工具、性能分析工具等,,實現(xiàn)了從代碼開發(fā)到測試的一站式服務(wù),。
平臺允許自定義調(diào)用CPU和內(nèi)存資源,并可自由配置硬件加速器(如GPU或XPU),,以適應(yīng)大模型和深度學(xué)習(xí)任務(wù)的需求,。特別地,它支持主流的大模型基座私有化部署,,例如智譜的ChatGLM,、百川的Baichuan、阿里的Qwen等,,助力用戶高效進行大模型開發(fā)和微調(diào),。
4.實驗環(huán)境管理:
實現(xiàn)實驗機運行狀態(tài)的實時監(jiān)控,,涵蓋CPU、內(nèi)存,、磁盤使用情況,,并提供遠程管理功能,便于故障排除和日常維護,。
通過收集和展示項目進度,、任務(wù)完成情況、代碼提交量等統(tǒng)計數(shù)據(jù),,幫助用戶全面了解項目狀況,。
5.權(quán)限管理與資源分配:
設(shè)置不同的用戶角色和權(quán)限,確保信息的安全性和隱私性,,限于用戶訪問相應(yīng)內(nèi)容,。
靈活的資源分配機制讓用戶能夠便捷地使用、開發(fā)和管理大模型應(yīng)用,,同時提供整套開發(fā)環(huán)境和資源監(jiān)控功能,,簡化了操作流程。
該平臺不僅提高了大模型項目實訓(xùn)的效率和質(zhì)量,,還促進了跨學(xué)科的合作與創(chuàng)新,,為培養(yǎng)具有實戰(zhàn)能力的人工智能專業(yè)人才提供了堅實的基礎(chǔ)。
4.3 大模型項目資源包
1.基于LLM的智能知識庫問答系統(tǒng): 這個系統(tǒng)基于大型語言模型(LLM),,提供了一整套即時可用的功能,,包括數(shù)據(jù)處理、模型調(diào)用等,,并通過直觀的Flow工作流編排工具實現(xiàn)復(fù)雜問答場景的設(shè)計與執(zhí)行,。它旨在簡化創(chuàng)建和管理復(fù)雜的對話式AI應(yīng)用過程。
2.智能證件照制作算法: 采用OpenCV模型并通過Python語言實現(xiàn),,集成了智能摳圖,、人臉檢測及尺寸裁剪等功能,形成一個完整的機器學(xué)習(xí)解決方案,。該算法能夠識別多種拍照環(huán)境,,進行精準(zhǔn)摳圖并生成符合不同規(guī)格要求的標(biāo)準(zhǔn)證件照,同時支持智能更換正裝背景等功能,,如輕量級摳圖,、根據(jù)特定尺寸調(diào)整證件照片大小等。
3.計算機視覺應(yīng)用:手寫數(shù)字識別: 利用深度學(xué)習(xí)技術(shù)構(gòu)建的手寫數(shù)字識別模型,,基于MNIST數(shù)據(jù)庫,,使用流行的TensorFlow和Keras框架開發(fā)。這個示例項目展示了如何從頭開始構(gòu)建一個高效的手寫數(shù)字識別系統(tǒng),,是學(xué)習(xí)計算機視覺和深度學(xué)習(xí)基礎(chǔ)知識的理想選擇,。
4.4 大模型技術(shù)應(yīng)用平臺
大模型技術(shù)應(yīng)用平臺專為高校的大模型應(yīng)用場景設(shè)計,,既適用于教學(xué)也服務(wù)于科研。該平臺具備以下特點:
1.用戶友好的操作界面:支持txt,、doc,、pdf、md等多種格式的數(shù)據(jù)文件上傳,,提供了一個簡潔易懂的操作配置界面,,使得用戶可以輕松搭建和訓(xùn)練AI應(yīng)用,并迅速投入使用,。
2.強大的適應(yīng)性:能夠滿足不同領(lǐng)域的交互式對話場景需求,,無論是教育、研究還是實際應(yīng)用,,都能找到合適的解決方案,。
3.可視化的工作流編排:允許用戶通過拖拽組件的方式構(gòu)建復(fù)雜問答場景,無需編寫代碼即可完成高級功能設(shè)置,,極大地降低了技術(shù)門檻,。
4.提升教學(xué)與科研質(zhì)量:借助此平臺,用戶可以更有效地利用大模型技術(shù),,促進創(chuàng)新思維和技術(shù)能力的發(fā)展,,從而提高整體的教學(xué)質(zhì)量和科研水平。
4.5 大模型技術(shù)應(yīng)用教學(xué)平臺
CPU:采用多核心處理器,,例如Intel志強系列,,核心數(shù)不少于24,確保能夠并發(fā)處理多個微服務(wù)實例,。
RAM:至少配備64 GB DDR4 RAM,,保障同時運行多個微服務(wù)實例及相關(guān)應(yīng)用程序的流暢性。
存儲:選用SATA SSD或HDD,,容量至少4 TB,,用于數(shù)據(jù)存儲和備份,可根據(jù)實際需求擴展容量,。
網(wǎng)絡(luò):至少配置10 GbE網(wǎng)絡(luò)接口,,實現(xiàn)高速內(nèi)部網(wǎng)絡(luò)通信和負載均衡,。
主板:支持硬件虛擬化技術(shù)(如Intel VT-x或AMD-V),,兼容多核心CPU和大量RAM。提供足夠的PCIe插槽,,便于擴展網(wǎng)絡(luò)適配器和存儲設(shè)備,。
電源供應(yīng):選用至少750W、具備白金效率認證的電源,,確保供電穩(wěn)定,。
散熱系統(tǒng):采用高性能CPU散熱器,,如空氣散熱器或液冷系統(tǒng),確保設(shè)備穩(wěn)定運行,。
數(shù)據(jù)傳輸與連接:提供USB 3.0或更高版本端口,,便于連接外部存儲和其他設(shè)備;同時配備HDMI端口,,用于連接顯示器,。
4.6 大模型項目實訓(xùn)平臺
CPU:選用Intel Xeon Gold 6230或AMD EPYC 7742等高性能處理器,具備多個核心(至少24核)和高速緩存,,支持并行處理和高效數(shù)據(jù)預(yù)處理,。
GPU:配備NVIDIA GeForce RTX 4090顯卡,擁有大量CUDA核心和高速內(nèi)存,,適合深度學(xué)習(xí)模型的訓(xùn)練,。
RAM:至少256 GB DDR4 ECC內(nèi)存,滿足大型模型訓(xùn)練和數(shù)據(jù)處理的需求,。
存儲:選用HDD或SSD,,容量至少8 TB,用于數(shù)據(jù)存儲和備份,。
主板:支持dual-width GPU插槽,,確保顯卡正確安裝和散熱;同時提供足夠的PCIe插槽,,便于擴展其他高速設(shè)備,。
電源供應(yīng):選用至少1200W、具備白金效率認證的電源,,保障供電穩(wěn)定,。
散熱系統(tǒng):采用強勁的CPU散熱器(如液冷或大型空氣散熱器)和顯卡專用散熱系統(tǒng)(如水冷或高性能風(fēng)扇),確保設(shè)備高效運行,。
機箱:選用大型機箱,,具備良好的散熱和擴展空間,便于安裝多個GPU和散熱設(shè)備,。
網(wǎng)絡(luò):至少配置10 GbE網(wǎng)絡(luò)接口,,實現(xiàn)快速數(shù)據(jù)傳輸和模型同步。
數(shù)據(jù)傳輸與連接:提供USB 3.0或更高版本端口,,便于連接外部存儲和其他設(shè)備,;同時配備HDMI端口,用于連接顯示器,。
五,、實訓(xùn)室建設(shè)清單
5.1 大模型技術(shù)應(yīng)用教學(xué)平臺
1.平臺采用B/S結(jié)構(gòu),運用spring cloud微服務(wù)技術(shù),,采用kubernetes技術(shù)進行部署,,支持公有云,、私有云、混合云模式安裝,;平臺支持多數(shù)據(jù)源從而保證技術(shù)的一致性,;確保服務(wù)的穩(wěn)定、可擴展,、彈性擴容,;每個獨立服務(wù)支持分布式集群部署,可以無限橫向擴展,,提高系統(tǒng)處理能力,,支持大規(guī)模并發(fā)教學(xué)全場景和數(shù)字化專業(yè)群教學(xué)實踐應(yīng)用。主要包含通用課程模塊和考試模塊,。
2.通用教學(xué)模塊包含以下功能:課程制作工具,、作業(yè)、活動,、云盤,、共享課、我的課,、云優(yōu)選課,、云視頻庫、3D模型庫,。
(1)課程制作工具模塊:支持pdf,、ppt、word,、excel等不同格式的文本,、圖片、音頻,、視頻,、超鏈接等進行混合編排,并自動生成動態(tài)課程目錄,,支持多源格式文件(至少包含:圖片,、視頻、壓縮文件,、word,、ppt、excel,、pdf等)同屏展示,。
(2)作業(yè)模塊:支持單選,、多選,、判斷,、主觀題等題型,支持自定義出題支持自動出題,,支持監(jiān)控,,支持自動進行客觀題判題。
(3)共享課程模塊,。
(4)我的課程:支持老師利用平臺提供的課程制作的課程或者平時積累的課程自動歸檔為我的課程,,也可以將共享課程和云優(yōu)選課、云視頻庫課程轉(zhuǎn)換成我的課程,,支持我的課程一鍵分享到共享課程,、云優(yōu)選課中。
(5)課堂活動模塊:課堂活動至少包括:簽到,、主題討論,、提問、分組任務(wù),、投票,、問卷、計時器等功能,。
(6)云優(yōu)選課模塊:將教學(xué)中多門課程的教材,,教案,課件,,微課,,教學(xué)配套材料等教學(xué)元素整合到云優(yōu)選課模塊,通過互聯(lián)網(wǎng)技術(shù)保證教學(xué)的實施與效果,;支持智能備課,、一鍵上課。內(nèi)置豐富在線課程資源,,至少包含100個視頻,,每個不低于20分鐘。
(7)云視頻庫模塊:云視頻庫模塊提供數(shù)字化的教學(xué)內(nèi)容,,支持課堂教學(xué),,支持視頻顯示和多媒體課件互動,支持網(wǎng)絡(luò)課堂和遠程教學(xué),。豐富學(xué)生的課外學(xué)習(xí),,可為學(xué)校的專業(yè)建設(shè)提供有力支持,可充實校內(nèi)圖書館的數(shù)字資源,,建立數(shù)字閱覽室,,可為學(xué)校進行示范性職業(yè)院校建設(shè)、精品課程建設(shè)、核心專業(yè)建設(shè)提供支持,。
個人云盤:平臺為用戶提供云盤服務(wù),,云盤內(nèi)所有文件都會按照不同的文件類型進行分類、分類至少包含視頻,、音頻,、圖片、文檔,、回收站等,、支持一鍵上傳、刪除,、新建,、重命名、移動等功能
(8)3D模型庫:至少包含3D模型50個,,具備虛擬仿真教學(xué)制作工具,,可播放 3D 模型、進行交互,。
5.2 大模型項目實訓(xùn)管理平臺
大模型項目實訓(xùn)管理平臺的功能主要涵蓋了實訓(xùn)項目的全生命周期管理,,從實訓(xùn)任務(wù)、文檔管理,、代碼開發(fā)與測試,、實驗環(huán)境管理到成果提交與評估等各個環(huán)節(jié)。
用戶創(chuàng)建新的實訓(xùn)項目,,并設(shè)置項目的基本信息,、目標(biāo)、團隊成員等,。為項目成員分配具體的任務(wù),,并實時跟蹤任務(wù)的完成情況,確保項目按計劃進行,。提供項目成果的展示平臺,,方便團隊成員分享和交流項目經(jīng)驗、技術(shù)文檔等,。
支持用戶上傳,、編輯和保存各類實訓(xùn)文檔,如需求文檔,、設(shè)計文檔,、測試報告等。提供文檔分類功能,,便于用戶按項目,、類型等快速檢索所需文檔,。支持文檔的版本控制,確保文檔內(nèi)容的準(zhǔn)確性和一致性,;同時支持多人協(xié)同編輯,,提高團隊協(xié)作效率。
集成大模型開發(fā)所需的各種工具,,如模型訓(xùn)練框架、數(shù)據(jù)預(yù)處理工具,、性能分析工具等,,方便用戶一站式完成代碼開發(fā)與測試工作。平臺能夠自定義調(diào)用CPU和內(nèi)存資源,,自由配置專門針對大模型和深度學(xué)習(xí)等任務(wù)的硬件加速器(如GPU或XPU),,能夠高效地執(zhí)行大模型的prompt工程、大模型應(yīng)用開發(fā)和大模型的微調(diào),。平臺支持主流的大模型基座,,支持大模型基座私有化部署,包括智譜的ChatGLM,、百川的Baichuan,、阿里的Qwen等,助力用戶快速進行大模型的開發(fā)和微調(diào),。平臺還提供了豐富大模型開發(fā)工具,、整套開發(fā)環(huán)境和資源監(jiān)控功能,能夠靈活分配資源,,方便用戶輕松使用,、開發(fā)、管理大模型應(yīng)用,。
平臺實時監(jiān)控實驗機的運行狀態(tài),,包括CPU、內(nèi)存,、磁盤等使用情況,;提供實驗機的遠程管理功能,方便用戶進行故障排除和日常維護,。收集并展示項目的進度,、任務(wù)完成情況、代碼提交量等統(tǒng)計數(shù)據(jù),,幫助用戶了解項目整體情況,。設(shè)置不同的用戶角色和權(quán)限,確保不同用戶只能訪問和操作其權(quán)限范圍內(nèi)的內(nèi)容,。
5.3 大模型項目項目資源包
l基于 LLM(Large Language odel)大型語言模型的知識庫問答系統(tǒng),,它提供了一整套開箱即用的功能,,包括數(shù)據(jù)處理、模型調(diào)用等能力,,并且通過可視化的 Flow 進行工作流編排,,從而實現(xiàn)復(fù)雜的問答場景。
l智能證件照制作算法,,本項目基于OpenCV模型,,使用 Python 語言實現(xiàn)智能摳圖、人臉檢測,、尺寸切割等功能于一體,,采用了一套完善的機器學(xué)習(xí)模型工作流,實現(xiàn)對多種用戶拍照場景的識別,、摳圖與證件照生成,。具體包含輕量級摳圖、根據(jù)不同尺寸規(guī)格生成不同的標(biāo)準(zhǔn)證件照,、智能換正裝等,;
l計算機視覺應(yīng)用手寫數(shù)字識別,采用深度學(xué)習(xí)技術(shù)來構(gòu)建一個手寫數(shù)字識別模型,,基于MINST數(shù)據(jù)庫,,使用 TensorFlow 和 Keras 這兩個流行的深度學(xué)習(xí)框架來實現(xiàn)手寫數(shù)字識別。
5.4 大模型技術(shù)應(yīng)用平臺
大模型應(yīng)用平臺是一款專為高校大模型應(yīng)用場景教學(xué)和科研打造的知識庫問答系統(tǒng),。該平臺易于使用,,知識庫支持常見的txt、doc,、pdf,、md等數(shù)據(jù)文件上傳,同時提供了簡潔易懂的操作配置界面,,使用戶可以輕松地搭建和訓(xùn)練AI應(yīng)用,,并快速調(diào)用,滿足不同領(lǐng)域的交互式對話場景需求,。此外平臺還支持可視化的工作流編排,,能夠滿足復(fù)雜的問答場景搭建需求。通過大模型技術(shù)應(yīng)用平臺,,能夠更好幫助用戶更好地應(yīng)用大模型技術(shù),,提升教學(xué)和科研質(zhì)量。
5.5 大模型技術(shù)應(yīng)用教學(xué)平臺硬件
CPU:多核心處理器,,性能不低于 Intel 志強系列,,不少于24核,以支持并發(fā)處理多個微服務(wù)實例,。
RAM:至少 64 GB DDR4 RAM,,以確保能夠同時運行多個微服務(wù)實例和相關(guān)的應(yīng)用程序,。
存儲:SATA SSD 或 HDD:至少 4 TB 用于數(shù)據(jù)存儲和備份,根據(jù)需要可增加容量,。
網(wǎng)絡(luò):至少 10 GbE 網(wǎng)絡(luò)接口,,用于高速內(nèi)部網(wǎng)絡(luò)通信和負載均衡。
主板: 主板應(yīng)支持硬件虛擬化技術(shù),,如 Intel VT-x 或 AMD-V,,以提高虛擬機性能。支持多核心 CPU 和大量 RAM 的主板,。足夠的 PCIe 插槽,,用于擴展網(wǎng)絡(luò)適配器和存儲設(shè)備。
電源供應(yīng):至少 750W 的電源,,具有白金效率認證,,以確保穩(wěn)定供電,。
散熱系統(tǒng):高性能 CPU 散熱器,,如空氣散熱器或液冷系統(tǒng)。
數(shù)據(jù)傳輸和連接:USB 3.0 或更高版本的端口,,用于外部存儲和其他設(shè)備的連接,。HDMI端口,用于連接顯示器,。
5.6 大模型項目實訓(xùn)平臺集群
CPU:Intel Xeon Gold 6230 或 AMD EPYC 7742 等,,具有多個核心(至少 24 核)和高速緩存,以支持并行處理和高效的數(shù)據(jù)預(yù)處理,。
GPU:2張NVIDIA GeForce RTX 4090:具備大量的 CUDA 核心和高速內(nèi)存,,適合進行深度學(xué)習(xí)模型的訓(xùn)練。
RAM:至少 256 GB DDR4 ECC 內(nèi)存,,以支持大型模型的訓(xùn)練和數(shù)據(jù)處理,。
存儲:HDD 或 SSD:至少 8 TB 用于數(shù)據(jù)存儲和備份。
主板:支持 dual-width GPU 插槽,,以確保顯卡能夠正確安裝和散熱,。
足夠的 PCIe 插槽,用于擴展其他高速設(shè)備,。
電源供應(yīng):至少 1200W 的電源,,具有白金效率認證,以確保穩(wěn)定供電,。
散熱系統(tǒng):強勁的 CPU 散熱器,,如液冷或大型空氣散熱器。顯卡專用的散熱系統(tǒng),,如水冷或高性能風(fēng)扇,。
機箱:大型機箱,,具有良好的散熱和擴展空間,以便安裝多個 GPU 和散熱設(shè)備,。
網(wǎng)絡(luò):至少 10 GbE 網(wǎng)絡(luò)接口,,用于快速數(shù)據(jù)傳輸和模型同步。
數(shù)據(jù)傳輸和連接:
USB 3.0 或更高版本的端口,,用于外部存儲和其他設(shè)備的連接,。
HDMI 端口,用于連接顯示器,。
5.7 實訓(xùn)終端
CPU:i5-13600
內(nèi)存:DDR4 16GB
硬盤:固態(tài)硬盤 PCIE4.0 高速 SSD 1TB
無線網(wǎng)卡:內(nèi)置WIFI6 +藍牙+有線網(wǎng)卡
顯示器:24英寸
鍵鼠套裝:1套
5.8 交互式智能多媒體教學(xué)觸控一體機
屏幕尺寸:86寸
可視角度:178°(H)/178°(V)分辨率:3840×2160
顯示亮度≥330cd/㎡
對比度≥960:1
操作系統(tǒng):Android或Windows
CPU≥2 core
GPU≥4 core
RAM≥2G
ROM≥16G
接口:HDMI,、VGA、PC AUDIO IN,、USB
5.9 交換機
交換容量≥256Gbps,,包轉(zhuǎn)發(fā)率≥56Mpps,48個千兆電口,,4個千兆SFP端口,,支持4K個VLAN,支持Voice VLAN,,基于端口的VLAN,,基于MAC的VLAN,基于協(xié)議的VLAN,,支持MAC地址≥16K,,支持靜態(tài)路由、RIP,、RIPng,、OSPF ,支持堆疊,,主機堆疊數(shù)不小于9臺,,支持縱向虛擬化,作為縱向子節(jié)點零配置即插即用,;支持對端口接收報文速率和發(fā)送報文速率進行限制,,支持SP、WRR,、SP+WRR等隊列調(diào)度算法,;支持G.8032以太環(huán)保護協(xié)議;
5.10 實驗桌椅
面和腳采用25mm厚三聚氰胺板飾面,,優(yōu)質(zhì)PVC全自動機器封邊,,其它均采用15mm厚三聚氰胺板,優(yōu)質(zhì)PVC全自動機器封邊,,優(yōu)質(zhì)五金配件
學(xué)生椅:學(xué)生椅子圓椅,,加厚鋼制腳
5.11 教師講臺
尺寸(單人位):1500mm×841.5mm×750mm
材質(zhì):辦公桌橡木色,,材質(zhì)選用三胺飾面板,預(yù)留線槽,、線孔,,預(yù)留主機位,帶主機托
教師椅:可升降辦公椅,,采用網(wǎng)布+定型海綿面料,,鋼制五星腳。
相關(guān)產(chǎn)品
免責(zé)聲明
- 凡本網(wǎng)注明“來源:化工儀器網(wǎng)”的所有作品,,均為浙江興旺寶明通網(wǎng)絡(luò)有限公司-化工儀器網(wǎng)合法擁有版權(quán)或有權(quán)使用的作品,,未經(jīng)本網(wǎng)授權(quán)不得轉(zhuǎn)載、摘編或利用其它方式使用上述作品,。已經(jīng)本網(wǎng)授權(quán)使用作品的,,應(yīng)在授權(quán)范圍內(nèi)使用,并注明“來源:化工儀器網(wǎng)”,。違反上述聲明者,,本網(wǎng)將追究其相關(guān)法律責(zé)任。
- 本網(wǎng)轉(zhuǎn)載并注明自其他來源(非化工儀器網(wǎng))的作品,,目的在于傳遞更多信息,,并不代表本網(wǎng)贊同其觀點和對其真實性負責(zé),,不承擔(dān)此類作品侵權(quán)行為的直接責(zé)任及連帶責(zé)任,。其他媒體、網(wǎng)站或個人從本網(wǎng)轉(zhuǎn)載時,,必須保留本網(wǎng)注明的作品第一來源,,并自負版權(quán)等法律責(zé)任。
- 如涉及作品內(nèi)容,、版權(quán)等問題,,請在作品發(fā)表之日起一周內(nèi)與本網(wǎng)聯(lián)系,否則視為放棄相關(guān)權(quán)利,。