隨著各種大型語言模型（LLM）的爭相問世，生成式AI也走入教育現場並掀起一波改革浪潮。近期，東海大學攜手HPE打造「從晶片到應用」的全棧式（Full-stack） LLM校園學習平台，讓學生能實際建置AI Agent、微調大型語言模型，並創造具商業價值的AI應用，以克服AI教學的三大斷層。
此校園學習平台主要是採用兩台HPE ProLiant DL385 Gen11伺服器，每台伺服器均配備兩張NVIDIA H100 GPU，以構建大型語言模型所需的算力。此外，也透過多執行個體GPU（MIG）技術來最佳化GPU的效能與價值。同時也採用K8s容器化方式執行各項工作。NVME SSD儲存容量有18TB，可提供充足的空間用於儲存模型、數據以及使用者檔案。
東海大學校長張國恩指出，平台試運半年來，已誕生兩組具商業價值的作品，一為基於檢索增強生成（Retrieval-Augmented Generation，RAG）技術的課程學習助理，透過資料庫整合提升AI回應品質。其二則是將醫療囑咐轉換為護理紀錄的醫療助理系統（PrivNurse AI）。未來也會進一步優化系統，將基於LLM的聊天機器人開放校外使用，讓社會大眾共同體驗先進的AI科技，善盡大學的社會責任和影響力。
HPE台灣暨香港董事長王嘉昇表示，很榮幸能與東海大學攜手合作，推動生成式AI教育的發展，幫助學生深化跨領域理論與應用學習，並為教師提供創新教學工具，提升教學效率。目前HPE也正積極將AI技術融入教育與研究流程，期望加速教育科技的數位轉型，培養更多具備AI能力的人才。
東海大學圖書暨資訊處圖資長楊朝棟指出，PrivNurse AI獲得不少參與體驗的護理師好評，可節省90%的護理紀錄撰寫時間。
東海大學圖書暨資訊處圖資長楊朝棟指出，在推動AI技術引入教育體系的過程中，發現一般生成式AI教學存在著應用層次、算力資源及實作場景等三大斷層，為解決此困境，東海建置全棧式LLM校園學習平台，將教學環境從「工具使用」升級到「模型創造」。他提到，PrivNurse AI獲得不少護理師的好評，根據合作醫院護理師的體驗，有80%以上的護理師會直接同意AI生成的護理紀錄內容，而護理師也可節省90%的護理紀錄撰寫時間。
「未來使用者也能自建課程虛擬助教，」楊朝棟透露，只要將課程教材上傳後，系統會將教材進行向量化處理，建立使用者的知識庫，如此，使用者便可運用知識庫，來建立專屬聊天機器人。