基于IPEX-LLM的本地輕量化課程教學智能輔助系統(tǒng)
摘要: 提出并實現(xiàn)了一個本地輕量化課程教學智能輔助系統(tǒng).該系統(tǒng)利用IPEX-LLM (Intel PyTorch extention for large language model)加速庫,在計算資源受限的設備上高效部署并運行經(jīng)過QLoRA(quantum-logic optimized resource allocation)框架微調(diào)的大語言模型,并結(jié)合增強檢索技術(shù),實現(xiàn)了智能問答... (共11頁)
開通會員,享受整站包年服務