挑戰(zhàn)基于IPEX-LLM生成式AI(AIGC)行業(yè)場景應(yīng)用開發(fā)創(chuàng)新賽
賽題:基于IPEX-LLM生成式AI(AIGC)行業(yè)場景應(yīng)用開發(fā)創(chuàng)新賽
報名時間:2024年9月25日–2024年11月15日
初賽作品遞交時間:2024年12月13日
Intel?LLM Library for PyTorch(IPEX-LLM)是英特爾開源的大模型XPU加速庫,用于在Intel CPU和GPU上運行LLM,適用的平臺包括搭載集成顯卡的個人電腦,配有Arc獨立顯卡的臺式機等。這意味著用戶可以在價格更親民的筆記本或臺式機上實現(xiàn)極低延遲的LLM本地運行,無需投資昂貴的硬件就可以進(jìn)行LLM應(yīng)用創(chuàng)新,從而令更多人從開源大語言模型的快速發(fā)展中受益。
IPEX-LLM支持多種低精度(例如INT4/NF4/FP4/INT5/INT8/FP8)實現(xiàn),大幅降低模型的內(nèi)存占用和計算量,同時保持較高的推理精度。與大語言社區(qū)生態(tài)友好結(jié)合,從而方便用戶將大語言模型納入到各類應(yīng)用中。現(xiàn)已支持國內(nèi)外多種模型并在IPEX-LLM上得到驗證和優(yōu)化。
參賽作品要求
參賽選手需要基于英特爾開源的IPEX-LLM大模型XPU加速庫,在搭載集成顯卡的個人電腦(AI PC)或配有Arc獨立顯卡的臺式機上針對特定領(lǐng)域目標(biāo),利用已適配的框架構(gòu)建新場景應(yīng)用,并在英特爾平臺上演示Demo。應(yīng)用的種類包括但不限于:視頻總結(jié)、輔助寫作、會議紀(jì)要、網(wǎng)頁處理、筆記整理、制定規(guī)劃等等。
微信競賽溝通群
請掃描競賽客服助手二維碼,
加入比賽官方群。
?。ㄌ砑訒r請備注開放原子大賽)
小伙伴們趕快參與比賽吧!
大獎等你拿!
特別說明:
1.原則上所有獲獎作品需要開源,如有特殊情況需經(jīng)終審評審專家集體決策同意可部分開源;
2.大賽最終解釋權(quán)歸開放原子開源基金會及共建方[英特爾中國有限公司]所有;
通知和免責(zé)聲明
有關(guān)通知、免責(zé)聲明和性能聲明的詳細(xì)信息,請見www.intel.cn/performanceindex
?英特爾公司版權(quán)所有。英特爾、英特爾標(biāo)識以及其他英特爾商標(biāo)是英特爾公司或其子公司在美國和/或其他國家的商標(biāo)。其他的名稱和品牌可能是其他所有者的資產(chǎn)?! ?/span>
https://mp.weixin.qq.com/s/p4LM2-bdO2nk4UjP2FxQZQ