挑戰(zhàn)基于IPEX-LLM生成式AI（AIGC）行業(yè)場景應用開發(fā)創(chuàng)新賽
賽題：基于IPEX-LLM生成式AI（AIGC）行業(yè)場景應用開發(fā)創(chuàng)新賽
報名時間：2024年9月25日–2024年11月15日
初賽作品遞交時間：2024年12月13日
Intel?LLM Library for PyTorch(IPEX-LLM)是英特爾開源的大模型XPU加速庫，用于在Intel CPU和GPU上運行LLM，適用的平臺包括搭載集成顯卡的個人電腦，配有Arc獨立顯卡的臺式機等。這意味著用戶可以在價格更親民的筆記本或臺式機上實現(xiàn)極低延遲的LLM本地運行，無需投資昂貴的硬件就可以進行LLM應用創(chuàng)新，從而令更多人從開源大語言模型的快速發(fā)展中受益。
IPEX-LLM支持多種低精度（例如INT4/NF4/FP4/INT5/INT8/FP8）實現(xiàn)，大幅降低模型的內(nèi)存占用和計算量，同時保持較高的推理精度。與大語言社區(qū)生態(tài)友好結合，從而方便用戶將大語言模型納入到各類應用中?，F(xiàn)已支持國內(nèi)外多種模型并在IPEX-LLM上得到驗證和優(yōu)化。
參賽作品要求
參賽選手需要基于英特爾開源的IPEX-LLM大模型XPU加速庫，在搭載集成顯卡的個人電腦（AI PC）或配有Arc獨立顯卡的臺式機上針對特定領域目標，利用已適配的框架構建新場景應用，并在英特爾平臺上演示Demo。應用的種類包括但不限于：視頻總結、輔助寫作、會議紀要、網(wǎng)頁處理、筆記整理、制定規(guī)劃等等。
微信競賽溝通群
請掃描競賽客服助手二維碼，
加入比賽官方群。
?。ㄌ砑訒r請備注開放原子大賽）
小伙伴們趕快參與比賽吧！
大獎等你拿！
特別說明：
1.原則上所有獲獎作品需要開源，如有特殊情況需經(jīng)終審評審專家集體決策同意可部分開源；
2.大賽最終解釋權歸開放原子開源基金會及共建方[英特爾中國有限公司]所有；
通知和免責聲明
有關通知、免責聲明和性能聲明的詳細信息，請見www.intel.cn/performanceindex
?英特爾公司版權所有。英特爾、英特爾標識以及其他英特爾商標是英特爾公司或其子公司在美國和/或其他國家的商標。其他的名稱和品牌可能是其他所有者的資產(chǎn)。
https://mp.weixin.qq.com/s/p4LM2-bdO2nk4UjP2FxQZQ
蘇公網(wǎng)安備32021402002844