1

人工智能

语言识别 | 图像识别 | 自然语言处理 | 专家系统 | 机器学习 | 计算机视觉


人工智能(Artificial Intelligence),英文缩写为AI。 是新一轮科技革命和产业变革的重要驱动力量, 是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。

首页 > AI专题

Intel酷睿Ultra NPU AI加速库开源

添加时间:2024/3/4 12:46:36     阅读次数:123

Intel已经将NPU加速库开源并放上GitHub,使得基于酷睿Ultra处理器的AI PC可以运行TinyLlama、Gemma-2b之类的轻量级大语言模型。

酷睿Ultra首次引入了NPU AI引擎,可以执行一些轻负载的AI推理任务,并与CPU、GPU搭配处理各种AI工作。

Intel酷睿Ultra NPU AI加速库开源:但功能残缺不全

这次开源的NPU加速库,当然是面向开发人员的,但如果你有一定的编程经验,也可以拿来体验体验。

Intel软件架构师Tony Mongkolsmai展示了利用此开源的NPU加速库,在一台微星尊爵14 AI Evo笔记本上,基于11亿参数的TinyLlma大模型,运行了一个AI聊天机器人,可以进行简单对话。

同时,Windows任务管理器显示,NPU确实被调动起来了。

Intel酷睿Ultra NPU AI加速库开源:但功能残缺不全

Intel酷睿Ultra NPU AI加速库开源:但功能残缺不全

不过,开源NPU加速库目前的功能还很残缺,支持了8比特量化、FP16精度,但还不支持4比特量化、BF16精度、NPU/GPU混合计算等等,技术文档也没有。

Intel承诺,后续会逐渐增加更多功能,比现在要多一倍。

Intel酷睿Ultra NPU AI加速库开源:但功能残缺不全


分享到: