1 智谱清言英特尔酷睿Ultra专享版发布,离线模型玩转AIPC-德赢Vwin官网 网
0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

智谱清言英特尔酷睿Ultra专享版发布,离线模型玩转AIPC

looger123 来源:looger123 作者:looger123 2024-12-18 11:52 次阅读

近日,国内领先的大模型厂商智谱在智谱清言的官网发布了智谱清言英特尔酷睿Ultra专享版,这个版本可以利用英特尔酷睿Ultra处理器提供的澎湃的AI算力,在不联网的情况下就可在PC本地运行智谱的端侧模型,为广大用户提供高隐私、重安全的、在弱网或断网情况下依然可以使用的AI助手。

智谱清言是拥有海量用户的端侧应用,涵盖了移动及PC端,是基于云端大模型的人工智能助手,并有很多附加功能,深受用户喜爱。在PC上使用时,有些用户会有一些个人或者组织的隐私数据或者有一定安全要求的数据希望在本地处理,避免相关数据的泄密风险,同时在某些弱网或断网情况下,很多用户也有在PC上使用大模型的AI助手的需求。

英特尔自2023年12月发布了命名为酷睿Ultra第一代AI PC处理器,为在PC端侧运行AI应用提供了优秀平台。在这一代的处理器中,创新的增加了专门的AI处理单元:NPU,也就是神经网络处理单元。同时第一代的酷睿Ultra处理器又大幅度的提升了内建显卡的算力,为图形计算和AI运算提供了澎湃的算力。加上传统的CPU,在这一代的酷睿Ultra处理器上就通过CPU+NPU+iGPU (内建图形处理单元)为不同的AI负载提供了合适的算力引擎。其中CPU适合一些对延迟性要求较高的AI应用,而一些持续性的、低负载的AI应用适合运行在NPU上,iGPU更适合运行一些大吞吐量的AI运算。

结合英特尔酷睿Ultra的强大AI算力,智谱结合自己在云和端侧丰富的模型和应用开发经验,很早就与英特尔的工程技术人员开始了联合开发。双方团队紧密沟通,充分发挥双方在软、硬件上优势,在本地模型的选择上确保了模型参数与准确性的平衡,同时采用了合理的量化技术确保了合理的模型文件尺寸,另外在性能调优上选取了优秀的工具链确保了本地模型运行高效的运行在处理器之中的AI引擎上。

这个版本会自动检测PC平台的配置,在满足条件的英特尔酷睿Ultra PC上会自动下载合适的端侧模型,通过这个端侧模型,用户可以利用英特尔酷睿Ultra的本地AI算力,为用户提供端侧的个人助手,包括知识问答、文档撰写、创意生成等工作。比如:可以将若干篇存在PC本地的文档通过在RAG(Retrieval-augmented Generation,检索增强生成)形成专有的知识库,并通过自然语言查询,而输出的内容既包含了来自本地文档的专业信息,同时输出内容也更加自然并有逻辑。另外,智谱清言的英特尔酷睿Ultra专享版还可以完成本地长文档的摘要等工作,极大的提升了生产效率,形成了用户身边的、随时随地的“AI助手”。

随着英特尔不断推出酷睿Ultra处理器新品,相关的AI算力也在不断提升。英特尔将持续携手包括智谱在内的国内领先的AI应用厂商推出更多的适合国内用户的AI PC应用,丰富AI PC生态圈。

更多信息:

* 可以访问Intel.com/aipc及intel.cn/aipc了解更多有关英特尔 AI PC相关内容。

* 可以访问智谱清言官网https://chatglm.cn/ 了解更多有关智谱清言英特尔酷睿Ultra专享版相关内容。

审核编辑 黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表德赢Vwin官网 网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 英特尔
    +关注

    关注

    61

    文章

    9949

    浏览量

    171687
  • 酷睿
    +关注

    关注

    2

    文章

    430

    浏览量

    36461
  • Ultra
    +关注

    关注

    0

    文章

    50

    浏览量

    9712
收藏 人收藏

    评论

    相关推荐

    发布英特尔Ultra

    近日,国内顶尖的大模型厂商智谱在官方网站智上,正式推出了智
    的头像 发表于 12-19 11:37 180次阅读

    10月29日英特尔发布新一代Ultra Series 2处理器及图形产品线

     近日,据外媒报道,英特尔已定于10月29日举办Partner Alliance BaseCamp活动,该活动备受业界瞩目,因为英特尔预计将在会上发布其备受期待的下一代
    的头像 发表于 10-16 15:18 558次阅读

    英特尔发布Ultra 200S系列台式机处理器

    近日,英特尔正式推出了Ultra 200S系列处理器家族,为台式机平台带来了全新的AI PC功能。此次发布的处理器家族涵盖了5款未锁频的
    的头像 发表于 10-11 17:36 491次阅读

    英特尔Ultra 200V系列处理器发布

    英特尔近日隆重推出了其革命性的Ultra 200V系列处理器,这一全新x86处理器家族以超高能效为核心,重新定义了性能与效率的边界。
    的头像 发表于 09-10 16:44 536次阅读

    AI PC市场爆发,英特尔、高通相继推出新一代AI PC芯片,战况火热升级

    德赢Vwin官网 网报道(文/李弯弯)2024年9月4日,在德国柏林国际消费电子展(IFA 2024)上,英特尔正式发布Ultra 200V系
    的头像 发表于 09-06 00:16 3652次阅读

    如何将Llama3.1模型部署在英特尔Ultra处理器

    本文从搭建环境开始,一步一步帮助读者实现只用五行代码便可将Llama3.1模型部署在英特尔 Ultra 处理器上。
    的头像 发表于 07-26 09:51 2102次阅读
    如何将Llama3.1<b class='flag-5'>模型</b>部署在<b class='flag-5'>英特尔</b><b class='flag-5'>酷</b><b class='flag-5'>睿</b><b class='flag-5'>Ultra</b>处理器

    英特尔Ultra处理器出货量预计飙升

    英特尔中国区董事长王锐近日透露,英特尔Ultra处理器自问世以来,已经在全球范围内取得了显著的成绩。据王锐介绍,截至目前,已有超过800
    的头像 发表于 06-20 09:23 753次阅读

    英特尔Ultra处理器上优化和部署YOLOv8模型

    英特尔 Ultra处理器是英特尔公司推出的一个高端处理器品牌,其第一代产品基于Meteor Lake架构,使用Intel 4制程,单颗
    的头像 发表于 05-30 17:16 1794次阅读
    在<b class='flag-5'>英特尔</b><b class='flag-5'>酷</b><b class='flag-5'>睿</b><b class='flag-5'>Ultra</b>处理器上优化和部署YOLOv8<b class='flag-5'>模型</b>

    已有超过500款AI模型英特尔Ultra处理器上得以优化运行

    近日,英特尔宣布在全新英特尔 Ultra处理器上,有超过500款AI模型得以优化运行。
    的头像 发表于 05-11 09:31 707次阅读

    英特尔Ultra处理器突破500个AI模型优化

    英特尔在最新推出的英特尔® Ultra处理器上宣布,超过500款AI模型已得到优化运行。
    的头像 发表于 05-09 11:18 757次阅读

    英特尔二季度对Ultra处理器供应受限

    英特尔首席执行官帕特·基辛格在最新的财报电话会议上透露,受晶圆级封装产能限制,二季度Ultra处理器的供应将面临挑战。随着AI PC需求的激增和Windows更新周期的推动,客户对
    的头像 发表于 05-06 11:04 661次阅读

    英特尔推出面向边缘市场的 / Ultra 处理器PS系列

    其中,Ultra处理器PS系列即为Meteor Lake PS,提供45瓦 and 15瓦两个功率选项。主打款为英特尔
    的头像 发表于 04-09 16:45 1007次阅读

    浪潮信息与英特尔合作推出一种大模型效率工具“YuanChat”

    3月26日,浪潮信息与英特尔正式宣布,浪潮信息“源2.0系列基础大模型”已和最新的英特尔® Ul
    的头像 发表于 03-27 13:50 627次阅读
    浪潮信息与<b class='flag-5'>英特尔</b>合作推出一种大<b class='flag-5'>模型</b>效率工具“YuanChat”

    英特尔Arrow Lake处理器更名Ultra

    @金猪升级包强调Arrow Lake处理器不太可能被称为15代,更有可能会被冠名为“Ultra处理器(系列2)”。这是因为
    的头像 发表于 03-04 16:45 1419次阅读

    驱动AI PC应用向大众普及,英特尔人工智能创新应用大赛为开发者与大众用户搭建桥梁

    伴随着英特尔Ultra平台以及AIPC正式落地,摆在英特尔以及OEM厂商面前的最主要问题,就
    的头像 发表于 12-25 09:41 572次阅读
    驱动AI PC应用向大众普及,<b class='flag-5'>英特尔</b>人工智能创新应用大赛为开发者与大众用户搭建桥梁