首页 > 笔记本 > 笔记本评测 > 笔记本_单机评测> 正文

酷睿轻薄本轻松玩大语言模型和AI绘画?实测之后惊到了!

光明李 编辑: 韩思同 发布于:2023-09-13 15:37 PConline原创

AIGC应用的蓬勃发展,为职场人提高工作效率打下了不错的基础。比如,职场用户可以通过ChatGPT、文心一言、Stable Diffusion等工具,帮忙来生成内容文案、脚本、代码、图片等,从而提升工作的效率。

AIGC应用可以大致分为:云端和本地两类。云端类型如文心一言、midjourney等,由于算力在云端,因此其对PC本身的硬件压力并不高,但受限与网络、信息安全等多方面因素,很多企业也并不建议员工使用外部的在线AIGC工具;本地化的 AI 应用在便利性、安全性、隐私性以及应用范围方面有着无可替代的优势,但是对PC的性能有一定需求。也正是因此,很多人往往聊起本地的AIGC应用,往往会单纯认为GPU厂商在其中发挥了巨大作用,促进了行业的巨大飞跃等等。

实际真正如此吗?作为PC行业的领导者,英特尔正与PC产业众多合作伙伴通力合作,致力于让广大用户在日常生活和工作中,通过AI的辅助来提高效率,进而带来革新性的PC体验。我们借助搭载第13代英特尔酷睿处理器i7-13700H的Thinkbook 16+这款产品,通过实际体验,来检测搭载英特尔处理器的PC产品能否在AIGC时代帮助职场人迎接挑战。

首先,来看一下这款产品的配置情况:

处理器:第13代英特尔酷睿处理器i7-13700H,14核心20线程,最大睿频5.0GHz,英特尔Evo平台认证

显卡:英特尔锐炬Xe 显卡,96EU

内存:LPDDR5 32GB 5200MHz

硬盘:1TB SSD

屏幕:16英寸 2.5K 100%sRGB

电池:71Wh

i7-13700H处理器怎么样?很强!

日常的职场办公,更强的处理器性能能够带来更加流畅、高效的办公体验,对于本地的AI应用来说,强大的计算性能也是其流畅运行的基础。Thinkbook 16+这款产品搭载了第13代英特尔酷睿处理器i7-13700H。作为第13代酷睿Raptor Lake-H家族的产品,i7-13700H延续了混合架构设计,包含6颗性能核与8颗能效核,共计20线程,还搭配24MB三级缓存。不过得益于进一步优化的Intel 7工艺,i7-13700H相比上一代i7-12700H频率有所提高,性能核最高睿频可达5.0GHz。

通过R23测试来看,多核心得分17098pts,单核心得分1835pts,这意味着无论是单核还是多核性能都表现非常出色,能够应对日常工作。

CrossMark来自老牌测试软件厂商BAPCo,是一款针对处理器的“整合了各种日常应用的综合测试项目”,它的测试项目分为生产率、创造性和反应能力三大块,但与此同时,又有一套独特的对硬件的评分系统,处理器核心数量、内存容量及单双通道、显示屏分辨率等都会影响到评分。通过综合性能测试软件CrossMark来看,总体得分1624,生产率1512,创造性1912,反应能力1231,从中可以看出这款产品在反应速度、程序启动、加载等方面都更加高效流畅。

 

职场工作中,尤其是内容工作者,PS处理图片可以说是必备技能之一。PugetBench for PhotoShop就是通过对图形的处理进行衡量的,通过测试来看,这款产品得分为PugetBench for PhotoShop上的得分为1167,按照PugetBench for PhotoShop的测试标准,这个成绩已经达到了上一代桌面级CPU的性能,所以,用于内容创作也是相当合适的。

Adobe Premiere Pro可以称得上家喻户晓的视频编辑软件了,也是很多内容从业者经常会接触的软件之一。Pugetbench for Premiere Pro能模拟用户使用Premiere Pro的真实场景进行操作,对于视频进行了回放、调色后回放、视频到处、加特效后回放、加特效后导出等复杂测试,最终得出了一个基准分数。在默认状态下,运行这项测试花费的时间较长,总体得分为694。如果将预览画面调整成“1/4”,则可以跑到1048分。

可以看出,无论是PS还是PR,在13代酷睿处理器的加持之下,即便没有独立显卡,也能带来较为出色的使用体验。那么在保障职场人日常工作的同时,这款产品在运行本地的AIGC应用方面又有怎么样的表现?

集显也能轻松“拿捏”大模型?是的!

作为 PC 行业的领导者,英特尔其实很早就已经关注到了AI对于PC的意义。早在 2018 年,英特尔就提出了要在 PC 中引入 AI 技术,英特尔CEO帕特·格尔辛格此前也表示,“我们认为AI PC是未来几年PC市场的一个关键转折点,我们将把AI融入到我们制造的每一个产品中。”

随着今年ChatGPT的爆火,内容创作领域正迎来AIGC带来的大变革。根据Tractica的预测数据显示,全球AI软件市场规模将在2025年达到1260亿美元,2021年到2025年年复合增长率为41.02%。一级市场的火热也反映了AIGC发展的确定性趋势。在大模型的快速迭代推动下,搜索引擎、办公软件、汽车、媒体、AI绘画设计、AI广告营销、智能工作助理等应用率先落地的行业将具备较强商业化机会。

对于职场人来说,紧跟时代风口,掌握相关技能才能不会被时代所“抛弃”。因此,笔记本产品能够在本地“跑”这些大模型应用成了用户迫切的需求。搭载第13代英特尔酷睿处理器i7-13700H的Thinkbook 16+笔记本在没有独立显卡的加持下,能否轻松应对本地AIGC应用?

我们首先使用英特尔的 AI 应用 Demo “英特尔大语言模型”应用进行多组对话,让它帮助我们处理一些工作以及生活中的任务。

比如我们要出一篇“服贸会”采访英特尔展台负责人有关“PC中引入AI”的方向提纲,向“英特尔大语言模型”提问。它很快速地给出了答案方向,如让相关负责人介绍公司情况、探讨当前AI技术在PC中应用的场景、优势,未来的发展趋势等。这份提纲确实可以帮忙打开思路,帮助我们更好完成工作。同时,我们在测试中也发现,生成的这回答所需要的时间非常快速,并且完全不需要联网,完全是调用本地算力。

通过AIDA64的检测来看,在生成回答的过程中,笔记本的频率瞬时能够飙升到4.7GHz,功耗可以飙升到85W,处理器占用率100%。可见,在使用本地大语言模型的时候,强大的处理器性能非常重要。

从测试速度来看,ChatGLM-6b 可以做到首个 token 生成 first latency 157.17ms,后续 token 平均生成率为 74.75ms/token。在自然语言处理领域,「token」是指文本中的一个基本单元,可以是一个单词、一个字、一个子词(subword)、一个标点符号,或者其他可以进行语义处理的最小单元。可以看到,这个处理器速度相当不错。

我们将同样的问题提问给文心一言等依靠云端算力的产品,给出答案所消耗的时间基本一致,可见在英特尔处理器的加持下,本地大语言模型的反应能力非常出色。

为什么本地也很高效地能“跑”大模型?这是因为英特尔构建了BigDL-LLM库,通过 BigDL-LLM库可以对各种各样的大语言模型进行优化和支持,能够在一台搭载 16GB 内存的英特尔轻薄本上运行参数量高达 160 亿的大语言模型,支持的模型包括LLaMA/LLaMA2、ChatGLM/ChatGLM2等等,这极大地降低了 AIGC 的使用门槛。

对于本地AI绘画软件来说,对PC性能的要求更高,没有独立的显卡的加持,笔记本还能够流畅“炼丹”吗?可以的!作为目前最高规格的核显之一,Intel Iris Xe Graphics (96EU) 相较于此前的Iris Plus 核显最高 64EU,基本规格提升明显,FP16、FP32 浮点性能提升幅度高达 84%,还引入了 INT8 整数计算能力 ,这些都加强了它的 AI 图形计算能力,让英特尔轻薄本支持 Stable Diffusion成了可能。

此外,英特尔基于 OpenVINO PyTorch (英特尔推出的一个开放源码工具包,旨在优化深度学习模型的推理性能,并将其部署到不同的硬件平台上)后端的方案,通过 Pytorch API 让社区开源模型能够很好地运行在英特尔的客户端处理器、集成显卡、独立显卡和专用 AI 引擎上。

通过实际测试来看,在常规测试的情况下,生成一张美食图片大概需要1分钟57秒,效果还算不错。

当我们开启"Accelerate with OpenVINO"脚本进行加速的时候,同样的“prompt”和参数设置情况下,仅需19.5秒就可以生成这张图片。所用时间大大缩短。

在相对复杂的“prompt”情况下,效率会有怎样的变化?我们通过一长串“prompt”生成一所在河边的别墅,在未开启加速情况下,耗时1分57秒,在开启加速之后,仅需44秒,效率仍然有大幅提升。

这是生成的样图,画面的质量并没有什么差别,借助英特尔的相关解决方案,可以让本地AI绘画效率在保证质量的同时,效率得到提升。

通过两款AIGC软件的实测体验来看,其中的大语言模型能够快速生成如小红书种草文案、视频脚本等,极大提升职场用户(如记者编辑、码农)的工作效率。英特尔对Stable Diffusion做的相关优化,可以高效快速为用户提供优质图片素材,帮助用户更好应对工作,让笔记本上跑 Stable Diffusion 快速出图已经不是高性能独显游戏本的专属。

总的来说,在后疫情时代,企业和个人更加追求效率的提升。英特尔通过强大的 CPU 算力以及针对 AI 的软件优化两个层面,大幅降低了 AI 应用对 PC 硬件的要求,让更多的普通消费者,通过搭载了英特尔处理器的笔记本体验到最前沿的 AIGC技术,可以帮助职场人更好利用这些工具完成自己的工作任务。从实际测试体验来看,当前很长一段时间,搭载第13代英特尔酷睿的产品仍然是职场人面对AIGC浪潮最合适的选择。

 

本文所有测试软件均为实际使用、真实测试,不代表任何品牌方立场。

AIGC   Intel   i7-13700H   人工智能
光明李

网友评论

聚超值•精选

推荐 手机 笔记本 影像 硬件 家居 商用 企业 出行 未来
二维码 回到顶部