【TOP本色】Intel YES！在轻薄本上玩转AIGC，打造每个人都能用的AI算力
继2022年高校毕业生规模首次突破千万大关后，教育部数据显示，2023届全国普通高校毕业生规模预计达1158万人，同比增加82万人，就业形势依旧严峻。恰巧今年初，AI相关领域大火，也创造更多的就业机会，很多公司和机构也开始大量招聘相关人才。根据《2023届高校毕业生就业数据报告》显示，在应届毕业生投递人数增长最快的前十大行业赛道中，智能制造、AIGC(生成式人工智能)、AI大模型排名前三，同比增长303.12%、297.27%、235.25%。另有研究显示，中国已有超过400所大学开设了人工智能专业本科专业，对比2020年增加近1倍。人工智能学院，研究院/中心的数量和研究生数量也大幅增长。人工智能以及应用，太火了!
尚未走向社会的大学生们，该如何更好迎接这波AI浪潮？很明显，学习有关AI的相关技能，会是一个非常不错的选择。如果说过去的简历中"技能"一项是熟练掌握Office、PS，那么未来，对于普通人来说，一定是属于AI和“prompt”。某AI领域的大牛也给出了自己的判断：做一个大胆预测，十年以后，全世界有50%工作会是提示词工程（prompt engineering），不会写提示词（prompt）的人会被淘汰。
“我想学AI的相关技能，但是听说需要买性能强的游戏本，或者组装台式机，整不了啊！”诚然，在很多新人眼里，认为运行AI模型、AI绘画等很吃“显卡”，没有强大的独立显卡就不能很好的体验，没有其他的选择了？作为 PC 行业的领导者，英特尔早在 2018 年就提出了要在 PC 中引入 AI 技术，并且在同年推出了“AI on PC Developer Program” PC 人工智能开发者计划。时至今日，大模型和生成式 AI 已经基本奠定了 PC 上的 AI 基本形态，英特尔也沿着这个方向做了许多事情。最近，我们拿一款第13代英特尔酷睿处理器的联想小新Pro 16核显版产品进行测试，来看看英特尔在AI领域的新进展以及它是如何在当前环境下，帮助年轻人更好地学习就业。
首先，来看一下这款产品的配置情况：
处理器 : Intel Core i9-13900H ，14核心20线程，Intel 7工艺
显卡：英特尔锐炬Xe 显卡，96EU
内存：LPDDR5 32GB 5200MHz
硬盘：1TB SSD
屏幕：16英寸 2.5K 100%sRGB
电池：75Wh
硬核性能，设计游戏全能搞定
在大学生活里，无论是影音、娱乐还是游戏、创作，笔记本拥有强悍的处理器总能得心应手。联想小新Pro 16搭载了第 13 代英特尔酷睿 i9-13900H 移动处理器，作为 Raptor Lake-H 系列中的高端型号，基于Intel 7工艺制程，采用异构设计，拥有14核心20线程，其中包括 6 个性能核心和 8 个能效核心，能效核睿频最高可达 4.1 GHz，性能核单核最高睿频可达 5.4 GHz，还配备 24MB 的 L3 缓存。这意味着在单个任务的处理速度上，用户能够享受到更快的响应和执行速度。对于一些需要高性能的应用程序，比如视频编辑、图形渲染等，这种提升的速度将会极大地提升用户的工作效率。而在多核性能方面，i9-13900H处理器的14核20线程设计允许同时执行更多的任务。无论是多任务处理，还是需要同时进行多项计算的工作负载，这款处理器都能够提供出色的表现。处理器的能效核心在这方面发挥了重要的作用，它们能够有效地管理功耗和资源分配，提供更加高效的多核处理能力。
通过R23测试来看，得益于出色的散热和性能释放，其多核心得分18160pts，单核心得分2037pts。可见无论是单核还是多核，性能都表现非常出色，能够应对大学里的学习和娱乐需求。
CrossMark来自老牌测试软件厂商BAPCo，是一款针对处理器的“整合了各种日常应用的综合测试项目”，它大的测试项目分为生产率、创造性和反应能力三大块，但与此同时，又有一套独特的对硬件的评分系统，处理器核心数量、内存容量及单双通道、显示屏分辨率等都会影响到评分。通过综合性能测试软件CrossMark来看，总体得分1876，生产率1735，创造性2221，反应能力1431，从中可以看出这款产品在反应速度、程序启动、加载等方面都更加高效流畅。这个成绩，比我们之前测试的某款搭载R9-7940H游戏本跑分还要高100多。
PS这个软件在大学中的应用非常广泛，如用于课程作业、社团活动、比赛、专业研究和教学等多个场景。PugetBench for PhotoShop就是通过对图形的处理进行衡量的，通过测试来看，这款产品得分为1201，这个得分在同类产品中是相当不错的，表明这款笔记本在处理Photoshop任务方面表现出色。
作为一款全球知名的剪辑软件，Premiere在大学生活中的应用也是非常广泛，熟练掌握它可以满足大学生在学术、社团活动、比赛、Vlog等多个方面的需求，也能够为未来工作增添一份亮点。Pugetbench for Premiere Pro能模拟用户使用Premiere Pro的真实场景进行操作，对视频进行了回放、调色后回放、视频到处、加特效后回放、加特效后导出等复杂测试，通过测试来看，这款产品的得分为872，这也意味着它能够较快地完成视频编辑、导出等操作。
我们打开PR软件，通过对1920*1080分辨率的5分钟视频进行完整回放来看，其丢帧指示器一切正常，意味着其可以完全回放该画质视频，而不会产生丢帧现象。
之后，我们对该视频进行导出为H.264，导出为350MB大小的视频，耗时为1分钟25秒左右。可见，对于日常拍摄的Vlog、抖音短视频等，搭载13代酷睿处理的联想小新Pro 16也能轻松满足。
对于大学生群体而言，轻薄本也需要兼具适当的游戏娱乐属性。 i9-13900H处理器的性能核单核最高睿频可达 5.4 GHz，很好地兼顾了《英雄联盟》《Dota 2》等主流网络游戏。英特尔平台也带来了更好的稳定性，如大学期间需要用到行业类软件Matlab、Android Studio等，也能够很好地安装使用。
在图书馆或者教室使用笔记本，往往很难找到一个合适的插孔。联想小新Pro 16还通过英特尔Evo平台认证，搭载75Wh大容量电池，带来了出色的续航表现，实际体验来看，在50%亮度的情况下，使用一整天毫无压力，搭载13代酷睿处理器的产品在续航上来说代际提升非常明显；雷电4接口设计，可以高速传输大型文件数据，也可以让用户在寝室或者实验室可以外接多块高素质显示屏幕，提升学习效率。在使用拓展功能的时候，也能通过该线缆向笔记本提供85W快充电力，做到一线通所有；而预装的英特尔Unison，也让用户可以轻松连接电脑和手机，进行文件数据的高效跨端传输......这台英特尔Evo认证的轻薄本，已经像一个小型的工作站了，能够帮助创作者高效地完成各项任务，这也是为什么从目前的市场反馈上来看，注重生产力与娱乐需求兼顾的购机人群往往会选择稳定性、兼容性、适配性、拓展性更好的英特尔平台。
十几秒生成一张AI图片，效率相当惊人！
今年以来，AIGC火的“一塌糊涂”，很多行业都开始使用AIGC来提升生产效率。对于很多大学生来说，想必都用过流行的ChatGPT、Midjourney等AIGC应用，但受限于网络、隐私安全，大多数还需要开会员等。比如在没有网络覆盖的飞机上，需要使用Midjourney生成一张AI图片怎么办？
像本地化的 AI 应用在便利性、安全性、隐私性以及应用范围方面有着无可替代的优势，但是对PC的性能有一定需求。也正因如此，很多人往往聊起本地的AIGC应用，往往想到的硬件诸如DGX GH200AI之类的人工智能计算机超级平台，这些平台本身不仅价格昂贵，并且在模型软件方面也有多次的收费，并不能满足个人用户的本地化AI需求。英特尔的领先之处在于，通过软硬件相结合的方式，带来了强大的AI算力，让本地AIGC应用“平民化”。
接下来，我们就用这款联想小新Pro 16来体验下大语言模型和Stable Diffusion。
首先使用大语言模型应用Demo进行多组对话，让它帮助我们处理一些工作以及生活中的任务。
比如国庆快到了，让它帮忙规划国庆七天，从杭州到北京可以去的景点，并规划路线和大致花费。在使用过程中，CPU的占用率为100%，能达到4.5GHz，可见运行本地大语言模型确实会“吃”CPU的性能。第一次生成结果来看，ChatGLM-6b 可以做到首个 token 生成 first latency 498.63ms，后续 token 平均生成率为85.37ms/token。值得一提的是，first latency与问题的长度呈现线性相关，初次提问和后续的提问在延迟上会有明显区别。好比在考场考试，回答第一道题的时候往往因需要“进入状态”而多花一些时间。
同样的问题再次提问，速度明显有了很大提升，首个 token 生成 first latency 70.01ms，后续 token 平均生成率为87.83ms/token。整体来看，生成质量还算不错。
同样的问题抛给文心一言等工具，得出内容所消耗时间基本一致，如果网络不佳，则文心一言等工具反馈则会很慢。可见，本地大语言模型优势明显。
这主要得益于英特尔构建了BigDL-LLM库，通过 BigDL-LLM库可以对各种各样的大语言模型进行优化和支持，能够在一台搭载 16GB 内存的英特尔轻薄本上运行参数量高达 160 亿的大语言模型，支持的模型包括LLaMA/LLaMA2、ChatGLM/ChatGLM2等，这极大地降低了 AIGC 的使用门槛。我们测试所使用的是联想小新Pro 16的32GB内存版本，自然可以轻松应对。
对于本地AI绘画软件来说，对PC性能的要求更高，没有独立显卡的加持，笔记本还能够流畅“炼丹”吗？小编在测试之前心里也是没谱，测试结果却令人非常惊喜。
比如想要一张小狗的照片，在Stable Diffusion中输入相关的prompt，开启"Accelerate with OpenVINO"脚本进行加速，仅需18.9秒就可以生成这张图片，速度相当令人震惊！需要注意的是，这完全是在本地运行（断网），而没有借助云端工具。
为什么AI绘画的效率会如此惊人？一方面，是由于Intel Iris Xe Graphics (96EU) 性能确实不错，即便是集成显卡，也有不错的图像处理能力。另一方面，英特尔基于OpenVINO PyTorch后端的方案，通过Pytorch API让社区开源模型能够很好地运行在英特尔的客户端处理器、集成显卡、独立显卡和专用AI引擎上。像刚刚测试的Stable Diffusion，已经能通过上述方式，在英特尔客户端平台的CPU和GPU(包括集成显卡和独立显卡)上运行FP16精度的模型，用户可以在文字生成图片、图片生成图片以及局部修复等功能上获得良好的使用体验。
那么云端生成的照片效率如何？我们尝试注册了一款AI绘画软件，想生成图片，平台需要进行充值或者做任务.......果断放弃！
总结
从这款产品的实际体验来看，借助第13代英特尔酷睿处理器，已经可以轻松完成视频剪辑、图片处理以及大语言模型、本地AI绘画等工作，能够满足大学生群体对日常学习办公、学习设计软件、使用AIGC工具等多方面需求。
值得一提的是，英特尔的下一代处理器Meteor Lake具备独特的分离式模块架构的优势，为PC用户提供了以AI驱动的新功能，像Adobe Premiere Pro中的自动重新构图和场景编辑检测等多媒体功能，并实现更有效的机器学习加速。它们会和产业合作伙伴一起向着规模化应用AI加速转型的方向前行，后续几代产品也将继续拓展AI能力，让更多人享受到AI带来的体验升级。在AIGC时代，如果你要选购笔记本，还是优先推荐搭载英特尔处理器的产品。
本文所有测试软件均为实际使用、真实测试，不代表任何品牌方立场。