您当前位置:网站首页 >> 知识专区
PyTorch实现苹果M1芯片GPU加速:训练速度提升7倍,性能最高提升21倍
文章来源:CSDN 程序人生  上传时间:2022-6-10  浏览量:707

本文链接:https://blog.csdn.net/csdnsevenn/article/details/124888308

但随着PyTorch v1.12版本的发布,开发和研究人员可以利用Apple Silicon CPU的优势,大大加快模型训练速度。这解锁了在Mac上执行机器学习工作流程的能力,例如在本地进行原型设计和微调。

据PyTorch官网介绍,其使用Apple的Metal Performance Shaders(MPS)作为PyTorch的后端来加速GPU训练。MPS后端扩展了PyTorch框架,提供了在Mac上设置和运行操作的脚本和功能。MPS通过针对每个Metal GPU系列的独特特性进行微调的内核来优化计算性能。新设备将机器学习计算图和原语映射到MPS提供的MPS Graph框架和优化内核上。

此外,因为每台搭载Apple Silicon的Mac都有统一的内存架构,为GPU提供了直接访问完整内存存储的能力。这让Mac成为机器学习的绝佳平台,也使用户能够在本地训练更大的网络或批大小。同时,这也降低了与基于云的开发相关的成本或对额外本地GPU的需求。此外,统一内存架构还减少了数据检索延迟,提高了端到端的性能。

在下图中,显示了与CPU基线相比,加速GPU训练和评估所带来的性能提升:

图源: PyTorch官网

可以看出,使用GPU可将模型训练速度提升约7倍,评估(Evaluation)速度最高可提升约21倍。

以上是Apple于2022年4月使用配备Apple M1 Ultra、20核CPU、64核GPU、128GB内存和2TB SSD的Mac Studio系统进行的测试结果。系统为macOS Monterey 12.3、预发布的PyTorch 1.12,测试模型为ResNet50(batch size=128)、HuggingFace BERT(batch size=64)和VGG16(batch size=64)。性能测试是使用特定的计算机系统进行的,反映了Mac Studio的大致性能。

对于想要体验的用户,以下为具体要求:只需在搭载M1芯片的Mac上安装原生版本(arm64)的Python,并将系统升级至macOS 12.3或更高版本,然后去官网下载最新的PyTorch预览版就可以。

参考链接:

1.Introducing Accelerated PyTorch Training on Mac | PyTorch

2.Start Locally | PyTorch

文章知识点与官方知识档案匹配,可进一步学习相关知识
Python入门技能树人工智能深度学习51329 人正在系统学习中
程序人生
微信公众号
笑谈开发轶事,品味程序人生。

18

2021-09

经典网络模型 ResNet-50 在 ImageNet-1k 上的研究

经典网络模型 ResNet-50 在 ImageNet-1k 上的研究

30

2022-12

用一张图说一说 ChatGPT 内部技术工作流程

用一张图说一说 ChatGPT 内部技术工作流程

28

2021-07

使用 HTML、CSS、JS 和 API 制作一个很棒的天气 Web 应用程序

使用 HTML、CSS、JS 和 API 制作一个很棒的天气 Web 应用程序

30

2021-09

相见恨晚的8个电脑端设计软件

相见恨晚的8个电脑端设计软件,没用过的都后悔了!

29

2021-06

python消消乐 美轮美奂的界面效果【完整源码+详细流程】

python消消乐 美轮美奂的界面效果【完整源码+详细流程】

04

2022-03

干掉Session?这个跨域认证解决方案真的优雅

干掉Session?这个跨域认证解决方案真的优雅

18

2022-02

静态路由简介及配置

静态路由简介及配置

07

2022-02

公网IP、私网IP、动态IP、静态IP

公网IP、私网IP、动态IP、静态IP
返回顶部
客服电话
用微信扫一扫关注我们
请各公司推销人员注意:我单位拒绝任何方式、任何形式的电话推销,请勿拔打我单位客服热线进行电话推销,谢谢合作!
公司名称:100元4个小时上门服务电话
100元4个小时上门服务电话-同城约茶服务十点击查看网站【www.sscmtv.com】200元3小时上门不限次二维码-微信qq上600块3小时不限次数-一百【点击进入立即约茶】。小妹
关键词:知识专区:PyTorch实现苹果M1芯片GPU加速:训练速度提升7倍,性能最高提升21倍,100元4个小时上门服务电话【点击进入网站查看约茶服务】。网上怎么找上门服务,附近品茶服务,喝茶服务联系方式,附近初中生300块电话号码,不限次品茶,一条龙的服务上门二维码,100块钱上门服务电话号码,200元1小时做完付款十同城附近约茶服务:【进入平台查看预约服务】。同城包小妹电话是,小姐服务,本地同城附近200元,24小时上门二维码,1243567800元3小时上门服务电话,500块钱3小时上门服务电话,,联系同城约茶服务,【点击这里进入上门服务】。 附近大泡50元的电话
云南网站建设,云南网页设计,昆明网站建设,昆明网页设计  网站管理
【版权声明】本站部分内容由互联网用户自行发布,著作权或版权归原作者所有。如果侵犯到您的权益请发邮件致info@ynjwz.com,我们会第一时间进行删除并表示歉意。