商务服务
OpenAI 全面使用 Pytorch,TensorFlow与PyTorch 相爱相杀
2025-01-03 03:49

不久前,OpenAI 宣布会在未来的项目中使用 PyTorch 机器学习框架。OpenAI 是由马斯克和其他人共同创办的顶级 AI 研究公司,曾开发 AI 项目 5 次击败 Dota2 世界冠军、利用机器人还原魔方等。

选择 Pytorch 作为深度学习框架

OpenAI 表示,他们将深度学习框架 PyTorch 作为统一的标准,让团队能够更好创建和共享模型。

OpenAl选择 PyTorch 的主要原因是为了提高 GPU 的大规模研究效率,使用 PyTorch 也很容易执行新的研究思路,它可以将生成建模中的迭代时间从几周缩短到几天。而且 Pytorch 也有很多快速增长的开发者社区,很多大型研究机构 Facebook 等都在使用,推动了技术发展。

OpenAI 目前已计划将在 PyTorch 上提供开源的教育资源 Spinning Up in Deep RL,这将更便于深度强化学习。该公司在一份声明中说:「展望未来,我们将主要使用 PyTorch 作为我们的深度学习框架,但有时在有特定技术原因时也会使用其他框架。」

PyTorch 与 Tensorflow 的相爱相杀

近几年来,PyTorch 与 Tensorflow 相爱相杀,OpenAI 这一举动无疑于将 Pytorch 推向了浪尖。

在线搜索量

在谷歌搜索趋势中,从 2017 年 2 月 4 日到 2020 年 2 月 4 日,PyTorch 和 TensorFlow 在谷歌的搜索量逐渐逼近,差距正在缩小。

Google 搜索兴趣(蓝色的是 PyTorch,红色的是 TensorFlow)

在线求职网站出现频次

根据数据科学家 Jeff Hale 对两个框架的调研,截止 2020 年 1 月 26 日,在 linkedIn 等求职网站上,TensorFlow 的平均出现频次是 PyTorch 的两倍,而在一年前,TensorFlow 出现的次数是 PyTorch 的三倍。

TensorFlow 和 PyTorch 在求职网站上的平均出现频次

两个框架出现频次的占百分比

顶会论文出现次数

从前 PyTorch 实习生 Horace He PyTorch 所做的调研发现,当前 PyTorch 在各大顶会论文中出现的次数处于领先地位。如下图所示,从 2017 年至 2019 年,在多个顶会论文中 PyTorch 出现次数在 TensorFlow/PyTorch 总出现次数的占比大于 50%,意味着 PyTorch 出现的次数多于 TensorFlow。

PyTorch 出现次数在 TensorFlow/PyTorch 总出现次数的占比

为了更细节化比较,下图展示了 2016 年至 2019 年间,PyTorch 和 TensorFlow 在 NeurlPS 会议论文的趋势,实线表示 PyTorch,虚线表示 TensorFlow。

PyTorch 和 TensorFlow 论文在 NeurlPS 会议的占比

从 2018 年到 2019 年,PyTorch 的论文数量不断逼近 TensorFlow 的论文数量,从一倍的差距到相差甚少。在最近的 NeurlPS 会议上,PyTorch 的论文数量为 166,而 TensorFlow 的论文数量为 74,前者是后者的两倍。可见 PyTorch 在学术界越来越受欢迎。

TensorFlow 虽仍处于领先地位,但 PyTorch 正一步步取得进展,逐渐缩小差距。在学术界,PyTorch 因其可快速实现和验证想法的优点,已经超越了 TensorFlow。

PyTorch

PyTorch 于 2016 年 10 月在 Facebook 上公开发布,是一个基于 Torch 的开源机器学习库。PyTorch 使用 Python 作为开发语言,友好直观。PyTorch 作为深度学习模型的功能:

支持 Python。PyTorch 与 python 数据科学相结合,可以看作是加入 GPU 支持的 numpy,实现强大的 GPU 加速。

执行代码高效。用户无需等待编写完整的代码即可检查是否有效,因此可以高效运行部分代码并进行实时检查,可以轻松找到出错代码,避免浪费太多时间。

动态计算图。PyTorch 提供了一个框架,可以随时构建计算图,甚至可以在运行时更改它们,如果想要改变网络结构,通过一次反向求导技术,可以任意改变神经网络行为,使得任何疯狂想法获得最高速度和最佳灵敏度。

TensorFlow

TensorFlow 是由 Google 开发的一个著名深度学习库,以计算图的形式来表示整个计算过程。它具有强大的可视化功能,也可用于高级模型的开发。TensorFlow 的功能:

简单的内置高级 API。通过使用直观的高级 API(如 Keras),该库可以构建和训练机器学习模型,使得模型迭代更加快速、易于调试。

随时随地部署模型。无论使用哪种语言,都可以在本地、浏览器或移动设备中训练和部署模型。

PyTorch 与 TensorFlow 之间的区别

生产部署

工业界更注重生产部署,这对于 TensorFlow 来说无疑是赢家,我们可以使用 TensorFlow 框架直接在 TensorFlow 中部署模型,在现有的生态基础上进行算法组合和调优,能更快速给出方案、快速跑通程序来完成特定任务。而在 PyTorch 中,与最新的稳定版本 1.0 相比,虽然这些生产部署更易于处理,但是它并没有提供任何框架将模型直接部署到 web 上,必须要使用 Flask 或 Django 作为后端服务器。所以,对于目前的部署生态,TensorFlow 比 PyTorch 更加老练。

计算图构造

TensorFlow 使用静态图,这意味着用户首先需要定义模型的计算图,之后不断运行机器学习模型,需要图经过编译然后在执行引擎上执行。然而 PyTorch 具有创建图的动态特性,每次都会重新构建新的计算图,并且可在运行中操作图,便于调试。

PyTorch 与 TensorFlow 各有自己的特点,功能各有千秋,接下来其他公司将作何选择,让我们拭目以待。

参考链接:

[1] https://openai.com/blog/openai-pytorch/

[2] https://hackr.io/blog/pytorch-vs-tensorflow

    以上就是本篇文章【OpenAI 全面使用 Pytorch,TensorFlow与PyTorch 相爱相杀】的全部内容了,欢迎阅览 ! 文章地址:http://keair.bhha.com.cn/news/5076.html 
     文章      相关文章      动态      同类文章      热门文章      栏目首页      网站地图      返回首页 康宝晨移动站 http://keair.bhha.com.cn/mobile/ , 查看更多   
最新文章
奶奶手机被路人“顺走” 两岁萌娃迈小短腿急追(图)手机截屏怎么弄「奶奶手机被路人“顺走” 两岁萌娃迈小短腿急追(图)」
  大家好,我是今天的主角小萌娃,我是个男娃儿,今年才两岁,和家里人暂住在杭州石桥。平时大家都很喜欢和我玩,还爱给我拍照
oppo怎么看手机温度手机温度「oppo怎么看手机温度」
随着智能手机的普及,手机性能的提升,手机发热问题也逐渐成为用户关注的焦点。OPPO作为国内知名的手机品牌,其手机在性能和用户
360手机N4S跑分多少 360N4S安兔兔跑分成绩评测图解360手机多少钱「360手机N4S跑分多少 360N4S安兔兔跑分成绩评测图解」
今天下午,360手机在广州召开了畅快用两天为主题的新品发布会,正式发布了N系列第二款新品----360手机N4S,售价仅1199元起。该机
有哪些一个手机两人一块玩的游戏 2024好玩的双人同屏手游合集双人联机手机游戏「有哪些一个手机两人一块玩的游戏 2024好玩的双人同屏手游合集」
与目前市场上的双人手游相比,双人同屏手游无疑更具互动性和竞技乐趣。玩家和好友共用一部手机,进行指尖上的对决。今天小编特意
雷蛇鼠标怎么设置宏雷蛇手机「雷蛇鼠标怎么设置宏」
雷蛇鼠标宏可以帮助你自动化重复的操作,提高游戏和办公效率。以下是两种常见的设置方法:方法1:使用雷蛇Synapse软件设置宏大多
蓝牙耳机和智能手表怎么同步使用智能手表怎么连接手机「蓝牙耳机和智能手表怎么同步使用」
蓝牙耳机和智能手表怎么同步使用  导语:这个对很多用户来说还是有点陌生,智能手表毕竟是个新鲜事物,对市场而言,还需要市场
从买房看人生|为什么那么多优秀且努力的人,越活越辛苦?
买一套好房子从关注「青岛楼市研究员」开始正文2317字,预计阅读时间:可能6分钟月中的时候,写了一篇学区房的文章,结果咨询量
ASO优化不仅仅是苹果商店,安卓商店同样不可忽视安卓手机应用市场「ASO优化不仅仅是苹果商店,安卓商店同样不可忽视」
大家一谈起ASO优化,不少人反应大多数都是IOS市场的优化,其实安卓也是不可分割的大市场,在国内手机应用市场,安卓的用户质量在
With同屏手机同屏软件「With同屏」
  With同屏app是一个非常好用的同屏工具,它可以像直播一样将你的手机屏幕共享出去,可以让身处不同的地方用户一起看电影、追
ce修改器手机版 v1.1 最新版ce修改器手机版「ce修改器手机版 v1.1 最新版」
ce修改器app是一款功能齐全的图片编辑软件,您在该软件当中可以随意释放自己的创意,修出专属于自己风格的照片,并且软件拥有人
相关文章
相关动态