主题:CPU与GPU的作用
正序浏览
主题图片汇总
主题内检索
资深泡菜
泡网分: 27.771
主题: 212
帖子: 4099
注册: 2006年2月
CPU与GPU的作用的区别,可不可以这样理解:
CPU相当于一个聪明人的大脑,GPU相当于一群智力平均的人的大脑。如果要解决一个相对论的问题,当然是越聪明的人大脑越好,像爱因斯坦的大脑才行,人多了没用,还得靠个人的聪明。但是如果要统计全国的粮食产量,爱因斯坦就干不过千万个会计了,这些会计不需要很聪明,有正常的智力就行,靠的是人多,可以协调一起统计。
不知道比喻是否恰当。
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
广东省
浏览:1083 回帖:17
第 1 页 / 共 1 页
游客没有回帖权限
泡菜
泡网分: 0.61
主题: 13
帖子: 682
注册: 2020年11月
没弄明白GPU推理和训练的区别
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
贵州省
资深泡菜
泡网分: 21.503
主题: 28
帖子: 3778
注册: 2008年2月
众测俱乐部标识
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
浙江省
资深泡菜
泡网分: 27.771
主题: 212
帖子: 4099
注册: 2006年2月
woot 发表于 2024-01-30 16:06
一个比喻:
CPU是4个或者8个大学生(CPU内核),擅长做比较难的数学题,每个人同时做不了太多;
GPU就是上千小学生(流处理器的数量),擅长做四则运算,题目简单但是人多哪怕几万本习题册也能很快做完。
所以得出结论:
GPU做的事情CPU理论上能做...
想法一样,描述不同
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
广东省
泡菜
泡网分: 0.579
主题: 21
帖子: 536
注册: 2009年6月
一个比喻:
CPU是4个或者8个大学生(CPU内核),擅长做比较难的数学题,每个人同时做不了太多;
GPU就是上千小学生(流处理器的数量),擅长做四则运算,题目简单但是人多哪怕几万本习题册也能很快做完。
所以得出结论:
GPU做的事情CPU理论上能做,但速度差几个数量级;
GPU只能做特定的能拆分为简单事情的任务;
混合的任务,比如打游戏除了显卡也需要CPU性能因为很多GPU任务需要靠强大的CPU来给显卡拆解分配任务,吕布骑狗并不是个好选择;
GPU相对容易靠堆料来增加算力,代价是成本和耗电,但家用CPU则不然,类似16个家教并不能比8个家教更好的辅导一个孩子学习;
但服务器CPU核心确实越多越有用,因为服务器面对的是多任务,类似与给一个班的学生辅导学习。
对于AI,因为人们找到了算法让并行能力强的GPU来做更有效率,但并不是完美,最终肯定会有专用芯片的,但目前没有突破。
目前的文档还有针对AI高效的解释,GPU相对CPU还有一个强大的地方,就是缓存。GPU对缓存和寄存器的性能也比CPU领先一个数量级。缓存可以比喻为人手,上千小学生比8个大学生光拿到一万本作业本的速度就已经快了不少
woot 编辑于 2024-01-30 16:27
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
上海
老坛泡菜
泡网分: 32.784
主题: 57
帖子: 4000
注册: 2002年7月
gpu最早是用于图像处理的,强调多核并行做一些特殊的运算,目前也用于人工智能的神经网络运算,因为两者在本质上都是大矩阵计算。cpu核心相对于gpu少,但每个核心的能力更强,更通用,在必须串行处理的情况下更有优势,比如人工智能的专家系统。
目前微软 英伟达 AMD 英特都在为ai pc造势,这类pc的总tfloap 超过40,可以将目前运行在云端的人工智能推理工作挪到pc上进行。
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
四川省
资深泡菜
泡网分: 27.771
主题: 212
帖子: 4099
注册: 2006年2月
格哈雷 发表于 2024-01-28 07:55
应该就类似于当年的数学协处理器,配合CPU算力如虎添翼,英特尔如果集成到CPU内部,效率比现在更高
核显就是干这个的,不过核显做不了很强大,只能完成些辅助性的任务。而显卡则是GPU尽情发挥的地方。
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
广东省
泡菜
泡网分: 11.636
主题: 6
帖子: 1067
注册: 2018年6月
应该就类似于当年的数学协处理器,配合CPU算力如虎添翼,英特尔如果集成到CPU内部,效率比现在更高
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
湖南省
泡菜
泡网分: 9.85
主题: 177
帖子: 5244
注册: 2019年12月
我觉得专业显卡对精度的要求也是很高的,不像游戏卡。
发布自 色影无忌小程序
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
陕西省
泡菜
泡网分: 1.442
主题: 1
帖子: 1211
注册: 2023年10月
比喻是不严谨的。科学需要严谨。因此,比喻大多漏洞百出,模模糊糊,似是而非,照猫画虎。严谨科学定义不能靠比喻。文科用比喻。
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
澳大利亚
资深泡菜
泡网分: 35.512
主题: 33
帖子: 6817
注册: 2004年8月
CPU长处在整数运算,浮点运算就要差不少。
GPU刚好相反,浮点运算强,整数运算差点。

CPU的工作模式是单线程,一项任务要从头做到尾,完成以后才进行另外一项工作,如果中间有突发任务插进来,就需要中断手上的任务,去处理紧急的任务。所以,虽然我们用电脑,表面上看是多个任务同时在做,实际上CPU是不停的通过中断机制,来调用、处理不同的任务。CPU通过增加核心和线程的方式,来提高多任务并行处理的能力,不过现在民用CPU,高端的也不过20几个核心,服务器的也就是几十个而已。

GPU则是相反的工作方式,上来就把核心分解成若干个流处理器,每个流处理器又分解成若干个单元,每个单元的处理逻辑非常简单,总之就是量大管饱。这样在并行处理上,GPU先天就比CPU有很大的优势,在图片、视频、AI、神经网络这些需要大量浮点运算的项目上,GPU就更好用一些。
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
广东省
资深泡菜
泡网分: 27.771
主题: 212
帖子: 4099
注册: 2006年2月
老顽童 发表于 2024-01-27 11:19
CPU和GPU本质上都是计算机芯片,都要执行程序,都可以处理数据。不过CPU是通用芯片,除了处理数据,还有许多别的任务,而且别的任务还比处理数据更重要。而GPU是专门针对图像数据做了优化的,处理图像数据要比CPU效率高得多。
我们还可以从另一方面看两...
这个和我的想法差不多!
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
广东省
版主
泡网分: 156.067
主题: 146
帖子: 46497
注册: 2000年6月
内容贡献勋章 优质内容勋章
CPU和GPU本质上都是计算机芯片,都要执行程序,都可以处理数据。不过CPU是通用芯片,除了处理数据,还有许多别的任务,而且别的任务还比处理数据更重要。而GPU是专门针对图像数据做了优化的,处理图像数据要比CPU效率高得多。

我们还可以从另一方面看两者的区别,比如可靠性。CPU需要很高的可靠性,因为万一出错,不仅仅是降低效率的问题,甚至可以引起系统的崩溃。100亿个数据里错了一个可能就不得了!但GPU对可靠性的要求就可以低很多,100万个像素里就是错了一个你也看不出。所以如果处理速度提高造成了可靠性的降低对CPU不能允许,但对GPU可能就不算啥事。

说个比喻,好比药品生产和粮食生产,药品对成分、杂质、化学物理性能等有很高要求,所以生产成本很高。但粮食对这方面要求比药品低、但是量特别大!两者都是人吃的东西,但粮食可以用更高的效率去生产。
(1)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
陕西省
rzn
资深泡菜
泡网分: 31.44
主题: 37
帖子: 1589
注册: 2004年2月
CPU相当于大脑把耳、鼻、口、眼皮肤等收集外界来的信息输送到大脑中心经过判断和处理后分别送到视觉神经、语言等神经中去。而GPU就相当于视觉神经和语言神经分别送到显卡和声卡中在显示器和扬声器使我们的眼睛和耳朵中能看到和听到外面世界的纷繁的景色和声音。
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
安徽省
rzn
资深泡菜
泡网分: 31.44
主题: 37
帖子: 1589
注册: 2004年2月
CPU相当于大脑把耳、鼻、口、眼皮肤等收集外界来的输送到大脑中心经过判断和处理后分别送到视觉神经、语言等神经中去。而GPU就相当于视觉神经和语言神经。
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
安徽省
泡菜
泡网分: 25.469
主题: 291
帖子: 4772
注册: 2005年11月
以人的智力标准,CPU/GPU都谈不上聪明,完成通用计算用途的半导体器件而已
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
北京
泡菜
泡网分: 17.796
主题: 11
帖子: 14800
注册: 2012年6月
CPU是少数高算力大脑

GPU是集中大量低算力异构(与CPU异构)大脑

现在的GPU都是GPGPU了,其实CPU的逻辑模块和功能GPU里为了AI已经都实现了

现在的显卡其实是一台单独的"PC",它只是和主机里CPU通信。不是说有人也开发出了专门跑在GPU上的linux 版本吗。。。
闲聊状态 编辑于 2024-01-27 09:43
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
山东省
泡菜
泡网分: 10.873
主题: 5
帖子: 81
注册: 2008年6月
萧风萧风 发表于 2024-01-26 22:40
CPU与GPU的作用的区别,可不可以这样理解:
CPU相当于一个聪明人的大脑,GPU相当于一群智力平均的人的大脑。如果要解决一个相对论的问题,当然是越聪明的人大脑越好,像爱因斯坦的大脑才行,人多了没用,还得靠个人的聪明。但是如果要统计全国的粮食产量,...
这样理解不对。你这样的理解是新的更快的CPU与旧的速度慢的CPU。
如果CPU是人的大脑,GPU是干特定活的部件,如嘴、眼睛等。
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
北京
回复主题: CPU与GPU的作用
功能受限
游客无回复权限,请登录后再试