最近在训练AI 模型 和 运用 Stable diffusion 进行AI 绘画

这天然就涉及到 GPU的挑选,这儿或许有人问 我用CPU 不能够么

答: 当然能够,可是你假如愿意画一个图片就60秒当然能够,我是忍不了,太慢了。。。

这儿又要有同学问了,咱们windows上直接就有GPU 我是不是能够直接运用本机的

答: 不可,

GPU的选型和购买

他是 Intel(R) UHD Graphics 630 ,这儿或许同学不知道这是什么意思

UHD 630是Intel集成显卡中的一种,它是Intel第9代芯片组中的一种内置显卡,并且是i5、i7和i9处理器中的一部分。它由Intel开发,集成在处理器内部。在技能参数方面,UHD 630是Intel HD 630的升级版别,因而其功能更加卓越。

UHD 630的中心频率是350 MHZ,最高可达至1.2 GHZ。它还有24个履行单元,支撑DirectX 12OpenGL 4.5和OpenCL 2.1等标准。关于一些一般的运用程席,比方办公运用程序和轻度图形处理等,UHD630现已足够了。但假如您是一个游戏爱好者或需求处理许多图形和视频,则引荐购买一款显卡

那么UHD 630相当于哪一款显卡呢? 能够这么说,它的功能大致相当于一款中低端的显卡,比方NVIDIA GT1030和AMD Radeon RX 550等。由于UHD 630是集成显卡,因而它的功能限制更高,当需求运转许多的现代游戏时,功能或许会有所下降。

详细的功能比较请看下图

GPU的选型和购买

材料地址为 Intel UHD 630和RTX 3080参数详细比照 – 芯参数评测 (xincanshu.com)

并且 咱们一般所说的GPU 是 NVIDIA RTX3080

主要是其中的 NVIDIA

为什么一定要用 NVIDIA 呢

Nvidia是一家设计GPU的技能公司,他们把CUDA作为一个软件平台,与他们的GPU硬件匹配,让开发者更容易构建软件,利用Nvidia GPU的并行处理才能加快核算。Nvidia GPU是支撑并行核算的硬件,而CUDA是为开发者供给API的软件层。因而,你或许现已到Nvidia的GPU需求运用CUDA,而CUDA能够从Nvidia的网站上免费下载和安装。开发人员通过下载CUDA来运用随工具包而来的是专门的库,如cuDNN, CUDA深度神经网络库。

GPU的选型和购买

简略来说便是 咱们需求运用CUDA 来保证模型的履行 和 优化,咱们想做AI 简略来说有2方面(抛开业务)

  1. 写AI 程序,训练模型和优化
  2. 让模型的履行 高效并安稳,这就涉及到CUDA 优化和自定义

提到CUDA,能够研究下

  1. 内存管理
  2. 程序优化: 探索并行化
  3. 程序优化: GPU 内存优化战略
  4. 程序优化: 指令优化

选N卡(NVIDIA)仍是A卡(AMD)?

现在的答案是最好选N卡,虽然有部分AI绘画软件对A卡有支撑,但大部分AI制图对N卡的支撑要更好,部分A卡只能跑在兼容模式下,丧失了很大的功能,且经常出现溃散等问题。

所以,玩深度学习、AI绘画这些,就别考虑A卡了

提到这,现已知道 要选NVIDIA 的GPU了

选什么类型的GPU呢

显卡的功能由两个部分决议,一是中心,二是显存

中心负责处理运算图形数据,显存则负责缓存图形数据,中心在运算时要用到的数据都是在显存中调用的,所以显存的功能直接决议了中心调用数据的功率,直接影响了显卡的功能。

RTX 3060

GPU的选型和购买

3060显卡和3050的显卡功能差多少啊?

3050和3060的功能距离在25%左右,那么现在最廉价的3060在某夕夕百亿补贴是2400多元,3050的价格在1800元出头,3050和3060价格查了600多元。在之前的比照测试中,这个功能距离仅仅低于3060和3060ti的距离。比3060ti和3070,3070和3070ti的比照距离大不少。比方3070和3070ti之前的差价在500左右,但只换来了不到10%的功能提升。并且3060和3050的1080p分辨率下,3A游戏体验仍是有比较大的差别的。3050在1080p高特效下根本在40~50帧之间浮动,而3060根本能够安稳在60帧出头。假如是在1080P玩3A游戏,仍是3060的功能比较安稳。但假如是玩网游的话,3050也绝对没问题。假如主玩单机游戏,3060比3050更好,3060也比3050更有性价比。现在显卡价格昂贵,装备一台高功能电脑很贵不说并且后续想要升级麻烦还要再花钱购置硬件,假如也想要高功能电脑能够试试赞奇云工作站,云电脑自由度更高。赞奇云工作站具有专业级显卡、超大内存等多种机器装备。机器显卡更新及时,供给高配机型,海量资源可按需挑选,内置软件中心供给最新软件安装包,一键下载,省去搜索时间,进步工作功率。

假如不嫌慢,刚入门能够挑选3060,毕竟人家12G显存,哈哈

RTX 3070

3070 相比较于 3060,显存不进则退,8G显存,可是人家速度快

GPU的选型和购买

GPU的选型和购买

大数据量选3060,小数据量想进步速度选3070,但3080Ti才是你们永远的家。

RTX 3080

为什么都说3080才是终究的 归属。

GPU的选型和购买

RTX3080选用三星8nm制程工艺,集成280亿晶体管,包括68个SM单元,总共8704个CUDA中心,搭载新一代RT内核、张量内核。

RTX3080具有1.71 GHz的Boost频率,FP16的最大功能到达238TFLOPs,FP32的最大功能到达29.7 TFLOPs。

RTX3080到达了4.5倍980的功能,但价格只有699美元起,假如以2080比照,快2倍功能提升,真是映证了摩尔定律。

具有 8,960 个 CUDA 内核的 TU102 内核是使其成为深度学习绝佳挑选的另一个因素。

3080有12GB的显存,12GB在许多状况下都不够用,可是能支撑 AI绘画了,要运转Transformer模型的话,至少需求24GB。

假如你要Transformer 比较引荐租借大显存的机器跑

一张表格,展示出在训练和推理过程中,一美元能买到多少算力;这在一定程度上表现了英伟达众显卡的性价比。

GPU的选型和购买

咱们大部分状况运用3080 现已够用了,比3070 更快,并且毕竟3080性价比在这呢

别告诉我 不差钱。。。

GPU的选型和购买

引荐

引荐:RTX 3080 12G,理由:更大的显存,能够运转参数更多的深度神经网络,性价比高。

买仍是租呢

买的话

GPU的选型和购买

租的话

第一个租的

GPU的选型和购买

一天30,一个月 900

第二个租的

GPU的选型和购买

这也是一个月900,还不是windows系统,这什么东西

第三个租的

靠,这也太贵了,不可,我去咸鱼 淘宝看看,这或许是百度出来的贵

GPU的选型和购买
一个月840 还行,比前面的廉价点

GPU的选型和购买

嗯嗯 720一个月还能够,还支撑向日葵,不错

云服务呢

看了这半响,云服务呢,咱们先不看最贵的阿里云,看看腾讯云

GPU的选型和购买

咱们不是为了出产环境运用,咱们是为了个人用,性价比比较重要,3.4 * 24 * 30 = 2448

靠,这也太贵了,不看了,看了半响,**仍是要选咸鱼 淘宝这种租服务器,用好了,然后咱们自己买一个 满意自己场景的显卡 **

在哪租呢?

现在最廉价的便是 720元一个月,其实这儿能够,在本地把代码写好,预备训练的时候 暂时买几天的,这种比较靠谱,性价比比较高

假如你感觉每次都要重新装备环境 ,有点累,也能够租一个月,能够自己找廉价点的,你就集中运用一个月,比较合适学习中的同学

彩蛋

大家能够看下评论区,评论区大哥有廉价的,我为了不让人家说是推行,我只送,来历也不会告诉,防止说是推行

朋友圈 随机抽一个同学送一台 RTX 3080 一个月额度 (6月18号抽)

GPU的选型和购买