Graphics Processing Units

Posted on Edited on In Views:

Outline:

  • Preface：Graphic Card
  • Basic Concepts
  • Components of GPU

Preface：Graphic Card

很详细的介绍显卡的文章

  • Video card (or Display card, Graphics card) is composed of:
    1. GPU (Graphics Processing Unit)
    2. Video Memory (VRAM)
    3. Cooling System, Power Connectors, Output Connectors. PCB (Printed Circuit Board), BIOS/UEFI (Firmware).
  • Since GPU is the most important of a Graphics card, we may use these two terminologies interchangeably.
Graphic Card Arch

Basic Concepts

  • Graphic Processing Unit, aka GPU: 为了处理图形计算任务而专门开发的硬件, 是一种特殊的CPU.

  • GPU就是特殊的CPU, 这意味着电脑可以没有GPU，用普通的CPU也可以处理图形任务. 不过性能嘛... 给个例子， 顶级CPU 3990X 性能撕裂者勉强带得动前几代的《孤岛危机》

  • 因此, GPU对于现代计算机是必要的. 没有外置显卡就用核显, 没有核显就用主板的集显, 连集显都没有那电脑可以入土了

集显

  • 集显( 集成显卡 )：集成在主板北桥的GPU. 能和CPU共享散热器和系统RAM等资源
    • 集显下GPU没有独立的RAM，只能将系统RAM的一部分作为VRAM( 显而易见这很慢 )
    • 因为就集成在主板上把它叫做“板载显卡”
  • 早期的主板很多都带集显, 集显性能都还很垃圾. 现在的显卡都不带集显了( 比如b550m ), 不过集显的概念没有消失, 现在很多人都用“核显”

核显

  • 核显:被封装到CPU Package中的GPU, 甚至有核显是刻在CPU的Die里面的

    • 其目的和集显一样, 都为了和CPU共享散热器和系统RAM等资源, 因此也可以把核显认为是集显的一种
    • 因为CPU和GPU放在一块, 也可以把这种CPU叫做APU( 按AMD的说法 )

  • AMD的R5 5600G就自带了UHD750显卡( 刻在了Die里面.... )它的性能相对5600G这块CPU很垃圾, 但也能在1080P中高画质上60帧数上运行诸如LOL的游戏了:

    Graphics Model Graphics Core Count Graphics Frequency
    Radeon™ Graphics 7 1900 MHz

独显

  • 独显( 独立显卡 )：顾名思义就是可插拔的独立的显卡. 通过插槽插入计算机的主板，并且通常需要比通过卡插槽提供的更多的功率。因此，它也可能有来自计算机电源的专用电源连接。

GPU和CPU的区别

  1. CPU被设计用于通用计算. 而GPU被设计为专门用于图形计算, 这些专用的功能会被直接集成到硬件中(起码在目前依然是这样)
  2. CPU被设计为高效地执行单线程代码( SMT / Hyper-Threading等技术也改进了CPU的多线程能力 )； 而GPU天然被设计为高效地执行多线程代码。 也就是说，面对需要多线程的worload时，GPU的效率远高于CPU
  3. GPU通过堆叠核心来扩展多线程性能, 所以核心数肯定比COU多。 AMD的高端CPU Epyc CPU是64核/128线程； 而Nvidia的最低端Pascal GPU就有384个内核。

GPU的性能度量

  • GPU的性能和架构的关系很大. 因此不同架构的GPU之间，不能单凭核心数来比较性能。

  • 只有同一厂商的同一系列的GPU，才可以只用核心数比较。比如GTX 3070 和 GTX 3080 和 GTX 3080 Ti； 以及 [RX 5700 XT 和 RX 6700 XT]

Components of GPU

GPU由核心( Core )、纹理映射单元( Texture Mapping Unit, TMU )、渲染输出( Render OutPut, ROP )和 显存( Video Random Access Memory, VRAM ) 组成。 粗略地说， GPU的最小功能单元是计算资源的块( block of computing resources )

VRAM在拙著Computer Storage介绍

GPU可以用如下标准来表示: [ 核心数 ]:[ 纹理映射单元数 ]:[ 渲染输出数 ]

  • 比如4096:160:64

基本单元： SM/CU

SM of

( 这是一个AMD的Pascal Multiprocessor (SM) )

  • GPU被构造成blocks of computing resources，block“可以看作”GPU的最小功能单元
    • Nvidia calls these blocks an SM (Streaming Multiprocessor), while AMD refers to them as a CU( Compute Unit ) .
    • 严格地讲，block并没有涵盖GPU所有的功能 ---- 比如 video decode engines, render outputs required for actually drawing an image on-screen, and the memory interfaces used to communicate with onboard VRAM。

Core

  • GPU的核心( Core )是block的集合，比如AMD的APU( having 8 or 11 Vega Compute Units ), 这就拥有GPU的大多数功能了

  • Each block contains a group of cores, a scheduler, a register file, instruction cache, texture and L1 cache, and texture mapping units.

TMU

  • 纹理映射单元（Texture mapping unit，TMU）是GPU的一个部件，用于 纹理映射
  • TMU的数量决定了GPU对于纹理映射workload的吞吐量和处理速度
  • TMU曾就是一个独立的物理部件，现在已经集成到着色器中

ROP

  • 渲染输出( Render OutPut, ROP )（有时也称为光栅操作管线）是GPU的一个部件。 它将GPU的输出组装成图像在显示器上显示。
  • ROP的数量乘以GPU的时钟速度可以控制像素填充率。ROPs的数量越多，意味着可以同时输出更多的像素。
  • ROPs还可以处理抗锯齿