用于推理和预测业务的 GPU 卡及相关介绍（智算服务）
一、明确自身需求
游戏玩家 ：如果主要用于玩游戏，需要关注显卡的图形处理能力，以获得高帧
率和流畅的游戏体验。例如，对于运行像《赛博朋克 2077》这类对画质要求
极高的 3A 大作，建议选择中高端的 NVIDIA GeForce RTX 40 系列或 AMD
Radeon RX 7000 系列显卡，它们具有强大的性能和光线追踪技术，能够呈现
出逼真的游戏画面和光影效果。
专业图形工作者 ：如视频编辑师、3D 建模师、动画设计师等，需要处理复杂
的图形和大量的数据，对显卡的稳定性、计算能力和显存容量要求较高 。
NVIDIA Quadro 系列和 AMD Radeon Pro 系列是专业图形领域的常用选择，
它们经过专业认证，能够提供更稳定的性能和更准确的色彩显示，并且配备了
较大的显存容量，可满足处理大型场景和高分辨率纹理的需求。
人工智能研究者或从业者 ：在进行深度学习模型的训练和推理时，需要强大的
计算能力和大量的显存来支持大规模的数据处理和复杂的模型计算。 NVIDIA
Tesla 系列和 AMD Instinct 系列等专业的计算卡是比较合适的选择，如
NVIDIA A100、H100 等型号，它们具有高性能的 Tensor Core 和较大的显
存容量，能够显著加速深度学习模型的训练和推理过程。
普通办公用户 ：如果只是用于日常办公，如处理文档、浏览网页、观看视频等，
对显卡性能的要求较低，集成显卡或入门级的独立显卡即可满足需求，如英特
尔的 UHD 系列集成显卡或 NVIDIA GeForce GT 1030 等。
二、关注性能参数
计算能力 ：通常用浮点运算能力来衡量，如 FP32、FP16、INT8 等精度的计
算性能。对于深度学习任务，FP16 和 INT8 精度的计算能力更为重要，因为它
们在保证一定精度的同时，可以大幅提高计算效率。例如，NVIDIA A100 的
FP16 计算能力高达 19.5 TFLOPS，使其在深度学习推理中表现出色。
显存容量 ：显存容量决定了显卡能够存储的数据量，对于处理高分辨率图像、
大规模数据集或复杂的神经网络模型至关重要。一般来说，从事专业图形设计
或深度学习的用户，建议选择显存容量在 16G B 及 以 上 的显卡，如 NVIDIA
A6000 的 48G B 显存，可满足处理大型 3D 模型或 海 量图像数据的需求。
显存带宽 ：表示显存 与 GPU 之间 数据 传输 的速度，显存 带宽越 大，数据 传输
越快 ，显卡的性能 也就越 高。例如，AMD Radeon Instinct MI50 / MI60 配备
了 1T B/ s 的 H B M2 显存 带宽 ，能够 快 速 地将 数据 传输到 GPU 进行处理，提
高计算效率。
核心频率 ： 核心 频率决定了 GPU 的运行速度，频率 越 高，处理速度 越快 ， 但
同时 也会带 来更高的 功耗 和 发热 量。在选择显卡时，可 根 据 自己 的需求和 散热
条件 来 综 合 考虑核心 频率。
流处理器数量 ：流处理 器 是显卡的 核心 计算 单元 ，数量 越多 ，显卡的并行计算
能力 越 强，能够同时处理更 多 的图形数据或神经网络 节 点。例如， NVIDIA
RTX 4090 拥 有 16384 个 流处理 器 ，使其在处理复杂的图形和计算任务时具有
强大的性能 优势 。
三、考虑功耗与散热
功耗 ：高性能的 GPU 卡通常 功耗 较高，需要 搭 配 功 率足够的 电源 。在选择显
卡时，要确保 自己 的 电源 能够提供稳定的 电 力供 应 ，以 避免 出现因 电源不 足 导
致 的系 统不 稳定或性能 下降 等 问题 。例如，NVIDIA GeForce RTX 4090 的 功
耗 较高，建议 搭 配 850 W 及 以 上 的 电源 。
散热 ：显卡在 工 作时 会产生 大量的 热 量，如果 散热不良 ， 会导致 显卡性能 下降 、
寿命缩短甚 至出现 故障 。因 此 ，要选择 散热 设计 良好 的显卡，如配备大型 散热
器 、 多风扇 或 液冷散热 的显卡，以确保显卡在高 负载 运行时能够保持稳定的 温
度。
四、兼顾兼容性与预算
兼容性 ：显卡需要 与 主 板 、CPU、 电源 等 硬件 设备 兼 容， 才 能 正 常 工 作。在 购
买 显卡 前 ，要确认主 板 是 否 支持显卡的 接口 类型，如 PCIe x 16 接口 ，以 及电
源 是 否 能够提供足够的 功 率和 接口 来支持显卡的供 电 需。
预算 ：显卡的 价格差异 较大，从 几百元 的入门级显卡 到 数 万元 的专业计算卡 都
有。在选择显卡时，要 根 据 自己 的经 济实 力和 实际 需求来确定 预 算 范围 ，并在
预 算 范围内 选择性 价 比 最 高的 产品 。
（一）NVIDIA 系列
NVIDIA Tesla T4 ：
o
性能特点 ： 采 用 NVIDIA Turin g 架构 ，配备 16G B 的 GDDR6
显存，显存 带宽 320G B/ s，INT8 精度 下 的推理性能出色，可提
供高达 65 TOPS 的 INT8 计算能力，具有低 延迟 、高能效比的特
点。
o
报价 ： 约 10999 元 。
o
适用场景 ： 广泛应 用于 云服 务提供 商 的数据中 心 ，为 各种人工智
能即 服 务 （ AIaaS ） 提供高效的推理支持，如 智 能 语音 助手 、 图
像 识别服 务等， 也 适用于对 功耗和空间有严格限制 的 边缘 计算场
景。
NVIDIA A100 ：
o
性能特点 ： 基 于 NVIDIA A mp ere 架构 ，FP32 单 精度浮点性能
最 高 9.7 TFLOPS，FP16 半 精度浮点性能高达 19.5 TFLOPS，配
备 40G B 或 80G B 的 H B M2 显存， 带宽 高达 1.6T B/ s ，其
Tensor Core 技术可加速深度学习模型的推理计算，在处理复杂
的神经网络模型和大规模并 发 推理 请 求时表现 优异 。
o
报价 ： 全新 的 NVIDIA Tesla A100 40G B PCIe GPU 价格约
32000 - 35000 元左右 。
o
适用场景 ：是数据中 心 AI 推理的主力 之 一，常用于大规模的 企 业
级 应 用，如 金融风险预测 、 医疗 影像 诊断 、 自然语言 处理等领域
的高性能推理任务，能够 快 速处理大量数据并 生 成准确的 预测结
果。
NVIDIA H100 ：
o
性能特点 ： 基 于 Ho pp er 架构 ，FP8 精度 下 的性能高达 400
TFLOPS，配备了 80G B 或 120G B 的 H B M3 显存， 内 存 带宽 高
达 3T B/ s，其 Tensor Core 性能 尤 为出色，能够极大加速推理过
程。
o
报价 ： 约 220000 元 .
o
适用场景 ：适用于对推理性能要求极高的场景，如大规模 语言 模
型的 实 时推理、 自 动 驾驶 中的复杂场景 感知与 决 策 等， 但 其高能
耗 和高成 本也限制 了其在一 些 场景中的 应 用，通常用于大型数据
中 心 和 超 算中 心 等具备强大 基础 设 施 支持的 环境 。
NVIDIA A6000 ：
o
性能特点 ： 基 于 NVIDIA A mp ere 架构 ， 拥 有 48G B 的 GDDR6
显存，FP32 计算能力为 38.7TFlo p s， 内置 10752 个 CUDA 核
心 ，支持 E CC 校 验，其显存容量较大，能够支持较大模型的推理
任务，同时提供了 平 衡的性能和显存支持 。
o
报价 ： 约 36000 元 。
