您的位置:首页 > 公司新闻

2020年搞深度学习需要什么样的GPU:请上48G显存

发布者:特盛

众所周知,当今业界性能最强(SOTA)的深度学习模型都会佔用巨大的显存空间,很多过去性能算得上强劲的 GPU,现在可能稍显内存不足。在 lambda 最新的一篇显卡横向测评文章中,开发者们探讨了哪些 GPU 可以再不出现内存错误的情况下训练模型。当然,还有这些 GPU 的 AI 性能。

        今年的 GPU 评测相比往年有了不小的变化:因爲 深度学习技术的突飞猛进,以前 12G 内存打天下的局面不复存在了。在 2020 年 2 月,你至少需要花费 2500 美元买上一块英伟达最新款的 Titan RTX 纔可以勉强跑通业界性能最好的模型——那到今年年底会是什麽样就无法想象了。或许我们应该把目光转向云端 GPU。


        一句话总结

        截止到 2020 年 2 月份,只有以下这几种 GPU 可以训练所有业内顶尖的语言和图像模型:


        RTX 8000:48GB 显存

        RTX 6000:24GB 显存

        Titan RTX:24GB 显存

        以下 GPU 可以训练大多数 SOTA 模型,但不是所有模型都能:


        RTX 2080Ti:11GB 显存

        RTX 1080Ti:11GB 显存

        RTX 2080:8GB 显存

        RTX 2070:8GB 显存


        超大规模的模型在这一级别的 GPU 上训练,通常需要调小 Batch size,这很可能意味着更低的准确性。

        以下 GPU 不太能用作高端 AI 模型的训练:


        RTX 2060:6GB 显存