Hello folks，我是 Luga，今天我们来深入探讨一下人工智能生态中的基石技术——GPU 编程。作为目前最为流行的两种 GPU 编程框架，CUDA 和 OpenCL 各有何异同？如何选择适合自己的工具？让我们一探究竟。‍ 近年来，GPU（图形处理单元）已从最初的图形渲染 ...

最致命的是，团队发现了一个无法回避的真相：国产GPU无法*支持英伟达的CUDA架构。 这意味着，所有基于CUDA开发的应用，几乎要推倒重来。 每一个 ...

最致命的是，团队发现了一个无法回避的真相：国产GPU无法完美支持英伟达的CUDA架构。 这意味着，所有基于CUDA开发的应用，几乎要推倒重来。

这篇文章提供了如何在多GPU（Nvidia）Linux机器上设置重要库（如CUDA Toolkit和PyTorch）的指南。 随着深度学习模型（特别是大型语言模型）不断变大，开发和本地使用它们对更多GPU内存（VRAM）的需求也在不断增加。构建或获取多GPU机器只是挑战的第一部分。大多数 ...

英特尔本应在某一领域集中突破，再逐步扩展市场。然而，当Xe架构姗姗来迟时，市场的规则已由英伟达和AMD设定。英伟达凭借CUDA平台在AI计算领域一骑绝尘，而AMD则在游戏市场与其针锋相对。英特尔的反击错失了市场的最佳窗口期，这使其产品在面对成熟的竞争 ...

本文来自微信公众号：半导体行业观察 （ID：icbank），作者：半导体行业观察编辑部，题图来自：AI生成 据路透社报告，Nvidia股票在周一收盘创下历史新高，这家重量级人工智能芯片制造商即将取代苹果成为全球最有价值的公司。

长期来看，我们希望我们的Triton kernel能够超越现有的CUDA原生GPTQ kernel。 1.0 对Triton的介绍 Triton框架提供了一种硬件无关的方式对GPU编程，目前支持NVIDIA和AMD，并正在进行对其他硬件供应商的支持。Triton现已成为PyTorch 2.0的主要组成部分，torch.compile将eager PyTorch ...

蔡哲文对此也表达了认同。在他看来，终有一天 GPU也会变得不那么合时宜，正如当年GPU取代了CPU在图形处理方面的功能一样，现在出现了专门为AI设计的芯片，这些专用芯片在处理AI任务时比GPU更加高效。只要未来整个 AI ...