开源 3 年,Triton 引颈 AI 编译器新海浪
2019 年,Philippe Tillet 等东说念主在论文「Triton: An Intermediate Language and Compiler for Tiled Neural Network Computations」中初度淡薄 Triton。2020 年,Philippe Tillet 加入 OpenAI,不时指引着 Triton 项打算建造,并于 2021 岁首度公建造布了 Triton 编译器。
论文地址:https://dl.acm.org/doi/10.1145/3315508.3329973
Triton 编译器旨在让掂量东说念主员和建造者简略以更少的代码量,竣事与行家级 CUDA 相忘形的性能,无论是在国外依然国内的深度学习发展程度中王人备受温雅。
Triton 的高等架构,开头:OpenAI 官网 用于指定分块法子并将其编译为高效的 GPU 代码
自 2021 年开源以来,Triton 以其超卓的性能和纯真性,速即在民众范围内受到等闲温雅和哄骗。不仅被哄骗于 PyTorch、Unsloth、FlagGems 等多个开源风景,更获取了 NVIDIA、AMD、Intel、Qualcomm 等芯片巨头的大力支柱。
此外,Google、Microsoft、OpenAI、AWS 和 Meta 等 AI 领域的领军企业,也纷繁将 Triton 当作构建敞开 AI 软件栈的要道时间。Triton 正在逐步成为愈加低门槛、高可用的 AI 编译器新选项。
Triton 在 GitHub 上已被 3.8 万个风景依赖
首个完满版 Triton 中语文档上线
尽管 Triton 的影响力在民众 AI 领域速即崛起,但在中语领域,Triton 关连的贵寓及资源还相对稀缺,其哄骗与掂量的广度和深度王人还有待拓展。基于此,HyperAI超神经社区志愿者,以开源息争的面孔,耗时 3 个月、资格一译二校的严格把关,完成了 Triton 沿途文档的原土化,现已完满上线至 https://triton.hyper.ai/。
Triton 中语文档官方网站
Triton 中语文档在英文文档的基础上,过程原土化架构调度,更贴合中语建造者的阅读习尚,提供了从 Triton 安设到建造哄骗的一系列详备实用指南。
Triton | 借助这份文档,你不错:
* 零基础初学 Triton,放荡意会其中枢见地与哄骗
* 潜入了解 Triton 的高等特点,探索鼎新旅途
* 速即定位实行问题并获取科罚决议,培植恶果
* 跟踪 Triton 前沿时间动态,紧跟时间更新
* 参与中语文档的社区盘问,息争共创时间生态
安设 Triton 的 2 种步调 通过 pip 安设和源码安设
文档的「援用风景」部分,蚁合了部分使用 Triton 的开源和闭源明星风景,通过这些实在案例,建造者不错更潜入地意会 Triton 在实验风景中的落地哄骗,掌抓其优化及和会技能。
依赖 Triton 的关连风景
从 TVM 到 Triton:
构建多元包容的 AI 编译器社区
2022 年,HyperAI超神经上线国内首个 Apache TVM 中语文档(点击检察原文:TVM 中语站负责上线!最全机器学习模子部署「参考书」它来了),在国产芯片轰轰烈烈大叫大进之际,咱们为国内的编译器工程师提供澄澈解和学习 TVM 的基础设施,同期咱们也联结 Apache TVM PMC 冯念念远博士等东说念主,组建起国内最活跃的 TVM 中语社区,通过线上线劣等举止,吸纳主流国产芯片厂商的参与和支柱,笼罩千余位芯片建造者和编译器工程师。
TVM 中语文档官方网站
TVM 中语文档地址:
https://tvm.hyper.ai
两年之后,咱们但愿不竭扩大社区的时间范畴和内容范畴,组建愈加敞开、多元、包容的 AI 编译器社区,除 Apache TVM 以外,积极拥抱 LLVM、MLIR 等老牌编译器时间和关连工程师、风景,这次 Triton 中语站的上线,也标明了咱们发奋于于把 AI 编译器社区「一又友圈作念大」的决心。
TVM、Triton 中语文档仍在更新中,中语文档当作基础设施,仅仅构建生态的第一步,在生态的上游,咱们离不开围绕 AI 编译器的建造器具、操作系统,在生态的下流更是离不开硬件制造商和劳动提供商。独一构建起全链路的合作伙伴,串联起每一环、每一伙伴的实在需求,并为其裁减壁垒、提供价值,能力创造更多合作跳动的可能。
期待更多企业伙伴的加入,共建更敞开、多元、包容的 AI 编译器社区!
在 GitHub Triron 中语:https://github.com/hyperai/triton-cn