![17](/uploads/image/pcimg/17.jpg)
openaitriton已开始合并amdrocm代码,9月20日举行开发-九游会官网真人游戏第一品牌
2023-09-04 13:19:29 来源:it之家 阅读量:7486
,triton 是一种类似于 python 的开源编程语言,它可以使没有 cuda 经验的研究人员顺利编写高效的 gpu 代码,而且号称小白也可以写出与专业人士相媲美的代码,就是让用户用相对较少的努力实现最高的硬件性能,但 triton 初期只支持英伟达 gpu。
openai 声称:triton 只要 25 行代码,就能在 fp16 矩阵乘法上达到与 cublas 相当的性能。
从 github 我们可以看到,openai 已经开始在最新的triton 版本中合并 amd rocm 相关分支代码,也正因此暴露了很多东西。也就是说,最新 triton 后端已适配 amd 平台,可谓意义重大。
通过官方的说法来看,他们已经通过了“test_core.py”上的大多数单元测试环节,但由于各种原因跳过了一些测试。
it之家注意到,openai 还宣布将于 9 月 20 日上午 10 点至下午 4 点在加利福尼亚州山景城的微软硅谷园区举行 triton 开发者大会,而日程安排中就包括“将 triton 引入 amd gpu”和“triton 的英特尔 xpu”两大环节,预计 triton 将很快摆脱英伟达 cuda 垄断的历史。
值得一提的是,triton 是开源的,比起闭源的 cuda,其他硬件加速器能直接集成到 triton 中,大大减少了为新硬件建立 ai 编译器栈的时间。
在此前发布的 pytorch 2.0 版本中,torchinductor 便引入了 openai triton 支持,可为多个加速器和后端自动生成快速代码,同时实现用 python 取代 cuda 编程来写底层硬件的代码。也就是说,triton 已经是pytorch2.0 后端编译器关键构成部分。
实际上,此前 amd rocm 则主要是采用 hipify 工具实现cuda 兼容,而随着 amd 开始为 rdna 3 消费级显卡提供 rocm 支持,预计后续将会有更多平台选择适配 amd 硬件。
相关阅读:
《amd 将为 rdna 3 消费级显卡提供 rocm 支持,从 radeon rx 7900 xtx 和 pro w7900 开始》
《amd 正式推出 hip sdk:拓展 rocm 生态,支持运行英伟达 cuda 应用》
广告声明:文内含有的对外跳转链接,用于传递更多信息,节省甄选时间,结果仅供参考,it之家所有文章均包含本声明。
声明:本网转发此文章,旨在为读者提供更多信息资讯,所涉内容不构成投资、消费建议。文章事实如有疑问,请与有关方核实,文章观点非本网观点,仅供读者参考。
猜您喜欢