TecoPyTorch是高度适配太初加速卡的PyTorch深度学习框架,兼容PyTorch框架的原生API。通过整合太初元碁的底层组件(如:驱动、运行时、计算库、通信库和各类工具等),使您能够在太初加速卡上高效、便捷地运行PyTorch完成训练。
TecoPyTorch采用Python扩展包的形式对原生PyTorch进行支持,太初将所有关于太初加速卡的操作都放在一个单独的Python扩展包中,然后将该包导入原生PyTorch,从而支持在太初加速卡上的运算。
TecoPyTorch兼容原生PyTorch的Python编程接口和原生PyTorch网络模型,支持以在线逐层的方式进行训练。
网络权重可以从pth格式文件读取,已支持的分类和检测网络结构由Torchvision管理,可以从Torchvision读取。
对于训练任务,支持float32/half数据类型模型。
对于推理任务,暂时只支持float32数据类型。
为了能在PyTorch中方便地使用太初加速卡,TecoPyTorch在PyTorch后端进行了以下扩展:
通过PyTorch调用太初加速卡支持的网络模型计算。
对于太初加速卡暂不支持的算子,且该算子已在TecoPyTorch中添加注册,支持该类算子自动切换到CPU上执行。
PyTorch中与TecoPyTorch相关接口的语义与CPU和GPU的接口语义保持一致。
支持CPU和太初加速卡之间的无缝切换。
参考链接:http://docs.tecorigin.com/release/tecopytorch/v1.10.0/