简介【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/geSession原有接口也称V1版本与GESessionV2版本都是图编译执行的接口用于实现图加载、图编译、图执行的功能但两套接口不能混用建议使用V2版本接口V1版本接口后续会逐步废弃Session到GeSession的迁移指导请参见Session到GeSession的迁移指导。原有Session中同时包含GE与DataFlow的接口现将GE相关接口拆分至ge_api_v2.h头文件中的GeSession类中以实现更清晰的模块划分。此外针对原有接口中存在的命名相近但功能差异较大的问题进行了统一优化原编译接口包括CompileGraph与BuildGraph执行接口包括ExecuteGraphWithStreamAsync与RunGraphWithStreamAsync这些接口在功能上存在明确区别但命名易造成混淆且存在配合使用的限制例如BuildGraph无法与ExecuteGraphWithStreamAsync配合使用CompileGraph也无法与RunGraph/RunGraphAsync配套调用。在V2版本中对接口进行了精简与统一编译接口仅保留一个CompileGraph。带流异步执行接口也统一为一个RunGraphWithStreamAsync。执行接口中的inputs与outputs参数统一采用性能更优的gert::Tensor类型。该调整旨在提升接口的清晰度与使用一致性避免因接口误用导致功能异常。Session接口产品支持情况如下Ascend 950PR/Ascend 950DT支持Atlas A3 训练系列产品/Atlas A3 推理系列产品支持Atlas A2 训练系列产品/Atlas A2 推理系列产品支持Atlas 200I/500 A2 推理产品不支持Atlas 推理系列产品支持Atlas 训练系列产品支持IPV350不支持【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考