CANN/ge图引擎Session加载图API

LoadGraph【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge头文件/库文件头文件#include ge/ge_api.h库文件libge_runner.so功能说明异步执行Graph场景使用将指定Graph ID的图绑定到对应Stream上。该接口执行前需要完成CompileGraph流程且LoadGraph成功后需要使用ExecuteGraphWithStreamAsync接口执行图。函数原型Status LoadGraph(const uint32_t graph_id, const std::mapAscendString, AscendString options, void *stream) const参数说明参数名输入/输出说明graph_id输入要执行Graph对应的ID。options输入执行阶段可能用到的options。map表key为参数类型value为参数值描述Graph配置信息。一般情况下可不填与GEInitialize传入的全局options保持一致。key和value类型为AscendString如需单独配置当前Graph的配置信息时可以通过此参数配置支持的配置项请参见options参数说明基础功能ge.exec.frozenInputIndexes和ge.exec.hostInputIndexes当前只支持配置上述两个参数。stream异步执行Graph场景输入Graph执行流。返回值说明参数名类型说明-StatusGE_CLI_SESS_RUN_FAILED图执行时序列化转换失败。SUCCESS图执行成功。FAILED图执行失败。约束说明通过LoadGraph加载的Stream和通过ExecuteGraphWithStreamAsync接口运行时使用的Stream推荐是同一条Stream如果不是同一条Stream需要在LoadGraph后对加载使用的Stream调用流同步接口“aclrtSynchronizeStream”完成同步。接口详细说明请参见《Runtime运行时 API》中的“Stream管理” 。【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考