news 2026/5/9 12:31:33

CANN/GE添加控制输入API

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
CANN/GE添加控制输入API

AddControlInput

【免费下载链接】geGE(Graph Engine)是面向昇腾的图编译器和执行器,提供了计算图优化、多流并行、内存复用和模型下沉等技术手段,加速模型执行效率,减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力,并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge

产品支持情况

产品

是否支持

Atlas A3 训练系列产品 / Atlas A3 推理系列产品

Atlas A2 训练系列产品 / Atlas A2 推理系列产品

头文件和库文件

  • 头文件:#include <graph/operator.h>
  • 库文件:libgraph.so

功能说明

添加算子的控制边,控制边目前只是控制算子的执行顺序。

函数原型

Operator &AddControlInput(const Operator &src_oprt)

参数说明

参数名

输入/输出

描述

src_oprt

输入

控制边对应的源算子。

返回值说明

算子对象本身。

异常处理

约束说明

【免费下载链接】geGE(Graph Engine)是面向昇腾的图编译器和执行器,提供了计算图优化、多流并行、内存复用和模型下沉等技术手段,加速模型执行效率,减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力,并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/5/9 12:30:54

边缘设备LLM量化实战:从7B模型到500MB内存的极限压缩指南

摘要&#xff1a;本文揭秘2026年最前沿的LLM边缘部署技术&#xff0c;通过12种量化策略组合&#xff0c;将Llama-3-8B模型压缩至500MB内存限制下运行。包含TensorRT-LLM配置秘籍、内存泄漏修复方案及3个工业级案例&#xff0c;实测推理速度提升4.2倍&#xff0c;内存占用降低83…

作者头像 李华
网站建设 2026/5/9 12:28:33

CANN/pypto 填充操作

pypto.pad 【免费下载链接】pypto PyPTO&#xff08;发音: pai p-t-o&#xff09;&#xff1a;Parallel Tensor/Tile Operation编程范式。 项目地址: https://gitcode.com/cann/pypto 产品支持情况 产品是否支持Ascend 950PR/Ascend 950DT√Atlas A3 训练系列产品/Atla…

作者头像 李华
网站建设 2026/5/9 12:27:50

6G时代零接触式普适AI即服务架构:融合区块链与DRL的自动化AI交付

1. 项目概述&#xff1a;当6G遇见普适AI&#xff0c;一场“零接触”的服务革命如果你关注过5G&#xff0c;就会知道它带来的不仅是更快的网速&#xff0c;更是万物互联的基石。但当我们把目光投向更远的6G&#xff0c;会发现它的野心远不止于此。6G的核心愿景之一&#xff0c;是…

作者头像 李华
网站建设 2026/5/9 12:26:42

Hololens2通过APPx来发布

1 生成vs工程 unity 2021.3.352 生成appx3 网页端连接hololens安装appx即可

作者头像 李华
网站建设 2026/5/9 12:26:39

AI与运筹学融合:构建可信AI系统的优化框架与实践

1. 项目概述&#xff1a;当AI遇见运筹学&#xff0c;一场关于“可信”的深度对话最近几年&#xff0c;AI模型的能力边界被不断突破&#xff0c;从刷榜各种测试集到生成以假乱真的内容&#xff0c;其“智能”水平令人惊叹。然而&#xff0c;作为一名在数据科学和算法工程一线摸爬…

作者头像 李华
网站建设 2026/5/9 12:25:58

AI绘画技术解析:从扩散模型到人机协同创作实践

1. 项目概述&#xff1a;当画笔遇见算法几年前&#xff0c;当我第一次用AI生成一张风景画时&#xff0c;那种感觉既兴奋又困惑。兴奋的是&#xff0c;我输入一段“黄昏时分&#xff0c;被金色阳光笼罩的古老森林&#xff0c;雾气弥漫&#xff0c;远处有鹿影”的文字&#xff0c…

作者头像 李华