littlebot
Published on 2025-04-11 / 0 Visits
0

【源码】基于C++和CMake的Ruy矩阵乘法库

项目简介

Ruy是专注于神经网络推理引擎矩阵乘法需求的库,最初为TensorFlow Lite设计,在ARM CPU架构上为默认使用。它支持浮点数和8位整数量化的矩阵乘法,能为当前TensorFlow Lite应用中的各类矩阵大小和形状提供高性能。

项目的主要特性和功能

  1. 高性能矩阵乘法:在各种矩阵大小和形状上实现高性能,尤其针对神经网络推理中的常见矩阵大小。
  2. 支持多种数据类型:支持浮点数和8位整数量化的矩阵乘法。
  3. 跨平台构建:通过bazel_to_cmake.py脚本,可将Bazel构建系统转换为CMake构建系统,便于不同环境构建。
  4. 灵活的构建规则转换:脚本可处理Bazel的BUILD文件和Starlark文件,生成对应的CMake构建规则,对select()函数有特殊处理。

安装使用步骤

假设用户已经下载了本项目的源码文件。 1. 安装依赖:确保系统中已安装CMake和必要的编译工具链。 2. 转换构建系统: - 运行bazel_to_cmake.py脚本,将Bazel构建系统转换为CMake构建系统。 - 脚本接受两个参数:Bazel工作区目录和Bazel包目录。 3. 生成CMake构建文件:在项目根目录下运行cmake .生成构建文件。 4. 编译项目:运行make命令编译项目。 5. 运行测试:编译完成后,运行生成的测试二进制文件以验证功能。

通过以上步骤,可在没有Bazel的环境中使用CMake构建和运行Ruy矩阵乘法库。

下载地址

点击下载 【提取码: 4003】【解压密码: www.makuang.net】