项目简介
Ruy是专注于神经网络推理引擎矩阵乘法需求的库,最初为TensorFlow Lite设计,在ARM CPU架构上为默认使用。它支持浮点数和8位整数量化的矩阵乘法,能为当前TensorFlow Lite应用中的各类矩阵大小和形状提供高性能。
项目的主要特性和功能
- 高性能矩阵乘法:在各种矩阵大小和形状上实现高性能,尤其针对神经网络推理中的常见矩阵大小。
- 支持多种数据类型:支持浮点数和8位整数量化的矩阵乘法。
- 跨平台构建:通过
bazel_to_cmake.py
脚本,可将Bazel构建系统转换为CMake构建系统,便于不同环境构建。 - 灵活的构建规则转换:脚本可处理Bazel的BUILD文件和Starlark文件,生成对应的CMake构建规则,对
select()
函数有特殊处理。
安装使用步骤
假设用户已经下载了本项目的源码文件。
1. 安装依赖:确保系统中已安装CMake和必要的编译工具链。
2. 转换构建系统:
- 运行bazel_to_cmake.py
脚本,将Bazel构建系统转换为CMake构建系统。
- 脚本接受两个参数:Bazel工作区目录和Bazel包目录。
3. 生成CMake构建文件:在项目根目录下运行cmake .
生成构建文件。
4. 编译项目:运行make
命令编译项目。
5. 运行测试:编译完成后,运行生成的测试二进制文件以验证功能。
通过以上步骤,可在没有Bazel的环境中使用CMake构建和运行Ruy矩阵乘法库。
下载地址
点击下载 【提取码: 4003】【解压密码: www.makuang.net】