o1-mini-2024-09-12· OpenAI
WildChat-4.8M (AI2)
使用内联汇编NEON实现void Less(int64_t *input0, int64_t input1, bool output, const size_t length)
- User
使用内联汇编NEON实现void Less(int64_t *input0, int64_t *input1, bool *output, const size_t length)
- Assistant
要使用ARM的NEON指令集高效地实现
Less函数,即对两个int64_t数组进行逐元素比较并将结果存储为布尔值,可以使用NEON内联汇编或NEON内置函数(内置函数更为推荐,因为它们更安全且更容易维护)。由于直接使用内联汇编实现64位整数比较较为复杂,本文将重点介绍如何使用NEON内置函数来实现这一功能。以下是使用NEON内置函数实现的
Less函数示例:#include <arm_neon.h> #include <stddef.h> #include <stdint.h> #include <stdbool.h> void Less(const int64_t *input0, const int64_t *input1, bool *output, const size_t length) { size_t i = 0; const size_t vec_size = 2; // 每个NEON向量包含2个int64_t元素 // 处理成倍数块 for (; i + vec_size <= length; i += vec_size) { // 加载2个int64_t元素到NEON向量寄存器 int64x2_t vec0 = vld1q_s64(&input0[i]); int64x2_t vec1 = vld1q_s64(&input1[i]); // 执行逐元素比较 vec0 < vec1 // NEON没有直接的cmpltq指令,因此可以使用Vcge (vector compare greater or equal) 取反 uint64x2_t cmp = vcgeq_s64(vec1, vec0); // vec1 >= vec0 相当于 vec0 < vec1 // 将比较结果转换为布尔值(1或0) // 使用vgetq_lane_u64提取每个元素的比较结果 uint64_t mask0 = vgetq_lane_u64(cmp, 0); uint64_t mask1 = vgetq_lane_u64(cmp, 1); output[i] = (mask0 != 0) ? true : false; output[i+1] = (mask1 != 0) ? true : false; } // 处理剩余的元素 for (; i < length; i++) { output[i] = input0[i] < input1[i]; } }详细说明:
-
加载数据:
- 使用
vld1q_s64函数分别从input0和input1数组中加载2个int64_t元素到NEON的128位向量寄存器vec0和vec1中。
- 使用
-
比较操作:
- 由于NEON中没有直接的64位整数小于比较指令,可通过比较
vec1 >= vec0来间接实现vec0 < vec1。vcgeq_s64(vec1, vec0)会返回一个掩码向量cmp,其中每个元素如果vec1的对应元素大于或等于vec0的对应元素,则对应位全为1,否则为0。
- 由于NEON中没有直接的64位整数小于比较指令,可通过比较
-
存储结果:
- 使用
vgetq_lane_u64从比较结果向量cmp中提取每个元素的结果。 - 将非零的比较结果转换为
true,否则为false,并存储到输出数组output中。
- 使用
-
处理剩余元素:
- 如果数组长度不是2的倍数,需要对剩余的元素使用标量代码进行处理,确保所有元素都被比较。
优化建议:
-
对齐: 确保输入数组
input0和input1以及输出数组output在内存中是对齐的,可以提高加载和存储的效率。 -
循环展开: 对于性能要求较高的场景,可以考虑进一步展开循环,处理更多的元素块,以减少循环控制的开销。
-
数据预取: 如果处理的数据量较大,考虑使用数据预取指令(如
prfm)来提高缓存命中率。
注意事项:
-
编译器支持: 确保在编译时启用了NEON支持。对于GCC和Clang,可以使用
-mfpu=neon或-march=armv8-a+simd等编译选项。 -
跨平台兼容性: 该实现基于ARM的NEON指令集,无法在不支持NEON的架构上运行。如果需要跨平台支持,可能需要提供不同的实现或使用更高层次的抽象(如OpenMP)。
-
内联汇编的复杂性: 虽然可以使用内联汇编来实现类似的功能,但相比之下,使用NEON内置函数更为简单和安全。内联汇编可能导致代码维护和可移植性方面的问题,因此推荐优先使用内置函数。
示例使用:
#include <stdio.h> int main() { int64_t input0[] = {10, 20, 30, 40}; int64_t input1[] = {15, 15, 35, 35}; bool output[4]; size_t length = 4; Less(input0, input1, output, length); for (size_t i = 0; i < length; i++) { printf("input0[%zu] < input1[%zu] : %s\n", i, i, output[i] ? "true" : "false"); } return 0; }输出:
input0[0] < input1[0] : true input0[1] < input1[1] : false input0[2] < input1[2] : true input0[3] < input1[3] : false通过上述实现,可以充分利用NEON指令集的并行计算能力,提高大规模数据比较操作的性能。
-