Skip to content
TheChatArchiveThe Chat Archive
o1-mini-2024-09-12· OpenAIAi2 WildChat-4.8M (AI2)

使用内联汇编NEON实现void Less(int64_t *input0, int64_t input1, bool output, const size_t length)

  1. User

    使用内联汇编NEON实现void Less(int64_t *input0, int64_t *input1, bool *output, const size_t length)

  2. Assistant

    要使用ARM的NEON指令集高效地实现Less函数,即对两个int64_t数组进行逐元素比较并将结果存储为布尔值,可以使用NEON内联汇编或NEON内置函数(内置函数更为推荐,因为它们更安全且更容易维护)。由于直接使用内联汇编实现64位整数比较较为复杂,本文将重点介绍如何使用NEON内置函数来实现这一功能。

    以下是使用NEON内置函数实现的Less函数示例:

    #include <arm_neon.h>
    #include <stddef.h>
    #include <stdint.h>
    #include <stdbool.h>
    
    void Less(const int64_t *input0, const int64_t *input1, bool *output, const size_t length) {
        size_t i = 0;
        const size_t vec_size = 2; // 每个NEON向量包含2个int64_t元素
    
        // 处理成倍数块
        for (; i + vec_size <= length; i += vec_size) {
            // 加载2个int64_t元素到NEON向量寄存器
            int64x2_t vec0 = vld1q_s64(&input0[i]);
            int64x2_t vec1 = vld1q_s64(&input1[i]);
    
            // 执行逐元素比较 vec0 < vec1
            // NEON没有直接的cmpltq指令,因此可以使用Vcge (vector compare greater or equal) 取反
            uint64x2_t cmp = vcgeq_s64(vec1, vec0); // vec1 >= vec0 相当于 vec0 < vec1
    
            // 将比较结果转换为布尔值(1或0)
            // 使用vgetq_lane_u64提取每个元素的比较结果
            uint64_t mask0 = vgetq_lane_u64(cmp, 0);
            uint64_t mask1 = vgetq_lane_u64(cmp, 1);
    
            output[i]   = (mask0 != 0) ? true : false;
            output[i+1] = (mask1 != 0) ? true : false;
        }
    
        // 处理剩余的元素
        for (; i < length; i++) {
            output[i] = input0[i] < input1[i];
        }
    }
    

    详细说明:

    1. 加载数据:

      • 使用vld1q_s64函数分别从input0和input1数组中加载2个int64_t元素到NEON的128位向量寄存器vec0和vec1中。
    2. 比较操作:

      • 由于NEON中没有直接的64位整数小于比较指令,可通过比较vec1 >= vec0来间接实现vec0 < vec1。vcgeq_s64(vec1, vec0)会返回一个掩码向量cmp,其中每个元素如果vec1的对应元素大于或等于vec0的对应元素,则对应位全为1,否则为0。
    3. 存储结果:

      • 使用vgetq_lane_u64从比较结果向量cmp中提取每个元素的结果。
      • 将非零的比较结果转换为true,否则为false,并存储到输出数组output中。
    4. 处理剩余元素:

      • 如果数组长度不是2的倍数,需要对剩余的元素使用标量代码进行处理,确保所有元素都被比较。

    优化建议:

    • 对齐: 确保输入数组input0和input1以及输出数组output在内存中是对齐的,可以提高加载和存储的效率。

    • 循环展开: 对于性能要求较高的场景,可以考虑进一步展开循环,处理更多的元素块,以减少循环控制的开销。

    • 数据预取: 如果处理的数据量较大,考虑使用数据预取指令(如prfm)来提高缓存命中率。

    注意事项:

    • 编译器支持: 确保在编译时启用了NEON支持。对于GCC和Clang,可以使用-mfpu=neon或-march=armv8-a+simd等编译选项。

    • 跨平台兼容性: 该实现基于ARM的NEON指令集,无法在不支持NEON的架构上运行。如果需要跨平台支持,可能需要提供不同的实现或使用更高层次的抽象(如OpenMP)。

    • 内联汇编的复杂性: 虽然可以使用内联汇编来实现类似的功能,但相比之下,使用NEON内置函数更为简单和安全。内联汇编可能导致代码维护和可移植性方面的问题,因此推荐优先使用内置函数。

    示例使用:

    #include <stdio.h>
    
    int main() {
        int64_t input0[] = {10, 20, 30, 40};
        int64_t input1[] = {15, 15, 35, 35};
        bool output[4];
        size_t length = 4;
    
        Less(input0, input1, output, length);
    
        for (size_t i = 0; i < length; i++) {
            printf("input0[%zu] < input1[%zu] : %s\n", i, i, output[i] ? "true" : "false");
        }
    
        return 0;
    }
    

    输出:

    input0[0] < input1[0] : true
    input0[1] < input1[1] : false
    input0[2] < input1[2] : true
    input0[3] < input1[3] : false
    

    通过上述实现,可以充分利用NEON指令集的并行计算能力,提高大规模数据比较操作的性能。