Rust의 새 API로 부동소수점 연산 가속하기

Rust 1.98의 대수적 연산자는 부동소수점 연산 순서 변경을 허용해, 정확도를 지켜야 하는 부분과 적극적으로 최적화할 부분을 구분할 수 있게 함 부동소수점 덧셈은 결합법칙이 항상 성립하지 않아 컴파일러가 기본적으로 연산을 재배치하지 못하며, 정수 합산과 달리 SIMD를 활용하지 못할 수 있음 100만 개의 f64를 더한 실험에서 순진한 합산은 563.1µs, 대수적 덧셈을 적용한 쌍별 합산은 144.5µs로 NumPy의 190.7µs보다 빨랐음 쌍별 합산은 재귀 결과를 기존 덧셈으로 결합하고 128개 이하 구간에만 대수적 덧셈을 적용해, naive_sum()보다 누적 오차를 줄이면서 SIMD를 활용함 제곱 차이의 합에서도 대수적 연산자를 사용하자 실행 시간이 628.7µs에서 371.1µs로 줄었으며, 수치 코드는 정확도와 속도 요구에 따라 연산자를 구분해야 함 정수 합산에서 SIMD가 동작하는 방식 모든 코드는 최근 약 10년간의 x86-64 하드웨어용 명령 생성을 허용하도록 RUSTFLAGS="-C target-cpu=x86-64-v3"로 컴파일함 실제 배포에서는 최대 호환성을 위해 오래된 컴퓨터용 대체 구현을 제공할 수 있음 100만 개의 int64 값으로 구성된 NumPy 배열을 단순 반복문으로 합산한 naive_sum_i64()는 값당 약 0.5개 CPU 명령만 사용함 i7-12700K의 256비트 SIMD는 한 번에 64비트 정수 4개를 처리할 수 있음 전체 CPU 명령은 521,280개, 256비트 SIMD 정수 명령은 250,003개로 측정됨 100만 개 값을 약 25만 번의 SIMD 연산으로 처리해 빠른 정수 합산이 가능함 부동소수점 합산을 가로막는 연산 순서 같은 방식으로 100만 개의 f64를 더한 naive_sum()은 595.2µs가 걸려 정수 합산의 151.9µs보다 훨씬 느렸음 부동소수점 합산에는 1,458,269개 CPU 명령이 사용됐으며, 256비트 SIMD 부동소수점 명령은 0개였음 릴리스 모드 컴파일러는 최적화된 코드가 최적화 전 코드와 정확히 같은 방식으로 동작하도록 보수적으로 변환함 정수 덧셈은 a + (b + c) == (a + b) + c가 성립하므로 컴파일러가 순서를 바꾸거나 SIMD를 적용할 여지가 큼 부동소수점에서는 값의 범위와 반올림 때문에 결합법칙이 항상 성립하지 않음 1e16 + 1.0 == 1e16은 참이므로 작은 값의 덧셈이 결과에 반영되지 않을 수 있...