vak: (Default)
[personal profile] vak
Обнаружил ошибку в математической библиотеке под Chimera Linux на процессоре arm64.
  • log10l(1e444L) выдаёт inf, а должно быть 444
  • log10l(1e555L) выдаёт inf, а должно быть 555
  • log10l(1e-666L) выдаёт -inf, а должно быть -666
  • log10l(1e-777L) выдаёт -inf, а должно быть -777
  • log10l(-1e-999L) выдаёт -inf, а должно быть nan
На интеловском процессоре под той же Chimera Linux работает правильно.

Date: 2024-12-12 09:32 (UTC)
From: [personal profile] chabapok
глюк же в макоси? или под линуксом на arm64 этот баг тоже имеет место?

Я не спец по ieee754, но помоему 64 бита это ничто для такого числа.

Date: 2024-12-12 10:09 (UTC)
From: [personal profile] chabapok
может старая и/или битая/неверно_собранная libm

ubuntu18.04 - нормально считает.