vak: (Default)
Serge Vakulenko ([personal profile] vak) wrote2024-12-11 07:02 pm

Глюк в BSD-шной библиотеке

Обнаружил ошибку в математической библиотеке под Chimera Linux на процессоре arm64.
  • log10l(1e444L) выдаёт inf, а должно быть 444
  • log10l(1e555L) выдаёт inf, а должно быть 555
  • log10l(1e-666L) выдаёт -inf, а должно быть -666
  • log10l(1e-777L) выдаёт -inf, а должно быть -777
  • log10l(-1e-999L) выдаёт -inf, а должно быть nan
На интеловском процессоре под той же Chimera Linux работает правильно.
archaicos: Шарж (Default)

[personal profile] archaicos 2024-12-12 03:54 am (UTC)(link)
А прочие функции с long double? Типа fabsl(), hypotl(), sqrtl(), truncl(), fmodl()?