Entry tags:
Глюк в BSD-шной библиотеке
Обнаружил ошибку в математической библиотеке под Chimera Linux на процессоре arm64.
- log10l(1e444L) выдаёт inf, а должно быть 444
- log10l(1e555L) выдаёт inf, а должно быть 555
- log10l(1e-666L) выдаёт -inf, а должно быть -666
- log10l(1e-777L) выдаёт -inf, а должно быть -777
- log10l(-1e-999L) выдаёт -inf, а должно быть nan
no subject
А, это ещё и long double... Может быть и ABI проблема.
no subject
no subject
no subject
no subject
The long double type is a double precision
https://developer.apple.com/documentation/xcode/writing-arm64-code-for-apple-platforms
С этими ARM каждый как хочет так и коверкает архитектуру
no subject
Перефразируя Венечку Ерофеева, чтобы не сумел загордиться программист, чтобы человек был грустен и растерян. 😀
no subject
no subject
no subject
no subject
Я не спец по ieee754, но помоему 64 бита это ничто для такого числа.
no subject
no subject
ubuntu18.04 - нормально считает.
no subject
no subject
no subject