![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png)
Обнаружил ошибку в математической библиотеке под Chimera Linux на процессоре arm64.
- log10l(1e444L) выдаёт inf, а должно быть 444
- log10l(1e555L) выдаёт inf, а должно быть 555
- log10l(1e-666L) выдаёт -inf, а должно быть -666
- log10l(1e-777L) выдаёт -inf, а должно быть -777
- log10l(-1e-999L) выдаёт -inf, а должно быть nan
no subject
Date: 2024-12-12 03:17 (UTC)А, это ещё и long double... Может быть и ABI проблема.
no subject
Date: 2024-12-12 03:32 (UTC)no subject
Date: 2024-12-12 03:54 (UTC)no subject
Date: 2024-12-12 06:39 (UTC)no subject
Date: 2024-12-12 05:20 (UTC)The long double type is a double precision
https://developer.apple.com/documentation/xcode/writing-arm64-code-for-apple-platforms
С этими ARM каждый как хочет так и коверкает архитектуру
no subject
Date: 2024-12-12 06:30 (UTC)Перефразируя Венечку Ерофеева, чтобы не сумел загордиться программист, чтобы человек был грустен и растерян. 😀
no subject
Date: 2024-12-12 06:49 (UTC)no subject
Date: 2024-12-12 09:11 (UTC)no subject
Date: 2024-12-12 09:27 (UTC)no subject
Date: 2024-12-12 09:32 (UTC)Я не спец по ieee754, но помоему 64 бита это ничто для такого числа.
no subject
Date: 2024-12-12 09:39 (UTC)no subject
Date: 2024-12-12 10:09 (UTC)ubuntu18.04 - нормально считает.
no subject
Date: 2024-12-12 18:32 (UTC)no subject
Date: 2024-12-12 13:17 (UTC)no subject
Date: 2024-12-12 18:33 (UTC)