Школьное образование, говорите?

[dil]

А у меня тут менеджер проекта сильно удивился, когда я в ответ на его предложение округлить 1.33226762955019e-15 до 4 знаков после запятой предложил сразу заменить его на 0.
Он натурально не понимал. Пока я не сказал, что 1.33226762955019e-15 = 0.00000000000000133226762955019

Comments

[dmarck.livejournal.com]

Ну, может, он имел в виду до четырёх значащих цифр, всё ж таки...

[dil.livejournal.com]

"to just round all numbers to 4 decimal places"

[dil.livejournal.com]

значащие цифры там не имеет смысла учитывать

[dma.livejournal.com]

А он поди имел в виду до пяти значащих цифр... :)

[dil.livejournal.com]

не, они никому не интересны