dil: (Default)
dil ([personal profile] dil) wrote2009-02-26 12:59 pm

Школьное образование, говорите?

А у меня тут менеджер проекта сильно удивился, когда я в ответ на его предложение округлить 1.33226762955019e-15 до 4 знаков после запятой предложил сразу заменить его на 0.
Он натурально не понимал. Пока я не сказал, что 1.33226762955019e-15 = 0.00000000000000133226762955019

[identity profile] dmarck.livejournal.com 2009-02-26 01:09 pm (UTC)(link)
Ну, может, он имел в виду до четырёх значащих цифр, всё ж таки...

[identity profile] dil.livejournal.com 2009-02-26 01:34 pm (UTC)(link)
"to just round all numbers to 4 decimal places"

[identity profile] dil.livejournal.com 2009-02-26 01:35 pm (UTC)(link)
значащие цифры там не имеет смысла учитывать

[identity profile] dma.livejournal.com 2009-02-26 01:16 pm (UTC)(link)
А он поди имел в виду до пяти значащих цифр... :)

[identity profile] dil.livejournal.com 2009-02-26 01:35 pm (UTC)(link)
не, они никому не интересны