November 2019

S M T W T F S
      12
34 5 678 9
10111213141516
17181920212223
24252627282930

Style Credit

Expand Cut Tags

No cut tags
Thursday, February 26th, 2009 12:59 pm
А у меня тут менеджер проекта сильно удивился, когда я в ответ на его предложение округлить 1.33226762955019e-15 до 4 знаков после запятой предложил сразу заменить его на 0.
Он натурально не понимал. Пока я не сказал, что 1.33226762955019e-15 = 0.00000000000000133226762955019
Thursday, February 26th, 2009 01:35 pm (UTC)
значащие цифры там не имеет смысла учитывать