Точность вещественных чисел

0 (0)
  • Развернуть Точность вещественных чисел ( AsperZ  23.08.2017 15:30 )
    5(1)
    var m:money = 531356.312345678961;
    var d:double = 531356.312345678961;
    var n:numeric = 531356.312345678961;
    
    println(m:19:12);
    println(d:19:12);
    println(n:19:12);
    

    печатает
    531356.312345678900
    531356.312345678920
    531356.312345678900
    

    В связи с этим вопрос. Возможно ли хранить больше 10 знаков после запятой?

    >> Ответить
    • Развернуть Можно ( Шкурко Владимир  24.08.2017 10:14 )
      5(1)
      Для денежных величин нужно перед константой ставит симол $.
      Т.е.:

      var m:money   = $531356.312345678961;
      var n:numeric = $531356.312345678961;
      

      >> Ответить