首页> 外文会议>International Measurement Federation world congress >ROUNDING AND NOTATION, NAMELY WHEN USING STIPULATIONS IN THE DEFINITION OF MEASUREMENT UNITS
【24h】

ROUNDING AND NOTATION, NAMELY WHEN USING STIPULATIONS IN THE DEFINITION OF MEASUREMENT UNITS

机译:舍入和符号,即在测量单位定义中使用规定时

获取原文

摘要

This paper intends to tackle, in the context of measurement and the definition of measurement units, a problem well known in computing science, the inherent propagation and accumulation of rounding errors throughout the intermediate steps of numerical calculation, and some issues in notation, namely of integer numbers.
机译:本文打算在测量和测量单位的定义中解决计算科学中众所周知的问题,在数值计算中的中间步骤中舍入误差的固有传播和累积,以及符号中的一些问题,即整数数字。

著录项

相似文献

  • 外文文献
  • 中文文献
  • 专利
获取原文

客服邮箱:kefu@zhangqiaokeyan.com

京公网安备:11010802029741号 ICP备案号:京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有
  • 客服微信

  • 服务号