首页> 中文会议>第一届全国计算爆炸力学会议 >数值计算中累积舍入误差估算的初步研究

数值计算中累积舍入误差估算的初步研究

摘要

对于现在数值计算中舍入误差问题的研究现状进行较全面的了解.根据恽寿榕教授提出的累加计算累积综合舍入误差概率分析算法,编制出计算分析程序;在大量计算的基础上,分析了累加运算累积综合舍入误差的概率分布规律、拟合得到了在不同运算步数下概率密度的分布曲线为正态分布,并给出了正态分布曲线中的相关参数随计算步数的发展规律.

著录项

相似文献

  • 中文文献
  • 外文文献
  • 专利
获取原文

客服邮箱:kefu@zhangqiaokeyan.com

京公网安备:11010802029741号 ICP备案号:京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有
  • 客服微信

  • 服务号