首页> 中文期刊>黎明职业大学学报 >计算机中数值溢出的求解与处理

计算机中数值溢出的求解与处理

开具论文收录证明 >>

期刊封面封底目录下载 >>

页面导航

摘要
著录项
相似文献
相关主题

摘要

溢出问题是计算机编程中常见的问题,数值溢出大多是不会引起编译错误的,并且在很多情况下,编译程序没有给出溢出信息,但数值溢出会使运行结果发生偏差.探讨了溢出的原因,发生溢出时如何求出其运行结果以及溢出前可事先提出警告以避免运行程序得出非预想的结果等问题.同时给出浮点型数据的较精确的取值范围.

著录项

来源
《黎明职业大学学报》|2002年第2期|63-66|共4页
作者
连顺金;
展开▼
作者单位

黎明职业大学,福建,泉州,362000;

展开▼
原文格式 PDF
正文语种 chi
中图分类理论、方法;
关键词
数据类型; 溢出; 整型; 浮点型;

相似文献

中文文献
外文文献
专利

1. 计算机中浮点数的溢出与规格化处理 [J] . 徐爱芸 . 黑龙江科技信息 . 2013,第017期
2. 对瑞利波频散曲线计算中高频数值溢出的处理 [J] . 杨天春 ,吴燕清 ,刘新华 . 煤炭学报 . 2007,第010期
3. 迭代法求解常见方程及其在计算机中的实现 [J] . 卢一荻 . 电子世界 . 2018,第019期
4. 在计算机中求解高阶线性方程组 [J] . 杨凤霞 . 沧州师范学院学报 . 2001,第003期
5. 基于图形处理器加速数值求解三维含时薛定谔方程 [J] . 唐富明 ,刘凯 ,杨溢 . 物理学报 . 2020,第023期
6. 热处理数值模拟进展之——扩展求解域热处理数值模拟 [C] . 潘健生 ,王婧 ,顾剑锋 . 第十次全国热处理大会 . 2011
7. 鞍点问题的数值求解方法及预处理技术研究 [A] . 孙冰 . 2018

获取原文

客服邮箱：kefu@zhangqiaokeyan.com

京公网安备：11010802029741号 ICP备案号：京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有

客服微信
服务号