计算精度

摘要： 针对传统蒙特卡洛法计算辐射传输耗时问题,提出了一种改进蒙特卡洛方法,通过比例迭代累加法来求解反射及散射能量,从而大幅减少了计算时间.引入直接评价方法,以包含参与性介质的密闭系统(方形和圆形为例)为例,分析了网格密度、发射能束数及物性参数对改进蒙特卡洛法计算精度的影响.当光学厚度为0.005时,采用改进蒙特卡洛方法求得方腔及圆形腔的表面微元辐射通量的相对均方根误差值分别为0.002 5及0.002 3,而采用传统蒙特卡洛方法时对应误差分别为0.008 0及0.003 7.可见,相同计算条件下,改进蒙特卡洛方法对辐射换热问题具有更高的精度.进一步研究了追踪能束数对计算误差的影响规律,给出了计算误差与追踪能束数拟合关系式,为计算该类问题的能束数选取提供了支撑.

摘要： 针对焊接数值模拟的体单元模型计算效率低和壳单元模型计算精度低的问题,本文提出了一种焊接过程数值模拟的Shell-Solid单元混合建模方法。以平板对接焊为例,分别采用Shell单元、Solid单元和Shell-Solid单元混合建模,开展了焊接温度场和结构热力耦合响应的数值模拟,对比分析了温度场、应力场及计算效率。结果表明:混合模型既保证了焊接温度场和结构响应的计算精度,又保证了计算效率,是一种值得深入研究的焊接模拟建模方法。

摘要： 结合遗传算法(GA)和粒子群算法(PSO)的优点以及混沌运动的特性,提出了混沌粒子群遗传算法(CPSO-GA),并使用五个高维非线性测试函数考察此算法的性能。在固定进化代数、所调用目标函数次数接近以及固定收敛精度三种情况下对算法进行数值试验,结果表明,与其他文献中提出的算法相比,CPSO-GA能100%地找到最优解,收敛效果及寻优能力好,并能有效摆脱局部极小点,且调用目标函数次数最少,大大降低了计算量。

摘要： 气体状态方程是高压气瓶设计的重要基础。由于高压气体为非理想气体,设计高压气瓶时,通过理想气体状态方程计算得到的结果偏差较大,难以满足使用要求。为了提高高压气瓶设计计算的精度,对三种常用的气体状态方程,即理想气体状态方程、范德瓦尔气体状态方程和Redlich-Kwong气体状态方程进行了描述和分析,通过高压氮气充气试验,对比了三种气体状态方程的计算精度。结果表明:Redlich-Kwong气体状态方程与试验结果吻合最好,可以用于高压气瓶的设计计算。

摘要： 基于我国跨航道桥梁数量大且钢混拱桥有一定占比的背景,为简化钢混拱桥评价流程,提高评价精度,同时提高评价效率,文章以扬州宝应宝射河大桥(跨越盐宝线)为例,采用有限元分析法进行建模计算,在对各指标相关性分析、灵敏度判断的前提下,采用最优函数求解法,建立修正分析过程模型。经验证,采用该文提出的评价模型,误差率范围由1.212%~22.33%下降至?1.399%~5.451%,平均误差率由11.951%下降至3.066%,可以更准确地模拟该类桥梁。

摘要： 在许多适用于解实正定方程组的交替方向迭代法(Alternating Direction Iteration,ADI)的格式中,要求诸方向矩阵之间满足乘法可交换条件.这虽然可提高格式的效率,却也限制了ADI的应用范围.本文提出了一些修改的ADI格式(Revised Alternating Direction Iteration,RADI),免除可交换性的苛求,从而极大地扩充了ADI的应用范围.同时,本文还探讨了提高RADI格式效率的若干措施.

摘要： 针对时变复数西尔维斯特方程的实时求解问题,提出了两种有限时间神经网络(FTNN)模型。该方案基于张神经网络(ZNN)在实数域中的动力学方法,设计面向复数域的神经动力学方程。针对动力学方程中非线性激励函数的数值计算问题,应用两种等价的处理方法。第一种方法是处理复数输入的实部与虚部,第二种方法是处理复数输入的模数。通过使用有限值激励函数加快FTNN模型的求解速度,进一步提高了模型的收敛速度和计算精度。实验结果表明,在求解时变复数西尔维斯特方程时,相比于传统的周期神经网络求解法,所提出的网络模型具有更好的收敛性和稳定性。

摘要： 流量系数率定是利用曲线拟合、数学模型推导流量计算公式的过程。根据实测流量、扬程和机组运行有功功率等水力要素资料,分析建立流量系数与扬程、有功功率的相关关系,并根据规范检验关系曲线的合理性。流量计算公式可运用在水泵运行效能分析、水情信息报送和水文资料整编工作中,较好地服务水文测报工作。邳州泵站流量计算公式采用了低扬程抽水站幂指数型数学模型进行系数率定,并进行了关系曲线检验和定线精度计算。

摘要： 准确预测钻井过程中的井筒温度是科学评价井筒中流体流动安全与压力控制的关键。为此,基于井筒–地层各区域能量守恒原理,建立了井筒–地层传热数值模型和井筒–地层传热解析模型,分别用全隐式有限差分法和解析法对数学模型进行了求解;并结合顺北油田某超深井井身结构与钻井参数,从传热机理上分析了2种模型的井筒温度计算精度及其影响因素。分析认为:钻进时,下部井段环空流体温度低于原始地温,而上部井段流体高于原始地温;解析模型应用简化的无因次时间函数表示从远处地层传至近井壁的拟稳态热交换方式,并用综合传热系数表征地层–环空、环空–钻柱内总的热交换量,减少了井筒与地层间的热交换量,导致其计算出的环空和钻柱内流体温度低于数值模型。研究结果表明,数值模型计算结果与实测值吻合程度高,数值模型和解析模型的计算误差分别为1.46%和6.94%,两者计算结果差值为13.15°C。研究结果为深入认识钻进中井筒-地层传热机理和准确评价温度场提供了理论依据。

摘要： 本文从伯努利方程出发,通过理论计算主要描述了在ANSYS中将通风孔模型替换成简化二维通风孔模型的可行性与必要性,三维通风孔和二维的区别仅仅是通风孔厚度导致的沿程阻力损失不一样,若沿程阻力损失在总能量中所占比例极小,则简化成二维模型是完全可行的。这大大降低模型的网格数量,同时还能保证计算精度,节约计算资源。

摘要： 应力强度因子(Stress intensity factor,SIF)是判断已有裂缝是否扩展的物理量,其计算精度对地裂缝扩展模拟具有重要影响.基于扩展有限元的互作用积分法是一种常用的计算开裂问题应力强度因子的方法,其数值积分中的权函数通常为平台型或金字塔型,但目前对权函数的选取以及权函数对应力强度因子计算的影响研究得很少.针对不同形式的权函数提出了统一的计算公式,并引入权函数因子来进一步控制权函数的具体形式;提出了非平台型的权函数的修正方法,以提高应力强度因子的计算精度;讨论了权函数因子以及积分区域因子对应力强度因子计算精度的影响,并通过算例进行了计算.结果表明,当积分区域因子为3～5,采用修正的权函数且权函数因子取1～3时,应力强度因子的计算精度最高.

摘要： 离散纵标法是求解中子输运方程的主要数值方法之一,空间变量离散及误差控制对保证输运计算精度至关重要.传统有限差分离散方法对于特定模型会产生非物理振荡问题,粗网精度不足使得低阶差分方法的应用具有局限性.本文研究了二维常数和线性短特征线方法,短特征线空间离散基于中子输运的特征线解,根据输运方程的空间矩守恒构造网格角通量密度完成输运方程求解.选取固定源和临界问题进行测试验证并分析了网格敏感性.数值结果表明,线性短特征线离散对网格敏感性较低,较常数短特征线和低阶差分方法具有更高的计算精度及效率.

摘要： 本文建立了洞庭湖整体的平面二维水沙数学模型,模拟的总水域面积为2650km2.采用滩槽优化的四边形非结构网格剖分计算区域(123118个计算单元),基于该计算网格所建立的平面二维数学模型的地形能较真实地反映洞庭湖滩槽复式断面形态、复杂河势和不规则固体边界.在平滩流量条件下、非恒定水沙输移条件下(2013年水沙过程),对模型参数如河道糙率、水流挟沙力系数等进行了率定.采用2004-2012年实测水沙过程,对平面二维水沙模型的计算精度进行了验证并分析了计算误差产生的原因.

摘要： 针对传统点质量模型对低空扰动引力计算精度不高的情况,提出了基于最小二乘方法的点质量模型.实验结果表明,随着已知数据的增加,点质量模型拟合外部扰动引力的精度获得提升,并且高度越低,精度提升越明显.

摘要： 针对高精度洪水演进数值模拟中出现的计算精度不高、稳定性差、计算效率低下等问题,本文提出一套基于GPU加速的地表水动力数值模型(GAST).通过与应用广泛的MIKE21FM模型对比,研究英国小镇莫帕斯百年一遇洪水在城区演进情况.对比相同输入条件下的MIKE21FM模型,GAST模型4个典型区域淹没面积平均百分误差由10.39％减小到2.28％,计算精度提升3.77～9.56倍;GAST模型提升计算效率3.60～11.77倍,且计算稳定性良好,应用前景广阔.

摘要： 冷弯薄壁型钢是钢结构建筑中常用的截面形式,截面参数是用于结构安全计算时最重要的参数.规范中只列出了少数典型的截面,远不能满足工程需要.本文给出一种可计算任意冷弯薄壁型钢截面参数的数值计算方法.

摘要： 冷弯薄壁型钢是钢结构建筑中常用的截面形式,截面参数是用于结构安全计算时最重要的参数.规范中只列出了少数典型的截面,远不能满足工程需要.本文给出一种可计算任意冷弯薄壁型钢截面参数的数值计算方法.

摘要： 冷弯薄壁型钢是钢结构建筑中常用的截面形式,截面参数是用于结构安全计算时最重要的参数.规范中只列出了少数典型的截面,远不能满足工程需要.本文给出一种可计算任意冷弯薄壁型钢截面参数的数值计算方法.

摘要： 冷弯薄壁型钢是钢结构建筑中常用的截面形式,截面参数是用于结构安全计算时最重要的参数.规范中只列出了少数典型的截面,远不能满足工程需要.本文给出一种可计算任意冷弯薄壁型钢截面参数的数值计算方法.

摘要： GNSS技术出现以来,已经成为空间基准建立、维持与精化的重要技术手段.目前国际上应用最广的ITRF参考框架,依靠在全球均匀布设的GNSS连续运行参考站作为其具体实现.鉴于高精度空间基准对于国民经济和国防建设的重要作用,世界上主流国家纷纷建立自己的GNSS连续观测网络,基于ITRF框架建立和维持自己的空间基准体系,如我国的CGCS2000其实质就是ITRF97框架在2000.0历元的具体实现.本文重点介绍了国际IGS组织的高精度GNSS共享观测数据,分析了其数据的来源及时频特征,并通过实例说明了采用GNSS连续观测站共享数据精化CGCS2000的具体应用,论证了国际GNSS共享数据军民融合模式在空间基准领域的重要应用价值.

摘要： 本发明公开了多位宽PE阵列计算位宽的选择方法及计算精度控制电路，属于计算、推算、计数的技术领域。本发明对神经网络最后Softmax层的输出概率值分析以判断输出最大概率的大小来评估网络识别精度，通过设定的两个概率阈值判断输出的最大概率值是否满足计算精度要求，若最大概率值小于最小阈值则采用高位宽处理元件阵列的信号，若最大概率值大于最小阈值小于最大阈值则维持之前的位宽处理元件阵列，若最大概率值大于最大阈值则采用低位宽处理元件阵列的信号，将网络输出的最大概率维持在一定的氛围内，保证网络的识别精度的同时降低功耗。

摘要： 本发明公开了一种高性能计算机系统中不满足计算精度要求的问题结点检测方法。技术方案是先选择基准测试程序并在高性能计算机全系统2

摘要： 本发明涉及一种用于提高非线性颤振可靠度振动计算精度与计算效率的数据处理方法，其特征在于，包括如下步骤：根据刚体运动学和小角度近似来计算结构模型的误差传播，利用齐次坐标变换对结构模型进行运动学分析，推导出空间误差模型,对结构模型的精度进行全局敏感性分析,最后采用乘法降维法来降低计算的复杂性，最终得到影响结构模型精度的关键误差项。适用于大跨度钢箱梁、高精度数控机床、飞行器具震颤模型等工程领域，也适用于数据压缩、数据探索以及数据可视化等音视频的处理。本发明有效解决了在工程实践中采集到的数据点很多，但是它们散布在一个庞大高维空间中，存在大量数据无关或冗余变量的观测值，在特征提取、数据关联等处理上存在的计算精度与计算效率低的问题，可有效实现数据的快速、精确处理。

摘要： 本发明涉及一种天然气流量计算机的物性参数计算精度评价方法，先对气体混合物中所有组分的理想气体物性值，按各自相应的摩尔分数进行加权，然后将所有各项加和后便得到理想气体混合物的物性值；通过该发明的应用，可精确判断流量计算机物性参数准确性，进而判断并纠正其流量计算的误差，减少天然气流量贸易误差。

摘要： 本发明涉及天然气流量计算机的压缩因子计算精度方法，用以表示实际气体受到压缩后与理想气体受到同样的压力压缩后在体积上的偏差；通过该发明的应用，可精确判断流量计算机压缩因子准确性，进而判断并纠正其流量计算的误差，减少天然气流量贸易误差。

摘要： 本发明公开了多位宽PE阵列计算位宽的选择方法及计算精度控制电路，属于计算、推算、计数的技术领域。本发明对神经网络最后Softmax层的输出概率值分析以判断输出最大概率的大小来评估网络识别精度，通过设定的两个概率阈值判断输出的最大概率值是否满足计算精度要求，若最大概率值小于最小阈值则采用高位宽处理元件阵列的信号，若最大概率值大于最小阈值小于最大阈值则维持之前的位宽处理元件阵列，若最大概率值大于最大阈值则采用低位宽处理元件阵列的信号，将网络输出的最大概率维持在一定的氛围内，保证网络的识别精度的同时降低功耗。

摘要： 本发明公开了一种高性能计算机系统中不满足计算精度要求的问题结点检测方法。技术方案是先选择基准测试程序并在高性能计算机全系统2

摘要： 本发明公开了基于计算精度的卷积神经网络流水并行实现方法及系统，属于卷积神经网络技术领域，包括以下步骤：S1：寻找子结构；S2：算子转化；S3：输入及输出精度转化；S4：低精度计算。本发明对卷积神经网络的计算逻辑进行切分融合成多个独立模块进行流水并行，同时对于适宜量化的模块进行量化，从而减少通行量，并分别把模块放在高精度计算卡或量化后放在低精度卡上进行计算，从而充分利用不同精度的计算资源共同完成卷积神经网络的计算，值得被推广使用。

摘要： 本申请提供了一种涡轮进口温度的计算精度提高方法、系统及存储介质，涡轮进口温度的计算精度提高方法包括：基于热平衡法建立影响因素与核心机涡轮进口温度的理论计算公式；基于理论计算公式对影响因素中的各参量分别进行敏感度计算，并根据计算结果确定影响涡轮进口温度计算的主要因素；根据理论计算公式和主要因素，采用最小二乘法模型训练核心机试车数据样本点，获得涡轮进口温度的多元线性回归模型；根据多元线性归回模型得到主要因素的归一化排序结果，并根据排序结果对获取主要因素的核心机测量设备和测量方式进行改进。本申请能够明确地指导核心机测试方案改进方向，获得试车中准确度较高的涡轮进口温度数值。

摘要： 本发明提供了一种非定常气动力计算精度评估及修正方法，包括：建立全飞行器动力学模型和全飞行器气动力网格模型；构建飞行器转动刚体模态振型和操纵面偏转刚体模态振型；将模态振型插值到全飞行器气动力网格模型中；计算获取各个通道的非定常气动力矩；基于操纵面测力风洞试验数据，计算获取各个通道的控制力矩；根据各个通道的非定常气动力矩和控制力矩计算获取各个通道的非定常气动力精度评估值；将各个通道的非定常气动力精度评估值分别与设定的对应通道的气动力精度评估阈值范围进行比较，根据精度评估值实现精度修正。应用本发明的技术方案，以解决现有技术中非定常气动力由于无法通过试验测量数据校验而难以评估精度的技术问题。