AspenPlus 中收敛时，容忍度那里出现个E，E是不是跟自然系数e是一样的？？

zghhai · 发表于 1970-1-1 08:00:00

AspenPlus 中收敛时，容忍度那里出现个E，E是不是跟自然系数e是一样的？？希望大家多多指教！

Horse · 发表于 1970-1-1 08:00:00

应该是这样的，，

wxch99219 · 发表于 1970-1-1 08:00:00

不是的，e是指数，是以10为底的，不是自然对数。

ljjt · 发表于 1970-1-1 08:00:00

楼上正解。E-10表示10的-10次方。科学计数是这样。FORTRAN中的格式输出。exp-10才表示e的-10次方。

zghhai · 发表于 1970-1-1 08:00:00

ljjt 发表于 2011-10-24 20:26

登录/注册后可看大图

楼上正解。E-10表示10的-10次方。科学计数是这样。FORTRAN中的格式输出。exp-10才表示e的-10次方。

Maximum error =1.909E-10=多少呢？？

ljjt · 发表于 1970-1-1 08:00:00

我的神呃，服你了。

小野 · 发表于 1970-1-1 08:00:00

E表示的是10为底数，科学计数法

yufylee于2011-10-25 14:43补充以下内容：
E表示的是10为底数，科学计数法

yufylee于2011-10-25 14:44补充以下内容：
E表示的是10为底数，科学计数法