AspenPlus 中收敛时，容忍度那里出现个E，E是不是跟自然系数e是一样的？？

zghhai · 发表于 2011-10-24 17:05:29

AspenPlus 中收敛时，容忍度那里出现个E，E是不是跟自然系数e是一样的？？希望大家多多指教！

Horse · 发表于 2011-10-24 17:21:31

应该是这样的，，

wxch99219 · 发表于 2011-10-24 17:55:22

不是的，e是指数，是以10为底的，不是自然对数。

ljjt · 发表于 2011-10-24 20:26:53

楼上正解。E-10表示10的-10次方。科学计数是这样。FORTRAN中的格式输出。exp-10才表示e的-10次方。

zghhai · 发表于 2011-10-24 22:14:29

ljjt 发表于 2011-10-24 20:26

登录/注册后可看大图

楼上正解。E-10表示10的-10次方。科学计数是这样。FORTRAN中的格式输出。exp-10才表示e的-10次方。

Maximum error =1.909E-10=多少呢？？

ljjt · 发表于 2011-10-25 09:02:35

我的神呃，服你了。

小野 · 发表于 2011-10-25 14:43:54

E表示的是10为底数，科学计数法

yufylee于2011-10-25 14:43补充以下内容：
E表示的是10为底数，科学计数法

yufylee于2011-10-25 14:44补充以下内容：
E表示的是10为底数，科学计数法