Tíquete #26290

MFIの計算で0除算が発生する時がある

: 2011-09-12 00:21 Última Atualização: 2013-06-30 14:14

Relator:
(Anônimo)
Dono:
Tipo:
Estado:
Fechado
Componente:
(Nenhum)
Prioridade:
5 - Medium
Gravidade:
5 - Medium
Resolução:
Accepted
Arquivo:
Nenhum

Details

銘柄3111に対してMFI_new(13)で計算すると0除算が発生した。

runtime error in X:\Protra_2.0\lib\TIlib.pt:1662: divided by 0
エラーが発生したので実行を中断します。

該当箇所は以下
if obj[3][0] == 0.0
	obj[1] = 0.0
else
	obj[1] = 100.0 /  (obj[2][0] / obj[3][0] + 1)
end

発生時の obj[2][0] と obj[3][0] の値は以下の通り
3111 オーミケンシ 98/08/05 obj[2][0] = -1.3992226181122E-13
3111 オーミケンシ 98/08/05 obj[3][0] = 1.3992226181122E-13

(obj[2][0] / obj[3][0] + 1) = 0
となるため、0除算となる。

Ticket History (3/3 Histories)

2011-09-12 00:21 Updated by: None
  • New Ticket "MFIの計算で0除算が発生する時がある" created
2013-03-05 14:53 Updated by: panacoran
  • Resolução Update from Nenhum to Accepted
  • Dono Update from (Nenhum) to panacoran
  • Marco Update from (Nenhum) to バージョン2.0
2013-06-30 14:14 Updated by: panacoran
  • Estado Update from Aberto to Fechado
  • Ticket Close date is changed to 2013-06-30 14:14
Comentário

これまでProtra言語は、非常に小さな浮動小数点数を0と見なす処理を行っていませんでした。浮動小数点演算では本来0になるはずの値が誤差で0からずれるので、非常に小さな値を0と見なさなければなりません。この処理を#30936で実装しました。これからはobj[3][0] == 0.0が真になるので、0除算は起こらなくなります。

Attachment File List

No attachments

Editar

You are not logged in. I you are not logged in, your comment will be treated as an anonymous post. » Login