提交 e27c973d authored 作者: notoraptor's avatar notoraptor

Set atol, rtol to 5e-2, 5e-2 for float16 precision.

上级 6e0a10e9
...@@ -590,7 +590,7 @@ class BaseTestDnnConv(object): ...@@ -590,7 +590,7 @@ class BaseTestDnnConv(object):
def get_atol_rtol(self, algo, dtype, precision): def get_atol_rtol(self, algo, dtype, precision):
if dtype == 'float16': if dtype == 'float16':
# Raise tolerance for float16 # Raise tolerance for float16
return (1e-2, 5e-2) return (5e-2, 5e-2)
if algo == 'winograd_non_fused' and dtype == precision == 'float32': if algo == 'winograd_non_fused' and dtype == precision == 'float32':
# Raise tolerance for winograd_non_fused in FLOAT_CONFIG. # Raise tolerance for winograd_non_fused in FLOAT_CONFIG.
return (1e-4, 1e-4) return (1e-4, 1e-4)
......
Markdown 格式
0%
您添加了 0 到此讨论。请谨慎行事。
请先完成此评论的编辑!
注册 或者 后发表评论