コード例 #1
0
def fake_quant(x, scale):
    x = x / scale
    x = F.round(x)
    x = F.clip(x, -128, 127)
    x = x * scale
    return x
コード例 #2
0
ファイル: test_function.py プロジェクト: mozre/MegEngine 
 def forward(self, x):
     maxv, minv = x.max(), x.min()
     scale = F.maximum(maxv, -minv) / 127
     return F.round(x / scale) * scale
コード例 #3
0
def fake_quant(x, scale, qmin, qmax):
    x = x / scale
    x = F.round(x)
    x = F.clip(x, qmin, qmax)
    x = x * scale
    return x
コード例 #4
0
ファイル: test_fake_quant.py プロジェクト: mozre/MegEngine 
 def forward(self, x):
     return F.round(x)