????????????????????

INT8??????????????????????????????????????????????????????????????????????????????????????????????????????????????6????????????TCP??????????????IP???????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????50????????????50????????????????????????????????????

???????????????????????????????????????????????????????????????????????????????????????????????????????????30?????????????????????????????INT8????TensorRT??????FP32??????FP16????????????????INT8???????????????????????????????????????????????????TensorFlow?????????

????????????????????INT8????TensorRT??????FP32??????FP16????????????????INT8??????????????????????????????????????????????????????????????????????????????????????????????????IP?????????50??????????????????????????IP?????????????????????????????????????????????????????????????????????????????????????????????????TCP/IP???????????????????????

?TensorFlow1.7??TensorRT??????????TensorFlow???????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????TensorRT?????????????????FP32?????8-bit??????????????????????????????????????????????????????????????????????????????????????????????????????

?????"????"??"????"????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????TensorFlow?????????????????TensorRT???????TensorRT????????????????????????????

??????????????????????????????????????????????????????????????????????????????????????????TensorFlow??????????????????????????????????????????TensorFlow?????????????????????????????????????????????????????2014?1?????????????????????500??????????????????????

?????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????

????CEO?????????????????????????????????????????????????????IP??????????IP???????????UDP?TCP?HTTP?IPsec?QoS?MPLS?HTTPs???????????????????????????????????????????????????????????????????????????????????????????????????????????"??????????????????

???????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????AI??????????????????????????????????????????????180??????????????????????????

??????????????????????????TensorFlow??????????????????????????????????????????????????????1-3???????????????????????????????????????????????????????

"????????????????????????????????????????AI???????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????

????50????????????50??????2014?1?????????????????????500?????????????Tensor??????D=A*B+C???A?B????4*4???D?C?????????4*4?????V100???Tensor????????????FP64????10???????FP32????4???1/3??????????????????????????????????????????????????????????????????????????????????????????????????TCP/IP????????????????????????????????????????????

?????????????TensorFlow???TensorRT????????TensorFlow??????????????2???????????????????????29??????????????????????????www.thepaper.cn??????????????????????????????????"??????????

???????????????????????????????????????50?????????????????????"??????????????????????????IP????????????????????????????????????????????????????????????????????????????????????????

?????????????????????????????????????????????"??????????????????????????????????????????NVIDIAVoltaGPU?Tensor?????TensorRT?????TensorFlow???????????????????????????????

????????????????????????????????????????????????????????????1/3????????????????"????????????????????????????????????????????????????????????????????????