목록tensorrt (1)

Maxima's Lab

[Python, Deep Learning] Tensorflow2 Classification 모델, .onnx & .trt 변환 및 Inference 방법

안녕하세요, 오늘은 Tensorflow 프레임워크에서 Classification 모델을 .onnx 파일과 .trt 파일로 변환하고 해당 파일을 활용하여 Inference 하는 방법에 대해서 알아보겠습니다. 이를 위해 TEST를 진행한 패키지 버전 및 환경은 다음과 같습니다. - OS : Ubuntu 22.04- CUDA : 11.8- GPU : NVIDIA GeForce RTX 4070 Laptop GPU- Python : 3.10.12- tensorflow : 2.14.0- tf2onnx : 1.16.1- onnxruntime-gpu : 1.18.1- nvidia-tensorrt : 8.4.3.1- pycuda : 2024.1 먼저, tensorflow 2 모델을 onnx 파일로 변환하는 코드에 대해서..
Deep Learning 2024. 7. 13. 09:29
Prev 1 Next