잡동사니

안녕하세요. yeTi입니다. 오늘은 NVIDIA GPU 사용하기 위해 driver를 설치해보려고 합니다. nvidia-docker를 사용하기 위해선 NVIDIA driver를 설치해야 하는데요. package manager를 활용해서 쉽게 cuda-drivers 패키지를 설치할 수 있습니다. 그래서 Download - CUDA Toolkit에서 제공하는 가이드를 따라 해봤습니다. ~$ wget [http://developer.download.nvidia.com/compute/cuda/11.0.1/local_installers/cuda-repo-ubuntu1804-11-0-local_11.0.1-450.36.06-1_amd64.deb](http://developer.download.nvidia.com/co..

안녕하세요. yeTi입니다. 오늘은 NVIDIA Triton Inference Server에 gRPC 통신을 해보려고 합니다. 개요 gRPC는 RPC(Remote Procedure Call)를 Google에서 개발한 RPC 프레임워크입니다. NVIDIA Triton Inference Server에서 gRPC로 통신을 편하게 할 수 있도록 Client SDK를 제공합니다. Client SDK 획득 Build Using CMake - Fail Triton Inference Server - GitHub에 코드를 공유하고 있는데 이를 활용하여 직접 빌드하여 SDK를 생성하는 방법입니다. git clone https://github.com/NVIDIA/triton-inference-server.git에서 Repo..