Computer Learning/installation1 Nvidia Triton 서버를 사용해 보자 0. References nvidia 의 triton server 소개 페이지 : https://developer.nvidia.com/ko-kr/nvidia-triton-inference-server triton server github: https://github.com/triton-inference-server/server python_backend github: https://github.com/triton-inference-server/python_backend huggingface pipeline 을 이용한 추론 예: https://www.inferless.com/learn/nvidia-triton-inference-inferless huggingface 배포 예: https://github.c.. 2023. 9. 6. 이전 1 다음