FAQ

Foundry 내에서 사용자가 업로드한 모든 이미지를 한 곳에서 볼 수 있는 방법이 있나요?

네; 제어판은 Foundry 관리자에게 플랫폼에 푸시된 모든 이미지를 볼 수 있는 기능과 함께 해당 이미지에 존재하는 모든 취약점을 보고 되돌릴 수 있는 기능을 제공합니다.

컨테이너 기반 모델은 실시간 배포와 호환되나요?

네, 컨테이너 모델은 실시간 및 일괄 배포에서 사용할 수 있습니다.

Foundry에 푸시할 이미지를 생성할 때 사용해야 하는 특정 기본 이미지가 있나요?

아니요, 제공되거나 필요한 표준 기본 이미지는 없습니다. 그러나 푸시된 모든 이미지는 이미지 요구사항을 준수해야 합니다.

이미지가 노출해야 하는 표준 API가 있나요?

아니요; Foundry가 이미지와 상호 작용하는 방식은 모델 어댑터 구현에 의해 정의됩니다. 이 예제 사용자 정의 어댑터에서 반영된 일반적인 패턴은 이미지를 특정 포트에서 입력을 수신하도록 구성한 다음 모델 어댑터가 POST 요청을 보내도록 하는 것입니다.

컨테이너화된 모델의 최대 이미지 크기는 얼마나 되나요?

일반적으로 22 GB보다 큰 이미지는 Docker 푸시 단계에서 시간 초과가 발생합니다. 더 큰 이미지가 필요한 유즈케이스의 경우 Palantir 담당자에게 문의하십시오.

Foundry는 윈도우 기반 컨테이너의 실행을 지원하나요?

아니요; 플랫폼에 푸시되는 모든 이미지는 Foundry 쿠버네티스 클러스터의 엔터티가 리눅스 머신이므로 리눅스 플랫폼용으로 빌드되어야 합니다.

모델에서 여러 컨테이너를 사용할 수 있나요?

네; 여러 이미지가 모델 버전을 지원하는 설정으로 구성될 수 있지만 오케스트레이션 지원은 없습니다. 실행 시간에 모든 컨테이너가 동시에 시작되며 컨테이너 시작 시간 순서를 보장할 수 없습니다.

컨테이너 기반 모델은 모든 Foundry 인스턴스에서 지원되나요?

아니요. 모든 사용자 제공 컨테이너 워크플로는 지원 인프라로 Rubix 엔진이 필요합니다. 또한 Control Panel에서 컨테이너 워크플로를 활성화해야 합니다.

모델에서 텔레메트리를 어떻게 활성화하나요?

모델에서 텔레메트리를 활성화하려면 새 모델 버전을 생성하고 모델 버전 생성의 세 번째 단계에서 텔레메트리 활성화를 켭니다. 이미지에는 /bin/sh에 셸 실행 파일이 있어야 하며, 이미지는 set 및 tee와 같은 셸 명령을 지원해야 합니다.

텔레메트리는 모든 종류의 모델에서 작동하나요?

아니요, 컨테이너화된 모델의 텔레메트리는 파이썬 변환 및 실시간 배포에서 작동하지만 일괄 배포에서는 컨테이너 로그를 내보내지 않습니다.

내 컨테이너가 텔레메트리에 필요한 명령과 설정을 갖추고 있는지 어떻게 테스트할 수 있나요?

docker run --entrypoint /bin/sh <EXAMPLE_IMAGE>:<IMAGE_TAG_OR_DIGEST> -c 'set -a && tee -a' && echo "Telemetry compatible"을 실행하여 이를 테스트할 수 있습니다. Telemetry compatible 출력이 표시되면 이 컨테이너에서 텔레메트리를 활성화할 수 있다는 것을 의미합니다.