보안은 구현 후가 아닌 구현 전에 정의됩니다.

중요: 모델 선택은 하나의 레이어입니다

전용 환경에 모델을 배포한다는 것은 추론이 로컬에 유지됨을 의미합니다—하지만 그것만으로는 시스템이 안전하지 않습니다. 전체 파이프라인이 내부에서 관리되어야 합니다: 추론이 실행되는 곳, 임베딩이 저장되는 곳, 로깅되는 것, 워크플로우의 다른 곳에서 외부 API가 호출되는지, 누가 접근 권한이 있는지. Blueprint Labs는 모델 자체뿐만 아니라 모델 주변의 통제 기준을 설계합니다.

이 옵션이 적절한 경우

• ✓데이터 경계 프레임워크에서 제한으로 분류된 데이터
• ✓제3자 데이터 처리를 제한하는 계약 의무
• ✓프론티어 모델 성능이 필요하지 않은 내부 지식, 문서 검토, 또는 브리핑 워크플로우
• ✓최대 모델 성능보다 제3자 노출이나 데이터 주권에 주된 우려가 있는 구매자

"전용 환경 배포"에 필요한 것

• —선택한 모델을 실행할 수 있는 프라이빗 클라우드 또는 온프레미스 컴퓨팅
• —워크플로우 체인에서 외부 API 호출이 없는 완전 비공개 추론 스택
• —임베딩, 로그, 출력을 위한 내부 스토리지
• —더 넓은 보안 태세에 부합하는 접근 제어, 원격 측정 검토, 감사 로깅