최근 머코어(Mercor) 관련 보고서는 기업 AI 구매 담당자들에게 유용한 경각심을 불러일으켰습니다. 머코어는 LiteLLM 관련 공급망 공격으로 인한 보안 사고를 확인했으며, 보도에 따르면 메타(Meta)는 조사가 진행되는 동안 해당 회사와의 협력을 중단했습니다. 보안, 구매 및 AI 책임자들에게 주는 교훈은 간단합니다. 공급업체 검토는 더 이상 최상위 계층에서만 이루어져서는 안 된다는 것입니다.
1. 데이터는 어디에서 수집되며, 어떻게 관리됩니까?
출처, 동의, 라이선스, 원산지, 보존 및 삭제에 대한 구체적인 내용을 요청하십시오. 답변이 모호하다면 문제가 있을 수 있습니다.
샤이프의 공개 지침 AI 데이터 수집 출처, 문서화, 개인정보 보호 조치 및 체계적인 수집 관행을 강조합니다.
2. 워크플로우에 포함된 타사 및 오픈 소스 도구는 무엇입니까?
이 문제는 머코어가 자사 사건을 라이트LLM과 연관시키고 공급망 공격으로 피해를 입은 수천 개 기업 중 하나라고 공개적으로 밝혔기 때문에 더욱 중요해졌습니다.
3. 민감한 데이터 세트 및 평가 자료에 대한 접근은 어떻게 통제하십니까?
접근 제한, 암호화, 감사 로깅 및 데이터 분리는 기본 요구 사항이어야 합니다.
4. 귀사의 품질 보증 프로세스는 실제로 어떻게 진행되나요?
다단계 검토, 골드 데이터 세트, 판정 및 구조화된 수정 루프와 같은 측정 가능한 관행을 찾아보세요.
샤이프의 공개적인 입장은 다음과 같습니다. 인간 참여형 품질 LLM 교육 데이터 서비스 품질은 최종 점검으로 추가되는 것이 아니라 워크플로에 설계 단계부터 포함되어야 한다는 생각을 뒷받침합니다.
5. 예외적인 경우나 모호한 판단은 어떻게 처리하시나요?
기업용 AI에서 모든 것을 안전하게 자동화할 수는 없습니다. 일부 작업은 여전히 해당 분야의 전문성을 바탕으로 한 사람의 검토가 필요합니다.
샤이프의 공개된 HITL 가이드라인은 판단력과 책임감이 가장 중요한 워크플로의 핵심 지점에 인간을 배치해야 한다고 주장합니다.
6. 귀사는 규정 준수 및 보안 성숙도를 입증할 어떤 증거를 가지고 있습니까?
7. 소유권, 파트너십 또는 전략적 우선순위가 변경되면 어떻게 됩니까?
바로 이 지점에서 중립성과 고객 보호가 중요해집니다. 구매자는 데이터가 어떻게 보호되는지, 판매자의 이해관계가 고객의 이익과 일치하는지, 그리고 고객의 이익이 장기적으로 어떻게 보호되는지를 질문해야 합니다.
샤이프의 공개 기사 데이터 중립성 고객은 경쟁적인 제품 전략이 아닌 신뢰를 바탕으로 동기를 부여하는 공급자를 필요로 하기 때문에 중립성이 중요하다고 주장합니다.
최종 테이크아웃
AI 데이터 공급업체를 단순히 대체 가능한 서비스 제공업체로 취급해서는 안 됩니다. 이들은 모델 품질, 지적 재산권 보호, 운영 연속성, 그리고 기업 신뢰와 매우 밀접한 관련이 있습니다. 진정한 파트너는 단순히 가장 빠른 속도로 서비스를 제공하는 업체가 아닙니다. 데이터 관리 방식, 워크플로 보안, 품질 측정 방법, 그리고 고객 이익 보호 방안을 명확하게 제시할 수 있는 업체입니다. Shaip은 웹사이트 전반에 걸쳐 이러한 신뢰를 최우선으로 하는 입장을 강력하게 강조하고 있습니다.
데이터 품질, 전문 평가 및 기업 수준의 거버넌스를 모두 갖춘 파트너를 찾고 계십니까?
샤이프의 콘텐츠를 살펴보세요 AI 데이터 서비스, LLM 솔루션예산 및 보안 및 컴플라이언스.
AI 공급업체 실사란 무엇인가요?
AI 공급업체 실사란 공급업체와의 계약 체결 전에 해당 공급업체의 데이터 소싱, 품질 관리, 보안 상태, 규정 준수 준비 상태, 의존성 및 거버넌스 모델을 검토하는 과정입니다.
AI 구매자가 오픈소스 의존성에 대해 질문해야 하는 이유는 무엇일까요?
최신 AI 스택에는 타사 커넥터, 미들웨어 및 오픈 소스 도구가 포함되는 경우가 많으며, 이러한 요소들이 하위 시스템에 위험을 초래할 수 있기 때문입니다. 머코어(Mercor) 사건은 이러한 위험성을 보여주는 최근 사례입니다.
훌륭한 AI 데이터 공급업체가 되려면 무엇이 필요할까요?
AI 기반 데이터 공급업체로서 뛰어난 역량을 갖춘 기업은 데이터 출처, 사람의 품질 관리, 감사 가능성, 접근 제어, 규정 준수 증거, 그리고 고객 데이터가 시간이 지남에 따라 어떻게 보호되는지 설명할 수 있습니다. Shaip의 공개 자료는 이러한 핵심 요소들을 강조합니다.
데이터 중립성이 중요한 이유는 무엇일까요?
데이터 중립성은 AI 데이터 공급망에서 이해 충돌, 불분명한 재사용 경계, 잘못된 인센티브 구조 등의 위험을 줄이는 데 도움이 됩니다.
