고리 안에 갇힌 사람

정의

HITL(Human-in-the-Loop)은 훈련, 평가 또는 의사 결정과 같은 작업을 위해 인간의 판단이 AI 워크플로에 통합된 시스템을 말합니다.

목적

인간의 전문성과 AI의 효율성을 결합하는 것이 목표입니다. 민감한 애플리케이션에서 품질, 윤리적 관리 감독, 그리고 안전성을 보장합니다.

중요성

• 고위험 분야(예: 의료, 방위)의 오류를 줄입니다.
• 인간의 피드백을 통해 교육을 개선합니다.
• 자동화 시스템에서 책임을 부여합니다.
• 완전 자동화에 비해 느리고 비용이 많이 듭니다.

운영 방식 (How It Works)

1. 인간의 감독이 필요한 영역을 정의합니다.
2. AI 출력이나 제안을 수집합니다.
3. 인간은 검증, 수정 또는 피드백을 제공합니다.
4. 피드백은 모델을 재교육하거나 개선하는 데 통합됩니다.
5. 지속적인 인적 검토를 통해 시스템 성능을 모니터링합니다.

예시(실제 세계)

• 콘텐츠 검토: AI가 신고한 게시물을 인간이 검토합니다.
• 의료 AI: 의사가 AI가 생성한 진단을 검증합니다.
• 인간 피드백을 통한 강화 학습(RLHF): ChatGPT와 같은 언어 모델을 훈련합니다.

참고문헌 / 추가 자료

• Amershi 외. "국민에게 힘을: 대화형 머신 러닝에서 인간의 역할." AI 매거진.
• NIST AI 위험 관리 프레임워크.
• IEEE의 인간 참여형 시스템 표준.
• 인간 참여 루프 이해