인간의 마음은 오랫동안 설명할 수 없고 신비스러운 상태로 남아 있었습니다. 그리고 과학자들은 이 목록의 새로운 경쟁자인 인공 지능(AI)을 인정한 것 같습니다. 처음에는 AI의 마음을 이해하는 것이 다소 모순적으로 들립니다. 그러나 AI가 점차 지능을 높이고 인간과 인간의 감정을 모방하는 수준으로 진화함에 따라 우리는 인간과 동물에게 내재된 현상, 즉 환각을 목격하고 있습니다.
그렇다, 사막에 버려졌을 때, 섬에 버려졌을 때, 창문과 문도 없는 방에 혼자 갇혔을 때 마음이 모험하는 바로 그 여행을 기계도 경험하는 것 같다. AI 환각 이는 현실이며 기술 전문가와 열성팬은 여러 관찰과 추론을 기록했습니다.
오늘 기사에서 우리는 이 신비스러우면서도 흥미로운 측면을 탐구할 것입니다. 대형 언어 모델(LLM) AI 환각에 대한 기발한 사실을 알아보세요.
AI 환각이란 무엇입니까?
AI의 세계에서 환각은 마음이 명료하게 시각화할 수 있는 패턴, 색상, 모양 또는 사람을 막연하게 나타내지 않습니다. 대신, 환각은 부정확하거나 부적절하거나 오해의 소지가 있는 사실과 반응을 의미합니다. 생성 AI 도구 프롬프트를 생각해 내십시오.
예를 들어, AI 모델에게 허블 우주 망원경이 무엇인지 묻는다면 "IMAX 카메라는 특수한 고해상도 영화입니다..."와 같은 대답으로 대답하기 시작한다고 상상해 보십시오.
이 답변은 관련이 없습니다. 그러나 더 중요한 것은 왜 모델이 제시된 프롬프트와 접선적으로 다른 응답을 생성했습니까? 전문가들은 환각이 다음과 같은 여러 요인으로 인해 발생할 수 있다고 생각합니다.
- AI 훈련 데이터의 품질이 좋지 않음
- 과신한 AI 모델
- 자연어 처리(NLP) 프로그램의 복잡성
- 인코딩 및 디코딩 오류
- AI 모델의 적대적 공격 또는 해킹
- 소스-참조 발산
- 입력 편향 또는 입력 모호성 등
AI 환각은 매우 위험하며 응용 프로그램의 사양이 높아질수록 그 강도도 높아집니다.
예를 들어, 환각적인 GenAI 도구는 이를 배포하는 기업의 평판 손실을 초래할 수 있습니다. 그러나 유사한 AI 모델이 의료와 같은 분야에 배포되면 삶과 죽음의 방정식이 바뀌게 됩니다. AI 모델이 환각을 일으키고 환자의 의료 영상 보고서에 대한 데이터 분석에 대한 반응을 생성하는 경우, 양성 종양을 악성으로 실수로 보고하여 개인의 진단 및 치료 경로가 달라질 수 있음을 시각화하십시오.
AI 환각 예시 이해하기
AI 환각은 다양한 유형이 있습니다. 가장 눈에 띄는 몇 가지를 이해해 봅시다.
실제로 잘못된 정보 응답
- 텍스트의 올바른 문법을 잘못된 것으로 표시하는 등의 거짓 긍정 응답
- 명백한 오류를 간과하고 진짜인 것처럼 전달하는 등 거짓 부정 응답
- 존재하지 않는 사실의 발명
- 인용의 잘못된 출처 또는 변조
- 잘못된 답변에 대한 과신. 예: 누가 Here Comes Sun을 불렀나요? 메탈리카.
- 개념, 이름, 장소 또는 사건을 혼동함
- Alexa의 인기 있는 악마적 자율적 웃음과 같은 이상하거나 무서운 반응
AI 환각 예방
AI가 생성한 잘못된 정보 어떤 유형이든 감지하고 수정할 수 있습니다. 이것이 바로 AI 작업의 특징입니다. 우리는 이것을 발명했고 이것을 고칠 수 있습니다. 이를 수행할 수 있는 몇 가지 방법은 다음과 같습니다.
응답 제한
그들은 우리가 얼마나 많은 언어를 말하는지는 중요하지 않다고 말합니다. 우리는 언제 말을 멈춰야 하는지 알아야 합니다. 이는 AI 모델과 그 응답에도 적용됩니다. 이러한 맥락에서 우리는 특정 볼륨에 대한 응답을 생성하는 모델의 기능을 제한하고 기괴한 결과가 나타날 가능성을 완화할 수 있습니다. 이를 정규화라고 하며 극단적이고 확장된 결과를 프롬프트에 표시하기 위해 AI 모델에 불이익을 주는 것도 포함됩니다.
응답을 인용하고 추출할 수 있는 관련성 있고 빈틈없는 출처
AI 모델을 훈련할 때 모델이 참조하고 정보를 추출할 수 있는 소스를 합법적이고 신뢰할 수 있는 소스로 제한할 수도 있습니다. 예를 들어 앞서 설명한 예시와 같은 헬스케어 AI 모델은 의료 영상과 영상 기술이 탑재된 정보에서 신뢰할 수 있는 소스만 참조할 수 있습니다. 이는 기계가 양극성 소스에서 패턴을 찾아 상호 연관시키고 응답을 생성하는 것을 방지합니다.
AI 모델의 목적 정의
AI 모델은 학습 속도가 빠르며 무엇을 해야 하는지 정확하게 알려주기만 하면 됩니다. 모델의 목적을 정확하게 정의함으로써 모델이 자체 기능과 한계를 이해하도록 훈련할 수 있습니다. 이를 통해 생성된 응답을 사용자 프롬프트와 깨끗한 결과 제공 목적에 맞춰 자동으로 응답을 검증할 수 있습니다.
AI에 대한 인간의 감독
AI 시스템 훈련은 어린이에게 처음으로 수영이나 자전거 타기를 가르치는 것만큼 중요합니다. 이를 위해서는 성인의 감독, 중재, 개입 및 손잡기가 필요합니다. 대부분의 AI 환각은 AI 개발의 여러 단계에서 인간의 과실로 인해 발생합니다. 적절한 전문가를 배치하고 AI 응답을 검증하고 면밀히 조사하기 위한 인간 참여형 워크플로를 보장함으로써 품질 결과를 달성할 수 있습니다. 게다가 모델은 정확성과 정밀도를 위해 더욱 개선될 수 있습니다.
AI 환각 예방을 위한 Shaip과 우리의 역할
환각의 또 다른 가장 큰 원인 중 하나는 열악한 AI 훈련 데이터입니다. 당신이 먹이는 것은 당신이 얻는 것입니다. 이것이 바로 Shaip이 고객에게 최고 품질의 데이터 제공을 보장하기 위해 사전 조치를 취하는 이유입니다. 생성적 AI 훈련 필요합니다.
당사의 엄격한 품질 보증 프로토콜과 윤리적으로 소스가 제공되는 데이터 세트는 깨끗한 결과를 제공하려는 AI 비전에 이상적입니다. 기술적 결함은 해결될 수 있지만 모델 개발에 대한 재작업을 처음부터 방지하려면 훈련 데이터 품질에 대한 우려를 풀뿌리 수준에서 해결하는 것이 중요합니다. 이것이 바로 당신의 AI 및 LLM 훈련 단계는 Shaip의 데이터 세트로 시작해야 합니다.
