https://n.news.naver.com/mnews/article/092/0002429704
지디넷코리아
J-공간서 숨은 계산·기만 신호 포착…"의식 입증 아닌 AI 안전성 점검 단서" 인공지능(AI) 모델이 겉으로 드러나는 답변과 별개로 내부에서 일부 개념을 유지하고 조작하는 작업 공간에 가까운 구조를 형성했다는 연구 결과가 나왔다. 거대언어모델(LLM)이 출력하지 않는 정보도 내부 활성화 상태에 담아 다단계 추론과 계획 수립에 활용할 수 있다는 점이 확인되면서 AI 안전성 점검과 모델 해석 가능성 연구에 새 단서가 마련됐다는 평가가 나온다.
8일 업계에 따르면 앤트로픽 연구진은 지난 6일 홈페이지를 통해 자사 AI 모델 '클로드' 내부에서 겉으로 드러나는 출력값과 별개로 작동하는 소규모 내부 작업 공간인 'J-공간(J-space)'을 확인했다고 밝혔다. 연구진은 모델 내부 활성화 상태가 향후 출력에 미치는 인과적 영향을 측정하는 '야코비안 렌즈(Jacobian Lens)' 기법을 활용해 이 영역을 찾아냈다.
댓글 0