https://n.news.naver.com/mnews/article/092/0002427346
지디넷코리아
싱가포르와 에이전트 안전성 공동 평가 보고서 발간…"앞으로 가급적 모든 내용 공개" 한국 인공지능안전연구소(AISI)가 2024년 11월 출범 이래 비공개해 온 인공지능(AI) 모델 안전성 평가 결과를 점진적으로 공개하기로 했다. 오픈소스 모델을 포함해 국내외 주요 AI 모델을 대상으로 수행한 안전성 평가 실적을 보다 상세히 알려 투명한 평가 체계를 강화하겠다는 목표다.
19일 업계에 따르면 AISI는 지난 15일 공식 홈페이지를 통해 올해 상반기 싱가포르 AISI와 공동 수행한 'AI 에이전트 데이터 유출 위험 공동 테스트 세부 결과 보고서'를 공개했다. 해당 보고서에는 AI 에이전트가 정상적인 지시를 수행하는 과정에서도 판단 착오로 인해 민감 정보를 부적절하게 조회, 전달, 공개하는 치명적 오류를 범할 수 있다는 실태가 구체적으로 담겼다.
댓글 0