AI가 AI 만들어내는 시대 온다…“통제 불능” 경고에 뜬 이 해법

https://n.news.naver.com/mnews/article/025/0003530249

중앙일보

핵·미사일을 통제하던 냉전 시대 군비통제 논의가 2026년 인공지능(AI) 업계에서 재현될 조짐이다. AI가 다음 세대 AI를 스스로 설계하는 이른바 ‘재귀적 자기개선(recursive self-improvement)’의 단계가 예상보다 빨리 올 수 있다는 우려에서다. 미국 AI 기업 앤트로픽은 “이럴 경우 개별 기업 차원의 속도 조절로는 통제 불능의 위험을 막을 수 없다”면서 상호 검증이 가능한 공동 제동장치가 필요하다고 주장하고 나섰다.

클로드, 개발 코드 80% 작성…성큼 다가온 재귀적 자기개선