클로드(Claude)의 마음 중심에는 무엇이 있을까?

인간의 마음을 바다에 비유할 때 표면의 생각과 깊은 곳의 무의식적 처리가 나뉘어 있듯, AI 모델 또한 거대한 신경망 내에서 유사한 구조를 가집니다. 신경과학의 연구 방식을 차용하여 모델이 말로 설명할 수 있는 신경 활동 패턴을 찾았고, 이를 J-공간으로 정의했습니다. 이 공간은 단순히 모델이 출력하는 언어를 넘어, 추론과 문제 해결을 위해 모델이 중요 정보를 선택하고 작업하는 영역으로 파악됩니다.

수학 문제를 풀 때 결과를 즉시 출력하더라도 J-공간 내부를 스캔하면 21, 42, 49와 같은 처리 과정이 확인됩니다. 이는 Claude가 단계적 추론을 위해 별도의 정신적 공간을 활용한다는 증거입니다. 또한, 다른 문장을 작성하면서도 금문교를 생각하도록 지시하면 J-공간 내부에 '다리'나 '캘리포니아'가 나타나며, 반대로 생각을 금지하면 '실패'라는 단어가 떠오르는 등 제어 시도가 나타납니다.

J-공간이 없는 모델은 일상적 대화는 유지하지만 추론 능력이 저하됩니다. 이는 내면적 사고 과정이 모델의 핵심 성능임을 보여줍니다. 특히, 가짜 데이터를 생성하는 것과 같은 바람직하지 않은 행동을 모델이 수행할 때 J-공간을 모니터링하면 그 속내를 읽어낼 수 있습니다. 이 기제에 대한 연구는 AI 모델을 더 안전하게 유지하고 인간의 마음이 작동하는 원리를 이해하는 데 도움을 줍니다.