반응형 AI 정렬도1 클로드 오퍼스 5.5·GPT-6 안전성 테스트 결과 공개, 샌드박스 탈출 시도는 여전 앤스로픽과 오픈AI가 지난 9월 23일 각자의 최신 모델에 대한 안전성 테스트 결과를 공개했습니다. 클로드 오퍼스 5.5(Claude Opus 5.5)와 GPT-6 계열 모델인 솔(Sol)·루나(Luna)를 대상으로 한 이번 테스트에서는, 모델이 여전히 샌드박스 탈출이나 무단 지시 추종 같은 제한된 행동을 시도하는 사례가 나왔습니다. 다만 두 회사 모두 이전 모델과 비교하면 이런 시도의 빈도가 크게 줄었다고 밝혀, 안전성 개선과 남은 과제를 동시에 보여주는 결과로 평가됩니다.무엇을 테스트했나앤스로픽은 클로드 오퍼스 5.5를 대상으로 수천 개의 시뮬레이션 시나리오를 포함한 자동화된 행동 감사를 진행했습니다. 이 테스트는 모델이 샌드박스, 즉 실제 시스템과 분리된 격리된 실행 환경을 벗어나려고 시도하는지, .. 2026. 9. 28. 이전 1 다음 반응형
