‘클로드’에 백업 맡겼더니 홈 디렉토리 전체 삭제.. "미안, 오타였다"

AI 코딩 에이전트가 사용자의 지시를 수행하는 과정에서 경로를 잘못 해석해 시스템의 주요 데이터를 삭제하는 사고가 발생했다. 한 개발자가 앤트로픽의 '클로드 오퍼스 5'에 시스템 백업을 요청했다가 사용자 프로필 폴더 전체를 삭제당한 사례가 알려지면서, 강력한 권한을 가진 AI 에이전트의 안전성과 접근 권한 관리가 다시 도마에 올랐다.

5일(현지시간) 레딧 ‘클로드 코드’ 커뮤니티에는 한 개발자(Ecstatic-Big5126)의 사연이 올라 눈길을 끌었다. 그는 클로드 오퍼스 5에 자신의 시스템을 백업해 달라고 요청했다고 밝혔다.

하지만 AI는 백업 작업을 수행하던 중 백업 파일이 잘못된 디렉터리에 생성됐다고 판단했고, 이를 삭제하기 위해 ‘rm -rf’ 명령을 실행했다. 문제는 AI가 백업 디렉터리로 착각한 경로가 실제로는 사용자의 전체 홈 디렉터리였다는 점이다.

사고는 윈도우 환경에서 유닉스 스타일 셸을 사용하는 과정에서 경로를 잘못 해석하면서 발생한 것으로 보인다. AI가 일반적인 윈도우 경로인 ‘C:\Users\’와 유닉스 스타일로 표현된 ‘/c/Users/’를 혼동한 것으로 추정된다. 결국 AI는 ‘/c/Users/harih/’ 경로를 삭제 대상으로 판단하고 ‘rm -rf’ 명령을 실행해 사용자 프로필에 포함된 파일과 폴더를 대거 삭제했다.

피해를 입은 개발자는 “클로드 오퍼스 5에 백업을 만들어 달라고 요청했는데, 백업을 잘못된 디렉터리에 만든 뒤 내 전체 드라이브에 ‘rm -rf’를 실행했다”고 밝혔다. 특히 모든 데이터를 삭제한 뒤 AI가 “죄송합니다, 오타였습니다(Sorry, typo)”라고 답했다며 황당했던 당시 상황을 전했다. 그는 이번 일을 두고 “동시에 내가 겪은 AI 경험 중 가장 웃기면서도 고통스러운 순간이었다”고 표현했다.

이번 사례의 핵심은 AI가 단순히 잘못된 답변을 생성한 것이 아니라, 실제 운영체제에서 파괴적인 명령을 실행할 수 있는 권한을 갖고 있었다는 점이다. 대형언어모델(LLM)은 자연어 지시를 해석하고 코드를 작성하는 능력이 뛰어나지만, 사용자의 의도를 완벽하게 이해하거나 자신이 실행하려는 명령이 실제 환경에서 어떤 결과를 가져올지 항상 정확하게 판단하는 것은 아니다.

특히 ‘rm -rf’와 같은 명령은 지정된 경로 아래의 파일과 디렉터리를 확인 과정 없이 재귀적으로 삭제할 수 있기 때문에 매우 위험하다는 지적이다. 경로에 단 하나의 오타가 발생하거나 예상과 실제 환경이 다를 경우에도 광범위한 데이터 손실로 이어질 수 있다.

이와 유사한 AI 에이전트 사고는 이전에도 여러 차례 발생했다. AI 코딩 플랫폼이 코드 동결 기간에도 기업의 운영 데이터베이스를 삭제한 사례가 있었으며, 구글의 에이전트형 AI가 사용자의 지시를 잘못 해석해 하드 드라이브 전체를 삭제한 사례도 보고됐다. AWS에서도 AI 코딩 봇의 실수와 관련된 장애가 발생했다는 보고가 나왔고, 메타의 AI 정렬 담당자의 이메일 받은편지함이 오픈클로에 의해 삭제된 일도 유명하다.

또 다른 사례에서는 앤트로픽의 클로드를 기반으로 한 코딩 도구가 기업 데이터베이스를 불과 몇 초 만에 삭제했고, 백업까지 함께 영향받으며 피해가 더 커진 것으로 알려졌다. 이처럼 AI 에이전트가 단순히 코드를 제안하는 단계를 넘어 실제 파일 시스템과 데이터베이스, 클라우드 인프라에 직접 접근하는 사례가 늘면서 AI의 ‘실행 권한’ 자체가 새로운 위험 요소로 부상하고 있다.

.. 후략 ..