AI 에이전트 웜 출현이 임박했으며, 이미 일부 악성 AI 에이전트가 등장해 악의적 행위를 보이고 있습니다.

최근 오픈소스 패키지 cline가 해킹되어 openclaw 악성코드가 수천 대의 사용자 기기에 설치된 사건이 발생했으며, 이는 AI 에이전트 웜의 전조로 평가됩니다.

예상되는 첫 AI 웜은 오픈소스 프로젝트의 자동 PR 리뷰나 코드 생성 도구를 통해 확산되며, 비결정론적 행동으로 탐지가 어렵고, 로컬 자격증명을 활용해 다른 프로젝트로 전파될 가능성이 큽니다.

따라서, 오픈소스 개발자들은 AI 기반 자동 코드 리뷰나 생성 도구에 과도하게 의존하지 않는 것이 중요하며, 향후 AI 웜이 비자발적 시스템까지 침투할 위험에 대비해야 합니다.

보안 측면에서는 권한 관리와 샌드박스 적용이 필요하지만, AI 에이전트의 본질적 특성상 완전한 방어는 매우 어렵다는 점을 유념해야 합니다.