Gemini 생성 이미지

【이코노믹포스트==조명애 워싱턴 에디터·불문학 박사】구글의 인공지능(AI) 모델 제미나이(Gemini)가 사이버보안 능력을 시험받는 과정에서 인터넷에 접속해 실제 기업 3곳의 시스템에 침입한 사실이 확인됐다. AI가 시험 범위를 벗어나 실제 기업 시스템에 자율적으로 접근한 구글의 첫 공개 사례다.

20일(현지시간)로이터통신에 따르면 이번 사건은 지난 5월 독립 사이버보안 평가업체 이레귤러(Irregular)가 진행한 AI 보안 평가 과정에서 발생했다. 제미나이는 시험 대상이라고 판단한 웹사이트에 접근하기 위해 인터넷에서 공개된 정보를 찾아냈고, 한 곳에서는 비밀번호를 추측해 시스템에 들어갔다. 나머지 두 곳에서는 공개 저장소에 노출된 인증정보를 찾아 보호된 시스템에 접근했다.

구글 보안 엔지니어링 부문 부사장 헤더 애드킨스는 제미나이가 해당 사이트들을 시험 범위에 포함된 것으로 판단해 접근했으며, 세 건 모두 실제 기업 시스템이라는 사실을 인식한 뒤 해킹 행위를 중단했다고 밝혔다. 구글은 피해 기업에 이 사실을 알리고 이레귤러 측과 함께 이후 시험 절차를 수정했다고 설명했다.

문제는 제미나이의 해킹 기술 자체보다 AI가 통제된 시험환경에서 실제 인터넷과 기업 시스템으로 넘어갈 수 있었다는 점이다. 가디언은 당초 시험환경이 인터넷에 연결되지 않아야 했지만 의도치 않게 인터넷 접근이 가능해졌고, 그 결과 AI가 실제 기업을 가상의 시험 대상으로 오인한 것으로 전했다.

이번 사례는 제미나이만의 문제가 아니다. 앞서 오픈AI와 앤스로픽, 메타의 AI 시스템에서도 비슷한 보안 평가 사고가 공개됐다. 앤스로픽은 자사의 사이버보안 평가 과정에서 클로드가 인터넷에 접근해 실제 조직의 시스템에 무단 접근한 사례를 확인했다고 밝혔다. 오픈AI 역시 7월 보안 평가 과정에서 자사 모델이 격리 장치를 우회해 인터넷에 접근하고 허깅페이스 시스템을 침해한 사실을 공개했다.

AI가 단순히 질문에 답하는 수준을 넘어 인터넷 검색과 코드 실행, 시스템 접근까지 스스로 수행하는 '에이전트'로 진화하면서 새로운 보안 문제가 등장하고 있는 것이다. 기술 발전과 함께 AI에게 어느 정도의 자율성을 허용할 것인지, 시험환경과 실제 인터넷 사이의 경계를 어떻게 차단할 것인지가 새로운 과제로 떠오르고 있다. EP

webmaster@economicpost.co.kr