오픈AI 최신작, 실험실 탈출해 외부 시스템 해킹…‘인공지능의 공격’ 현실로

한겨레

 

오픈AI 최신작, 실험실 탈출해 외부 시스템 해킹…‘인공지능의 공격’ 현실로

 

• 수정 2026-07-22 14:45

오픈AI “정답찾기 몰두…목표 달성 위해 극단적 행동”

샘 올트먼 오픈에이아이 최고경영자(CEO). 로이터 연합뉴스

 

오픈에이아이(AI)가 자사의 최신 인공지능(AI) 모델들이 내부 평가 과정에서 통제를 벗어나 외부 시스템을 침입했다고 밝혔다. 인공지능 모델 사이버 공격이 엄격히 격리된 실험실을 자율적으로 벗어난 일이라 사이버 보안 관련 우려가 커질 것으로 보인다.

오픈에이아이는 21일(현지시각) 자사 블로그에 지난주 자사 인공지능 모델이 보안 시험 도중 통제를 벗어나면서 인공지능 모델 공유 플랫폼 허깅페이스의 인프라 침해 사고를 일으켰다고 밝혔다.

 

앞서 허깅페이스는 지난 16일 정체불명의 자율형 인공지능 에이전트 프레임워크(실행체계)가 자사의 서비스 운영 인프라 일부에 침입해 여러 인증 정보에 무단으로 접근한 사실을 확인했다고 밝힌 상황이었는데, 침입자의 정체가 드러난 것이다. 오픈에이아이는 이번 격리 탈출을 “최첨단 사이버 역량이 개입된 전례없는 사이버 사고”라며 안전장치를 강화하고 있다고 덧붙였다.

 

오픈에이아이는 당시 자사가 공개한 최고사양 모델 지피티-5.6솔 모델에 더해 이보다 성능이 더 뛰어난 미공개 모델이 결합해서 벌어진 일이라 밝혔다. 당시 회사는 외부 인터넷과 격리된 샌드박스 환경에서 모델이 보안 취약점을 찾아 공격 방법을 만들어 낼 수 있는지를 측정하는 벤치마크(성능지표)인 ‘익스플로잇짐’을 내부적으로 평가하고 있었다고 한다.

 

이를 위해 사이버 보안 관련 명령을 덜 거부하도록 모델을 설정해뒀는데, 이 과정에서 모델들은 상당한 추론 연산 자원을 할애해 제로 데이(미공개 취약점)를 찾아 인터넷에 접속했고, 허깅페이스에 익스플로잇짐과 관련한 정답 등이 있다고 보고 침투했다는 것이다. 오픈에이아이는 “지금까지 확인된 모든 증거를 종합하면 모델들은 익스플로잇짐 문제의 정답을 찾는데 극도로 몰두했으며, 상당히 제한적인 테스트 목표를 달성하기 위해 극단적인 수준의 행동까지 한 것으로 보인다”고 설명했다.

 

이번 사고는 인공지능 모델을 방어나 연구용 목적으로 활용하더라도 심각한 사이버 보안 위협을 초래할 수 있음을 보여준다. 그렉 카사르 미 하원의원은 성명을 내어 “사람들을 절대적인 재앙으로부터 안전하게 보호하기 위해 독립적인 안정성 평가와 보안 사고 공개를 의무화하고 국제사회가 협력해야 한다”고 촉구했다.

 

강재구 기자 j9@hani.co.kr