최근 공개된 고성능 AI 모델은 이러한 우려를 단적으로 보여준다. 앤트로픽은 9일(현지시간) 새 AI 모델인 ‘클로드 페이블5’와 ‘클로드 미토스5’를 공개했다. 두 모델은 모두 앤스로픽이 지난 4월 일부 기관과 보안 연구자들에게 제한적으로 공개했던 ‘미토스 프리뷰’의 정식 버전이다. 당시 앤스로픽은 미토스가 사람이 찾지 못한 보안 취약점 수천 건을 단번에 찾아내는 등 기존 AI와 비교해 압도적인 성능으로 보안 문제가 우려된다며 200개 기관에만 접근을 허용했는데, 실제 사이버 보안을 쉽게 무력화할 수 있는 강력한 성능이 증명되며 전 세계에 이른바 ‘미토스 충격’을 안겼다.
이번에 출시된 클로드 페이블5는 미토스의 해킹 및 생물학 관련 기능을 제한한 모델이며, 클로드 미토스5는 글로벌 보안 협의체 ‘프로젝트 글래스윙’을 통해 검증된 기관에만 선별적으로 제공된다.
앤트로픽의 ‘프로젝트 글래스윙’ 1차 보고서에 따르면 약 50개 기관이 미토스 모델을 활용해 보안 점검을 실시한 결과 수 주 만에 심각한 보안 결함 1만건 이상을 발견했다.
보안업계는 이러한 AI 기술이 방어 수단인 동시에 공격자의 도구로도 활용될 수 있다고 우려한다. 복잡한 악성코드 작성과 취약점 분석, 피싱 문구 생성 등을 AI가 수행할 수 있게 되면서 전문 지식이 부족한 사람도 사이버 범죄에 접근할 수 있다는 것이다.
실제 AI 기반 서비스의 취약점을 노린 공격 사례도 발생했다. 뉴욕타임스가 입수한 메타 내부 문서에 따르면 해커들은 메타의 AI 고객센터 챗봇의 취약점을 노려 인스타그램 계정 3만 4000여개를 공격했다. 이 중 실제 침해를 겪은 것은 2만개 정도로 추산된다.
버락 오바마 전 미 대통령의 백악관 공식 인스타그램은 지난달 31일 AI로 만든 중동 남성 사진과 함께 “백악관이 시아파의 통제 하에 있다”라는 게시물이 올라왔다.
해커는 메타의 AI 고객 지원 챗봇을 통해 침입한 것으로 알려졌다. 외신에 따르면 해커들이 메타의 AI 고객 지원 챗봇에 계정과 연동된 이메일을 추가하라고 요구했고, 챗봇이 이를 허용하면서 침해 사고가 발생했다. 이 과정에서 오바마 전 대통령 관련 계정과 존 벤티베그나 미국 우주군 주임원사 계정 등이 침해된 것으로 알려졌다.
최근 해킹 피해를 입은 A씨의 인스타그램 계정에는 지난달 26일부터 가족 사진과 함께 남편의 불륜으로 가정이 파탄 났다는 내용의 게시물이 잇달아 올라왔다. 이어 새로운 출발을 위해 수익 창출 방법을 공개하겠다는 내용도 게시됐다.
A씨는 쿠키뉴스를 통해 “지인의 연락을 받고서야 계정이 해킹된 사실을 알게 됐다”며 “인스타그램 고객센터를 통해 신고할 예정이며 하루빨리 해결됐으면 좋겠다”고 말했다.
해당 계정은 지난달 26일부터 이달 11일까지 3주간 총 41개의 게시물이 등록됐다. 게시글은 대부분 14배까지 수익을 노릴 수 있다는 카카오톡 대화 내용과 이를 증명하는 듯한 사진이다. 관련 이미지들은 AI를 활용해 제작된 것으로 파악된다. 전문가들은 이 같은 방식이 이용자의 신뢰를 유도해 투자 사기 등으로 연결하는 전형적인 수법이라고 설명한다.
보안 전문가들은 AI 발전이 해커의 진입장벽을 낮추고 있다고 진단한다.
박춘식 전 아주대 사이버보안학과 교수는 “AI는 해커의 도구로 얼마든지 사용될 수 있고 취약점을 빠르게 파악하기 때문에 방어가 쉽지 않다”라며 “고도의 전문가가 아니어도 쉽게 프로그래밍을 할 수 있어 해커의 문턱이 낮아졌다는 점이 큰 변화”라고 말했다.
이어 “AI와 AI의 대결 양상이 될 수밖에 없다”며 “기업들이 (방어에) 최선을 다하고 있는 것으로 알고 있다. AI 자체를 막기보다 정부와 기업이 함께 대응 체계를 구축하고 보안 기반을 강화해야 한다”고 조언했다.
정부도 대응에 나서고 있다. 과학기술정보통신부는 최근 ‘AI 기반 사이버위협에 대응하기 위한 민간 정보보호 추진계획(안)’을 마련하고 AI를 활용한 신종 사이버 공격 대응 역량 강화에 나섰다. 한국인터넷진흥원(KISA)도 개인정보 침해신고센터를 통해 해킹 피해자의 권리 구제를 지원하고 있다. KISA 관계자는 “KISA는 개인정보보호법에 따라 개인정보 침해신고 센터를 통해 피해자가 직접 신고하면 회원탈퇴 등 정보 주체의 권리행사를 지원하고 있다”라고 설명했다.
정우진 기자 jwj3937@kukinews.com
