인공지능(AI) 스타트업 앤트로픽(Anthropic)이 강력한 성능을 가진 AI 모델 '미토스(Mythos)' 이용자들에게 유사한 취약점에 직면할 수 있는 타 기업과의 사이버 보안 위협 정보 공유를 최근 허용하기 시작했다.

이는 정보 접근을 제한할 경우 중소기업들이 피해를 입을 수 있다는 우려를 수용하여 기존 입장을 수정한 조치다.

새로운 정책은 자사의 최고 성능 모델에 대한 접근을 제한하고 있는 AI 기업들이 직면한 과제를 여실히 보여준다.

▲ 프로젝트 글래스윙의 출범과 비밀유지 조항

18일(현지 시각) 월스트리트저널(WSJ)에 따르면 앤트로픽은 '프로젝트 글래스윙(Project Glasswing)'이라는 프로그램을 통해 인간보다 훨씬 더 효율적으로 소프트웨어 취약점을 찾아낼 수 있는 미토스 모델을 주요 디지털 인프라를 관리하는 약 50개의 대기업 및 기관에 한정하여 제공해 왔다.

모델의 접근 권한을 확대하고 더 강력한 모델을 출시하기에 앞서, 해당 기업들과 정부가 사이버 위협에 먼저 대응할 수 있도록 하기 위함이었다.

앤트로픽 대변인에 따르면, 미토스 이용자들은 당초 사이버 위험 정보가 외부로 유출되지 않도록 비밀유지 계약을 체결했다.

그러나 앤트로픽은 지난주부터 기업들이 책임감 있는 방식으로 행동하는 한, 사이버 위협 및 미토스를 통해 발견한 결과를 다른 엔티티와 공유할 수 있다고 통보하기 시작했다.

앤트로픽 대변인은 "비밀유지 보호는 초기 파트너들이 요청한 사항이었으며 계약에도 반영되었으나, 프로그램이 성숙해짐에 따라 방어 효과를 극대화하기 위해 프로그램 외부를 포함하여 주요 정보가 널리 공유될 수 있도록 규정을 개정했다"고 밝혔다.

▲ 미 의회의 압박과 정책 전환 배경

월스트리트저널(WSJ)이 확인한 서한에 따르면 앤트로픽이 직면했던 반발의 수위를 보여주듯, 미 하원의 유력 민주당 의원은 다리오 아모데이(Dario Amodei) 앤트로픽 최고경영자(CEO)에게 보낸 월요일 자 서한에서 미토스 이용자들이 유사한 문제에 직면할 수 있는 동종 업계 경쟁사들에게 위험을 알릴 수 있도록 허용해야 한다고 촉구했다.

하원 민주당 AI 위원회 공동의장이자 통상 많은 업계 경영진의 지지를 받는 정책을 옹호해 온 조쉬 고트하이머(Josh Gottheimer, 민주·뉴저지) 의원은 서한에서 "그 어떤 기관도 긴급한 사이버 위험에 대해 타인에게 경고하거나, 공동 대응을 조율하거나, 신뢰할 수 있는 관련 이해관계자에게 알리는 행위를 계약상 제한받아서는 안 된다"고 강조했다.

실제로 미토스 이용자들은 이미 일부 정보를 공개적으로 공유하기 시작했다. 사이버 보안 기업 팔로알토 네트웍스(Palo Alto Networks)와 인터넷 브라우저 파이어폭스를 개발한 모질라(Mozilla)는 최근 미토스를 통해 평소보다 훨씬 더 많은 소프트웨어 취약점을 발견할 수 있었다고 발표했다.

▲ 정보 공유 대 보안 유출 사이의 딜레마

이용자들의 위협 정보 공유를 허용하면서도 접근을 통제하는 방식은 경쟁사보다 강력한 도구를 신속히 배치하기 위해 속도전을 벌이고 있는 AI 기업들의 주요 과제로 부상했다.

고트하이머 의원을 비롯한 광범위한 정보 공유 옹호론자들은 도구를 사전 공개하는 목적이 대기업들만 이익을 보게 하려는 것이 아니라, 유틸리티 및 병원을 포함한 핵심 산업군이 사이버 위협에 광범위하게 대비하도록 만들기 위함이라고 주장한다.

반면, 회의론자들은 정보를 너무 널리 공유할 경우 해당 세부 정보가 잘못된 손에 넘어가 보안 침해와 사이버 공격으로 이어질 수 있다고 경고한다.

앤트로픽은 지난달 미토스에 대한 무단 접근 사건 조사에 착수한 바 있다. 앤트로픽 측은 자사가 다른 AI 모델 개발사들보다 안전에 우선순위를 두고 있으며, 더 엄격한 규제를 지지해 왔다는 입장이다. 이 과정에서 AI의 적절한 안전장치를 두고 트럼프 행정부와 갈등을 빚기도 했다.

앤트로픽의 미토스와 오픈AI(OpenAI)의 유사한 도구 출시는 백악관과 민간 부문 모두에서 광범위한 온라인 마비 사태가 발생할 수 있다는 공포를 키우고 있다.

트럼프 행정부는 모델 출시 전 감독을 강화할 수 있는 행정명령을 검토 중이며, 앤트로픽의 미토스 접근권 확대 계획에 반대해 왔다.

미 의회 역시 최근 발표된 백악관 프레임워크를 바탕으로 몇 주 내에 연방 AI 법안에 대한 토론을 진행할 예정이다.

한편 고트하이머 의원은 오픈AI를 포함한 앤트로픽의 경쟁사들에도 유사한 접근 방식을 채택하여 자사의 가장 강력한 사이버 모델 이용자들이 위협 정보를 공유할 수 있도록 장려했다.

오픈AI 역시 현재 가장 강력한 모델의 버전을 소수의 고객군에게 사전 공개하고 있으며, 사용 목적에 따라 다른 버전에 접근할 수 있도록 차등을 두고 있다.