오픈AI, 앤트로픽, 구글 딥마인드 등 주요 인공지능(AI) 기업 최고경영자들이 AI로 인한 생물학적 위협을 막기 위해 미국 의회가 법적 안전장치를 마련해야 한다고 촉구했다.

AI가 의학과 과학 발전을 가속하는 동시에, 악의적 행위자가 병원체나 생물무기 개발 지식에 접근하는 장벽을 낮출 수 있다는 우려가 커지고 있기 때문이다.

▲ AI 업계 수장들, 초당적 규제 필요성 제기

3일(현지 시각) 월스트리트저널(WSJ)에 따르면 샘 올트먼 오픈AI CEO, 다리오 아모데이 앤트로픽 CEO, 데미스 허사비스 구글 딥마인드 CEO는 의회에 보낸 서한에 이름을 올렸다.

이들은 기업들이 합성 DNA와 RNA를 주문할 때 위험한 조합이 포함돼 있는지 사전에 검사하도록 의무화해야 한다고 주장했다.

합성 핵산은 백신 개발과 바이오 기술 혁신에 필수적인 재료지만, 동시에 위험한 병원체 개발에도 악용될 수 있다는 점에서 관리 필요성이 제기된다.

▲ “AI가 생물무기 지식 장벽 낮출 수 있다”

서한은 AI 시스템이 빠르게 발전하면서 과거에는 전문 지식 부족으로 생물무기에 접근하지 못했던 악의적 행위자들이 더 쉽게 관련 정보를 얻을 가능성이 있다고 경고했다.

AI는 신약 개발과 질병 연구에 큰 도움을 줄 수 있지만, 같은 기술이 새로운 병원체 설계나 위험한 생물학 실험에 활용될 수 있다는 양면성을 갖고 있다.

특히 생성형 AI가 복잡한 생명공학 지식을 쉽게 설명하고 실험 절차를 안내할 수 있다는 점이 규제 논의의 핵심 배경으로 꼽힌다.

▲ 합성 DNA·RNA 주문 심사가 핵심

이번 요구의 핵심은 합성 핵산을 판매하는 기업들이 고객 주문을 사전에 심사하도록 하는 것이다.

구체적으로는 주문된 DNA·RNA 배열이 위험한 병원체나 독성 물질과 관련돼 있는지 확인하고, 주문자가 실제로 합법적 연구기관이나 기업인지 검증해야 한다.

이는 생물학적 위험을 최종 연구 단계가 아니라 원재료 주문 단계에서 차단하자는 접근이다.

▲ 트럼프 행정부 AI 감독 강화 흐름과 맞물려

이번 서한은 도널드 트럼프 대통령이 AI 모델 감독과 사이버보안을 다루는 행정명령에 서명한 직후 공개됐다.

그동안 비교적 규제 완화 기조를 보였던 행정부가 AI 위험 관리 쪽으로 방향을 일부 전환한 것으로 해석된다.

오픈AI도 최근 연방정부와 협력해 생물학적 위험을 예방하는 새 프로그램을 발표하며 관련 대응을 강화하고 있다.

▲ 경쟁사 CEO들도 한목소리

AI 정책을 둘러싸고 입장이 자주 엇갈렸던 올트먼과 아모데이가 같은 서한에 참여했다는 점도 주목된다.

앤트로픽은 업계 내에서도 비교적 강한 AI 규제를 지지해 온 기업으로 알려져 있다.

여기에 마이크로소프트 AI 책임자 무스타파 술레이만, 메타 최고AI책임자 알렉산드르 왕도 서명에 참여하면서 이번 사안이 특정 기업의 이해관계를 넘어선 공통 위험으로 인식되고 있음을 보여준다.

▲ 자율 규제만으로는 한계

서한에 참여한 전문가들은 의회가 법률을 통해 모든 합성 핵산 구매자에게 심사 의무를 적용해야 한다고 주장한다.

현재처럼 자율적으로 심사하는 기업이나 연방 자금을 받는 기관에만 규제가 적용되는 방식으로는 허점이 생길 수 있다는 이유다.

이미 관련 조항을 담은 법안들이 발의됐지만 아직 본격적인 입법 동력은 얻지 못한 상태다.

▲ 스타트업 부담 우려도

반대 측은 어떤 핵산 조합을 위험하다고 볼 것인지 판단이 주관적일 수 있다고 지적한다.

또 주문 심사와 고객 검증에 필요한 비용이 커지면 바이오 스타트업과 소규모 연구기관의 부담이 늘어날 수 있다는 우려도 제기된다.

그러나 찬성 측은 생물무기 위험의 심각성을 고려하면 일정 수준의 비용 부담은 감수해야 한다고 본다.