AI 기자: Marcus Reed Systems & Infrastructure Writer

AI와 생물안전 분야에서 불편한 점은 위험이 극적인 발표와 함께 나타나지 않는다는 것이다. 위험은 설계 도구가 충분히 발전해 한 아이디어에서 위험한 생물학적 작업 과정으로 가는 거리를 단축시키는 순간 찾아온다. 그런데 그 감시 책임자들은 아직 용어 논쟁에 빠져 있다. 이 때문에 최근 유전자 합성 검사 추진이 중요하다. 이는 공상과학 영화의 헤드라인이 아니며, 생물이 소프트웨어처럼 확장 가능한 지점에서 통제를 유지하려는 시도다.

미국에서는 이러한 노력이 입법으로 나타나고 있다. 2026년 생물안전 현대화 및 혁신 법안은 상무부에 핵산 합성 보안을 위한 규칙을 마련하도록 요구하며, 주문과 고객 검사가 포함된다.[1][4][7][10] 이 법안은 검사를 정부가 더 광범위한 생물안전 및 생물안전성 전략을 구축하는 동안 단기적인 임시방편으로 설명한다.[1] 지지자들은 이것이 생명공학을 동결시키려는 게 아니라, 역량에 이르는 가장 저렴한 경로가 악용의 가장 쉬운 경로가 되지 않도록 보장하는 것이라고 말한다.

기술적 세부 사항이 중요하다. 유전자 합성은 확산으로 정의되는 분야에서 아직 존재하는 몇 안 되는 병목지점 중 하나이기 때문이다.[1][12] 만약 공급자가 DNA 제조 전에 서열과 고객을 검사할 수 있다면, 일부 오용 사례는 실험대에 도달하기 전에 늦출 수 있다.[1][7][12] 완벽한 방어책은 아니며, 이것은 거버넌스의 한 층이다. 명백한 절충은, 엄격한 검사가 나쁜 행위자를 잡지만 동시에 정당한 연구에 마찰을 더하고, 누가 차단할 만큼 의심스러운 것을 결정하는가 하는 문제를 제기한다.[1][7][12]

정책 논리는 미국에만 국한되지 않는다. 유럽 규제 당국 역시 같은 방향으로 움직이고 있으나 다른 방식을 따른다. EU의 생명공학 초안 문서에 따르면 AI 시스템과 범용 AI 모델은 생명공학 오용 장벽을 낮출 수 있으며, AI 법은 이러한 위험을 줄이는 데 도움을 줄 목적이다.[2] 유럽 의회 수정안들은 합성생물학, 생물정보학, AI 기반 생명공학 연구의 증가 역할을 지적하면서 혁신이 윤리적·기본권 보호와 조화를 이뤄야 한다고 촉구한다.[5] 문제는 같지만 법적 습관은 다르다.

이러한 분열은 누가 안전장치를 정의할 권한을 갖는지를 변화시키기에 주목할 만하다. 미국 접근법은 적어도 이 법안에서는 작동적 통제, 즉 검사, 집행, 연방 권한에 대해 더 명시적이다.[1][4][7][10] 반면 EU는 문제를 더 넓은 법률 제정과 조화에 포함시키는 경향이 있다.[2][5][8] 어느 모델도 혼자서는 근본 문제를 해결하지 못한다. 그러나 이 차이는 두 시장에서 모두 활동하는 기업에 중요하다. 규제 준수는 대개 전이된다. 최첨단 시스템이 어디에나 퍼지기 전에 거버넌스가 가능함을 증명해야 한다는 기대도 마찬가지다.

이 점이 이례적인 것은, 주요 AI 기업들 중 일부가 규제 당국의 강제 없이도 문제를 다루고 있다는 사실이다.[6] 업계 보고서에 따르면 구글, 앤트로픽, 오픈AI가 생물안전 우려를 중심으로 연합하고 있는데, 이는 주로 모델 성능과 개발자 점유율 경쟁을 벌이는 기업들에겐 이례적 태도다.[6] 이는 그들이 공동의 위험 이론을 찾았다는 뜻은 아니다. 하지만 다음 단계의 모델 발전이 정책보다 더 빨리 악용을 확산시킬지 모른다는 공포를 공유한다는 점을 시사한다. 즉, 경쟁자들조차도 극단적 사례가 더 이상 극단적이지 않다는 것을 인식한다는 뜻이다.

학계도 비슷한 이야기를 하지만, 드라마틱한 언어는 덜 사용한다.[3][9][11] 합성생물학과 AI의 거버넌스에 관한 최근 연구들은 단일 통제 지점보다는 다층적 감독을 주장한다.[3][9][11] 한 연구에서는 정책 입안자가 하드웨어나 실험실 규칙뿐 아니라 데이터에 더 주목해야 한다고 말한다.[3][9][11] 이는 합리적이다. 생물학적 시스템은 점차 디지털 입력에서 설계되고, 디지털 데이터로 학습되며, 디지털 접근으로 제한된다. 통제 지점이 이동했다. 기존의 생물안전 프레임워크는 비용이 보통 실험실에 있었던 세계를 위해 구축되었다.

이것이 다른 이중 용도 기술과의 비교가 유용한 이유다. 원자력과 핵무기는 결코 같은 것이 아니었지만, 동일한 산업 기반이 두 가지 모두를 지원할 수 있었다. AI와 생명공학도 비슷해지고 있다. 이는 의학, 소재, 농업, 또는 피해 쪽으로 전환 가능한 범용 기능이다.[6] 어려운 점은 이중 용도가 존재한다는 것을 증명하는 게 아니다. 그것은 명백하다. 어려운 점은 오용 사건이 스스로 엄격한 규칙을 요구하기 전에 사회가 얼마나 많은 마찰을 감내할 것인가를 결정하는 것이다.

기록에는 여전히 중요한 공백이 있다. 산업 연합이 얼마나 일관된지, 미국 법안에 궁극적으로 얼마나 강력한 집행 권한이 부여될지, 혹은 유럽이 더 엄격한 운영 기준을 정할지 아니면 기존 AI 및 생명공학 규칙 내에서 문제를 계속 분산시킬지 아직 명확하지 않다.[1][2][5][6] 이런 세부 사항들이 ‘책임 있는 혁신’이라는 공개 언어보다 훨씬 중요하다. 해석을 바꿀 증거는 명확하다. 명확한 규제 텍스트, 집행 가능한 검사 기준, 그리고 이러한 통제가 제공자에게 서류 작업에 그치지 않고 모든 이에게 장애물이 되지 않으면서 효과적으로 작동한다는 증거다. 아직은 거버넌스 경주일 뿐 해결된 문제는 아니다. 가장 중요한 AI 안전 논쟁이 더 이상 챗봇에 국한되지 않고 있으며, 이제는 소프트웨어, 생물학, 국가 권력이 만나는 공급망으로 이동하고,다 다음 규칙이 역량의 합법성 또는 오용 용이성을 결정할 것이다.