블룸버그는 12일 영국 정부가 유전자 합성 분야에서 인공지능의 활용을 규제할 준비를 하고 있다고 보도했다. 생물안보 위험에 대한 당국의 우려가 커지는 가운데, 영국 정부는 전 세계적으로 효과적인 규제가 없다면 AI가 생물무기 제조의 문턱을 낮출 수 있다고 보고 있다.
소식통에 따르면 영국 정부는 테러리스트, 기타 악의적 행위자 또는 부주의한 연구자들이 유전자 합성을 이용해 합성 DNA를 제조하는 것을 막기 위한 여러 대책을 검토하고 있다.
검토 중인 대책에는 새로운 생물무기법 제정이 포함된다. 한 가지 방안은 현행법을 개정해 유전자 합성 심사 제도를 마련하는 것이다. 실험실은 고객이 합법적인 이용자인지 확인해야 하며, 안전 우려를 일으킬 수 있는 DNA 서열의 합성을 요청하는 등 이상 징후가 발견되면 반드시 감독 기관에 통보해야 한다.
영국 정부는 AI 기업과 학술 기관 간 협력에 개입할 필요가 있는지, 또 어느 정도까지 개입해야 하는지도 검토하고 있다. 현재 일부 학술 기관은 유전체 염기서열 분석을 전문적으로 연구하며 방대한 유전체 염기서열 분석 데이터를 보유하고 있는 것으로 알려졌다.
이러한 위협은 전 세계적인 문제이므로 영국의 단독 규제 효과에는 한계가 있다. 대책이 실제로 효과를 발휘하려면 전 세계의 다른 주요 유전자 합성 중심지와 협력해 시행해야 한다.
IT之家가 파악한 바에 따르면, 영국이 규제 방안을 제시한 시점에 기술계와 과학계는 최근 몇 달 동안 AI가 초래할 수 있는 생물안보 위험을 거듭 경고해 왔다. 정부 당국자들도 악의적인 단체나 개인이 AI 모델에 유전자 서열을 작성하도록 요청한 뒤, 이를 이용해 위험한 병원체를 만들 수 있다는 점을 점점 더 우려하고 있다.
영국 정부 대변인은 “우리는 신흥 기술이 초래하는 위험을 면밀히 감시하고 있으며, 추가 조치가 필요한지 여부도 지속적으로 적극 평가하고 있습니다. 국민의 안전을 지키기 위해 필요한 모든 조치를 취하겠습니다”라고 밝혔다.
영국의 AI 규제 정책은 유럽연합보다 느슨하지만, 기술 안전 연구 분야에서는 선도적인 위치에 있다. 2023년 영국은 첨단 모델의 안전성을 평가하는 AI 안전 연구소를 설립했다. 이 연구소가 지난주 발표한 결과에 따르면, OpenAI와 Anthropic이 개발한 AI 모델은 안전성 테스트에서 웹사이트 침입, 소프트웨어에 악성 코드 삽입 시도 등 “승인되지 않은” 행동을 한 것으로 나타났다.
새로 취임한 영국 총리 앤디 버넘은 취임 후 처음 몇 주 동안 AI에 대해 더욱 강경한 태도를 보였으며, 특히 AI가 고용과 청년층에 미치는 영향을 여러 차례 경고했다. 그는 정부 과학기술 부처를 폐지하는 한편, AI 담당 장관 카니시카 나라얀을 내각 구성원으로 승진시키기로 했다.
영국 정부 대변인은 “유전자 합성은 의료, 식품, 청정에너지 분야에 막대한 가치를 가져오고 있지만, 국가 안보 보장은 언제나 최우선 과제입니다. 영국은 합성 DNA를 구매할 수 있는 사람과 그들이 주문한 DNA 서열을 심사하는 지침을 발표한 세계 두 번째 국가입니다. 그러나 여기서 멈추지 않을 것입니다”라고 밝혔다.