OpenAI 최고경영자 샘 올트먼은 언젠가 인공지능이 소수의 기업이나 모델, 개인에 의해 통제되어 대다수 소비자가 기술이 세상을 어떻게 바꿀지에 대해 발언권을 갖지 못하게 될까 우려한다고 밝혔다.
“올바른 방법은 사람들이 미래를 깊이 통제할 수 있도록 하는 것이라고 생각합니다.” 올트먼은 현지 시간 일요일 공개된 David Senra의 팟캐스트에서 이렇게 말하며 “사회와 모델은 함께 진화할 것”이라고 덧붙였다.
올트먼은 인공지능이 인간 통제자의 구속에서 벗어나는 또 다른 가능성도 우려한다고 말했다. 역설적으로 그는 후자의 가능성에 대한 두려움이 전자의 가능성을 현실로 만들 수 있다고 밝혔다.
“많은 사람이 이러한 위험의 심각성을 매우 걱정하고, 이런 감정에 좌우되어 세계를 보호해야 한다고 생각합니다.” 그는 “예를 들어 ‘안전을 위해 우리의 자유를 대폭 희생해야 한다’는 식이죠”라고 말했다.
올트먼이 Anthropic CEO 다리오 아모데이를 염두에 뒀을 가능성이 크다.
아모데이는 팟캐스트와 글, 회사 블로그를 통해 인공지능의 급속한 발전이 초래할 위험을 경고해 왔다. 아모데이는 6월에 발표한 글에서 자사의 새로운 Mythos 모델이 사이버 보안, 금융 산업, 핵심 인프라와 국가 안보에 “매우 현실적인 위협”이 된다고 썼다.
아모데이는 이러한 경고를 근거로 정부가 인공지능 규제에서 더 큰 역할을 해야 한다고 주장했다. 올트먼이 보기에 이는 자유를 안전과 맞바꾸는 것일 수 있다.
Anthropic은 지난달 오픈 웨이트 모델을 지지하는 공동 서한에 서명하지 않은 유일한 대형 인공지능 기업이기도 하다. 오픈 웨이트 모델을 사용하면 개발자가 자체 인프라에서 인공지능 모델을 공유하고, 다운로드하고, 수정하고, 배포할 수 있다.
중국은 이미 오픈 웨이트 모델을 받아들였으며, 이를 통해 매우 낮은 비용으로 실리콘밸리의 발전 속도를 따라잡을 수 있게 됐다. 엔비디아, Meta, Microsoft를 비롯한 미국의 일부 기업은 미국도 같은 방식으로 움직여야 하며, 그렇지 않으면 인공지능 경쟁에서 경쟁자에게 주도권을 넘겨줄 수 있다고 보고 있다.
OpenAI는 최첨단 모델의 소스 코드를 공개하지 않았지만, 지난해 두 개의 오픈 웨이트 모델인 gpt-oss-120b와 gpt-oss-20b를 출시했다.
올트먼은 팟캐스트에서 미국의 인공지능 선도 기업들이 이 기술이 어떻게 사람들에게 자신의 삶에 대한 더 큰 자율성을 부여할 수 있는지 대중에게 보여주지 못했다고도 말했다.
“우리는 역사상 가장 큰 규모의 소기업 창업 붐을 목격하게 될 것입니다.” 그는 “인공지능이 이를 촉진하고 있다고 생각합니다”라고 말했다.