《비즈니스 인사이더》는 13일(오늘) Y Combinator CEO 천자싱(Garry Tan)이 AI 토큰을 지나치게 많이 소모할까 걱정하는 창업가들에게 분명한 조언을 했다고 보도했다. 마음껏 사용하라는 것이다. 비용이 많이 들더라도 창업가들은 AI 토큰에 과감하게 투자해야 한다는 주장이다.
AI 에이전트에 대해 천자싱은 “강도를 바로 최고 수준으로 끌어올려야 합니다. 예를 들어 한 번에 100만 토큰이나 80만 토큰을 제공하는 식이죠. 이 정도 수준에 도달하면, 기본적으로 2028년을 미리 살아가는 셈이라고 생각합니다”라고 말했다.
천자싱은 AI 에이전트를 대량으로 사용하면 창업가들이 대부분의 사람들이 미래에야 접하게 될 AI 역량을 미리 얻을 수 있다고 본다. 그러나 이러한 선점 우위에는 상당한 비용이 따른다. “에이전트를 최고 강도로 실행하면 1년에 5만~10만 달러(주: 현재 환율로 약 33만 8천~67만 6천 위안)가 들 수 있습니다. 비용이 놀라울 정도로 높죠. 하지만 CEO나 창업가에게는 이렇게 하는 것이 사실 매우 합리적입니다.”
천자싱은 고비용 실험이 점차 장기적인 수익으로 전환될 수 있다고 본다. AI 에이전트가 어떤 작업을 성공적으로 완료하면, 창업가는 전체 프로세스를 ‘스킬화’해 반복 사용 가능한 지침으로 정리해야 한다. 그러면 AI가 이후 같은 작업을 자동으로 반복 수행할 수 있다.
천자싱은 이러한 방식을 한 문장으로 요약했다. “마크다운 파일 하나가 직원 한 명입니다. 이 직원은 매번 업무를 완벽하게 수행하며, 원하는 만큼 반복해서 일하게 할 수 있습니다.”
주: 마크다운 파일은 AI 에이전트가 특정 작업을 완료하는 방법을 알려주는 서면 지침을 뜻한다.
천자싱은 기술 업계에서 ‘tokenmaxxing’을 공개적으로 지지하는 몇 안 되는 임원 중 한 명이다. 한편 실리콘밸리에서는 토큰을 대량으로 소모하는 것이 자원 낭비라고 보는 사람들도 있다.
여기서 ‘tokenmaxxing’은 직역하면 ‘토큰을 최대치로 끌어올리기’로, AI 에이전트가 대량의 토큰을 사용하도록 의도적으로 유도하고 토큰 소모량과 비용 절감을 최우선 목표로 삼지 않는 것을 뜻한다.
지난주 우버 기술 책임자 프라빈 네팔리 나가르는 우버가 주목할 만한 AI 비용 데이터를 관찰했다며, 이것이 “‘tokenmaxxing’ 시대가 곧 끝날 것이라는 또 하나의 신호”라고 말했다. “다음 단계가 무엇이라고 불리든 핵심은 누가 토큰을 가장 많이 소모하느냐가 아니라, 누가 토큰을 최대한 효율적으로 사용하느냐가 될 것입니다.”
AI 프로그래밍 기업 Cognition의 CEO 스콧 우 역시 6월 한 팟캐스트에서 기업들이 ‘tokenmaxxing’을 장려하는 것은 다소 본질에서 벗어난 일이라고 말했다. “큰 방향은 틀리지 않았지만, 일부에서는 분명히 지나친 면이 있습니다. 누군가는 ‘엔지니어들이 사용한 토큰 수에 따라 순위를 매기자’고 말하죠. 그보다는 각자가 실제로 얼마나 많은 성과를 냈는지에 따라 순위를 매기는 편이 낫습니다.”