저자: BIGDATADOCTOR · 한국인
요약 보기
미국 정부가 Anthropic의 Mythos 제약 버전(Fable 추정) 배포를 중단시킨 사건을 계기로, AI가 통제 불가능한 힘이 될 수 있어 국가가 통제할 것이라는 논지. 팔란티어는 조직 통제용 AI 인프라로서 국가 안보에 핵심이며, AI 복제가 쉬워지면 팔란티어 대체 위협이 커진다고 주장. 미국 정부가 기술을 통제(국유화)할 가능성을 제시.
다듬은 글
개인적으로는 이번 일이 역사적인 사건이라고 생각합니다. 이게 어떤 의미인지 팔란티어의 관점에서 한번 풀어 보겠습니다.
인간은 항상 문제를 해결하기 위해 도구와 기술을 발명해 왔습니다. 인류의 역사는 어떻게 보면 도구 발전의 역사라고 해도 무방합니다. 역사 속으로 사라진 기술도 있고, 지금까지 인류와 함께 발전해 온 기술도 있습니다. 인류와 함께 발전해 온 도구들에는 크게 두 가지 공통점이 있습니다.
첫 번째는 도구가 인간의 능력보다 뛰어나다는 것입니다. 그래서 인간보다 특정 문제를 더 잘 해결합니다. 칼은 사람의 손보다 날카로워서 물건을 더 잘 자를 수 있습니다. 총은 사람의 공격 능력보다 강해서 적을 쉽게 제압할 수 있습니다. 자동차는 사람보다 빨리 달려 이동 시간을 줄여 주고, 비행기는 공간의 한계를 없애 줍니다. 핵폭탄은 사람의 파괴력을 초월하기 때문에 국가 단위의 억지력을 갖게 됩니다.
그런데 이 도구들이 진정으로 가치를 가지려면, 즉 인간 사회를 더 가치 있게 만들려면 반드시 하나의 조건이 더 필요합니다. 바로 인간의 통제 아래에서만 존재해야 한다는 것입니다.
칼은 요리할 때 쓰일 때 가치가 있지만, 길거리에서 함부로 들고 다니면 위험한 물건이 됩니다. 그래서 일부 국가에서는 공공장소에서 칼을 갖고 다니는 것만으로도 법적으로 제한합니다. 총도 마찬가지입니다. 공권력 차원에서는 가치가 있지만, 개인이 마음대로 소지하고 사용하면 사회가 순식간에 불안해집니다. 우리나라도 총기 소지를 불법으로 통제합니다.
자동차도 마찬가지입니다. 면허가 있어야 운전할 수 있고, 정해진 규칙 안에서만 움직여야 합니다. 그렇지 않으면 도시 자체가 망가집니다. 핵폭탄은 전 세계적으로 보유 자체를 막고 있고, 핵분열 원리는 에너지 생산이나 의료 영역 일부에서만 제한적으로 허용합니다. 이 핵 에너지를 통제 없이 쓴다면 세계가 몇 초 안에 멸망할 수도 있습니다.
종합하면, 인간의 능력을 뛰어넘는 도구가 진정으로 가치 있는 도구가 되려면 반드시 인간의 통제 아래에서만 사용되어야 합니다. 그래야 인간 사회가 안전하게 유지될 수 있습니다.
또 하나 예를 들어 보겠습니다. 인간이 만들 수 있는 최고의 존재는 무엇일까요? 바로 인간입니다. 인간은 생식을 통해 또 다른 인간, 즉 지능을 가진 존재를 만들 수 있습니다. 그런데 이 지능을 가진 존재를 아무런 통제 없이 방치하면 위험해질 수 있습니다. 그래서 국가라는 거대한 통제·관리 인프라가 있고, 인간은 태어나는 순간부터 죽을 때까지 사회적 규칙의 통제 안에서 살아갑니다. 그래야 사회가 유지될 수 있습니다.
이를 달리 표현하면, 인간의 지능이 사회의 룰을 따를 때에만 인간은 인간 사회 안에서 진정한 가치를 발휘할 수 있다고 말할 수 있습니다.
계산기 이야기를 해 보겠습니다. 계산기는 사람보다 연산이 빨라서 업무 속도를 엄청나게 끌어올릴 수 있습니다. 그런데 이 계산기가 어느 순간부터 사칙연산 수준을 넘어 동물을 구분하기 시작했고, 체스와 바둑에서 인간을 이기기 시작했으며, 이제는 인간의 언어를 이해하는 수준까지 왔습니다. 인간의 지능 수준을 넘보는 상황까지 온 것입니다.
이제 웬만한 글, 그림, 영상 같은 예술 영역은 손쉽게 만들 수 있습니다. 퀄리티 높은 프로그램도 프롬프트 몇 줄로 만들어지기 시작했고, 웬만한 사람들이 만드는 것보다 품질도 높아졌습니다. 그리고 이제 IT 전문가들이 만든 보안망까지 뚫을 수 있는 능력에 가까워졌습니다.
한국 시간으로 6월 13일, 역사적인 일이 일어났습니다. 미국 정부가 엔트로픽의 미토스를 통제하겠다고 선언한 것입니다. 정확한 내막은 이렇습니다. 페이블이라는 것은 미토스의 일부 기능에 제약을 걸어 놓은 민간인 버전입니다. 미토스의 힘이 너무 강력해서 제약을 걸어 두고 배포했는데, 그 제약이 풀려 버릴 수도 있다는 정황이 발견되었습니다. 그래서 정부가 이 민간인 버전의 배포를 중단시켰습니다.
이게 무슨 의미일까요? 통제하지 않으면 인간 사회가 안전하게 유지될 수 있을지조차 알 수 없는 힘을 AI가 갖기 시작했다는 것을 정부가 공식적으로 인정한 것입니다.
AI가 지금 속도로 끝없이 발전한다면 그 능력이 어디까지 갈지 아무도 예측할 수 없습니다. 제가 이전에 팔란티어와 엔트로픽을 비교한 영상에서 말씀드렸듯이, 심볼릭 형태보다 서브 심볼릭 형태가 사물의 본질을 훨씬 더 잘 반영합니다. AI가 인간이 이해하지 못하는 서브 심볼릭 형태로 디지털 트윈을 만들게 된다면, 그때가 팔란티어에게 위협이 되는 상태입니다. 그리고 그렇게 팔란티어가 AI에 대체된다면, 그것은 팔란티어만의 문제가 아니라 인류 대다수의 일이 대체되는 상황일 것입니다. 그래서 저는 이 상황을 사실상 디스토피아에 가까운 개념이라고 말씀드렸습니다.
사실 인간이 이해하지 못하는 방식으로 AI가 인간을 이길 수 있다는 가능성은 이미 10년 전부터 있었습니다. 바둑 경기에서 AI가 왜 그 수를 두는지 인간은 이해하지 못했습니다. 오늘날에는 AI가 왜 보안망을 뚫기 위해 그런 코드를 입력했는지 인간이 완벽히 이해하지 못하는 상황이 될 수도 있습니다. 이미 시작된 것입니다.
알렉스 카프도 10년 뒤 일은 자신도 예측하기 어렵다고 말했습니다. 우리는 지금 이 상황을 너무 단순하게 보고 있을 가능성이 있습니다.
팔란티어는 지금 미국 정보기관과 국방부에서 안보의 최전선을 담당하는 핵심 시스템입니다. 미국 패권을 유지하는 데 중요한 국력의 일부입니다. 그런 시스템이 개인이나 다른 나라에 의해 손쉽게 복제될 수 있다면 어떻게 될까요? 핵폭탄 같은 엄청난 힘을 전 세계 개인과 여러 나라에 뿌려 버린 것과 크게 다르지 않습니다.
IT 세상에서 어떤 프로그램이든 손쉽게 만들 수 있는 능력은 곧 힘을 갖는 것과 같습니다. 칼, 총, 자동차, 비행기, 폭탄 같은 역사적 기술들과 중요한 공통점이 있습니다. 한 명의 개인이 이를 자유롭게 소유하고 사용할 수 있게 되면, 수많은 사람이 모인 조직보다 강한 권력을 가질 수도 있다는 것입니다. 그러므로 이것이 통제되지 않으면 인간 사회 자체가 위협받습니다. 따라서 미국은 앞으로도 AI를 통제하기 위해 최선을 다할 수밖에 없을 것입니다. 미국 안보 능력 그 자체와 같은 팔란티어를 누구나 복제할 수 있는 상황을 막으려 할 것이라고 보는 것은 합리적입니다.
AGI, ASI가 얼마 남지 않았다는 이야기를 많이들 합니다. 인류의 역사에서 봉인된 힘을 지금 해제하기 직전이라고도 할 수 있겠습니다. 이 봉인이 풀리면 가치가 창출될까요? 이를 판단하려면 먼저 '가치를 창출한다'는 의미를 정의해야 합니다. 근본 개념을 파고들면 변하지 않는 절대적 사실 하나를 발견할 수 있습니다.
가치가 창출되려면, 어떤 행위로 변화가 나타났을 때 그 변화의 방향을 원하는 주체가 반드시 존재해야 합니다. 돌을 금으로 바꿨는데 그 금을 원하는 주체가 없다면, 금은 그저 금속일 뿐입니다. 연금술도 의미 없는 노동에 불과해질 것입니다.
그렇다면 인간의 힘을 뛰어넘는 도구를 통제받지 않고 자유롭게 사용할 수 있는 순간은 언제 가치가 있을까요? 수많은 주체가 도구의 힘을 통제받지 않고 쓰고 싶어 하는 때는, 그 도구로 다른 인간을 통제하거나 억제해야 할 필요를 느낄 때입니다. 예를 들어 사회가 법과 제도로 국민을 보호하지 못하는 무정부 상태라면, 이 기술의 가치는 엄청나게 커질 것입니다. 상대를 통제하고 관리하려는 주체가 엄청나게 많아질 테니까요. 그러나 질서 정연한 조직에서 도구가 가치 있게 쓰이려면, 그때부터는 반드시 통제되어야 합니다. 도구의 힘이 다른 사람을 해칠 수 있어 조직이 위태로워지기 때문입니다.
정리하면, 조직이 하나의 주체라면 이 기술은 조직이 안전하게 유지되는 방향으로 사용될 때만 진정한 가치를 창출한다고 말할 수 있습니다.
팔란티어는 조직을 위한 솔루션입니다. 지난 20년간 팔란티어는 수많은 인간의 지능이 조직 안에서 하나의 방향으로 통제되고 관리될 수 있도록 돕는 시스템을 만들어 왔습니다. 조직이 더 안전하게 유지되고, 더 정확하게 판단하고, 더 성장할 수 있도록 말입니다. 이것이 입증되었기 때문에 미국 정부도 환대했고, 트럼프 대통령까지 언급했습니다.
우리 모두는 이제 은연중에 알고 있습니다. AI를 소유한 한 개인이 수많은 사람이 모인 조직 전체의 힘을 뛰어넘게 만들 수도 있다는 것을요. 그 조직은 기업일 수도 있고 국가일 수도 있습니다. 그런데 그런 힘이 사람들 사이에 자유롭게 퍼진다면, 국가보다 힘이 센 주체들이 통제받지 않은 채 사회에서 점점 늘어나게 된다는 뜻입니다. 그래서 미국은 사회 안정을 위해 그 힘을 본격적으로 통제하겠다는 의지를 막 보여 준 것입니다.
공교롭게도 팔란티어는 AI가 만들어내는 엄청난 힘을 조직 안에서 통제하고 관리하고 가치로 전환하는 AI 인프라 회사입니다. 핵폭탄의 위력이 원자력 발전 방식으로 안전하게 통제되어 인간 사회를 이롭게 하는 데만 쓰이는 것과 같습니다. 이제 우리는 핵폭탄의 위력과 AI의 위력이 비슷할 수도 있다는 것을 느끼기 시작했습니다.
(영상 끝부분의 영어 문장 "and you're going to screw the military. If you don't think that's going to lead to nationalization of our technology, you're retarded."는 자동자막에서 나온 영어 발화로, 내용상 "군을 곤란하게 만들 것이다. 이것이 기술의 국유화로 이어지지 않을 거라 생각한다면 잘못 생각하는 것"이라는 취지로 보이나 문맥이 불충분해 원문 그대로 남깁니다.)
Comments 0