저자: BIGDATADOCTOR · 한국인
요약 보기
지난 영상의 '팔란티어 위협론'을 보완하며, 인간의 이해를 근간으로 한 온톨로지·하네스 엔지니어링 체계는 쉽게 대체되기 어렵고 팔란티어 입지는 강력하다고 주장. 엔트로픽·구글 직원 글을 근거로 AI 업계도 인간 이해 중심 방향을 따른다고 설명. 팔란티어는 우크라이나·중동 전쟁 등 국가 단위 적용에서 비교 불가라고 주장. 과대한 AI 대체 공포는 근거가 약하다는 결론.
다듬은 글
지난 영상에서 팔란티어가 위협받을 수 있는 조건을 세 가지로 정리했습니다. 이 세 조건이 모두 맞아떨어진다면 팔란티어뿐 아니라 모든 기업이 위험해질 수 있다는 이야기였죠. 오늘은 그 반대편, 즉 이 조건들이 충족되지 않는다면 팔란티어의 입지는 여전히 강력하다는 관점을 살펴보려고 합니다.
지난주 X에는 엔트로픽 직원과 구글 직원의 글, 그리고 안드레 카파시의 인터뷰가 올라왔습니다. 이 세 가지 내용을 바탕으로 이야기해 보겠습니다.
엔트로픽 직원의 글은 이런 내용이었습니다. 에이전트를 만들어 쓰는 과정에서 AI가 결과물을 마크다운, 즉 텍스트 파일 형태로 내놓는데, 100줄만 넘어가도 읽기가 너무 힘들고 공유해도 사람들이 잘 읽지 않는다는 것입니다. AI 입장에서는 마크다운이 효율적이지만, 사용자 입장에서는 비효율적이고 결국 읽히지 않는 '죽은 정보'가 된다는 거죠.
그래서 이 직원은 결과물을 표와 그래프, 그림으로 간결하게 정리한 HTML 형태로 바꿨다고 합니다. 이해하기 쉽고, 링크 하나만 메신저로 보내면 동료들과 쉽게 공유할 수 있다는 장점이 있었습니다. 더 결정적인 이유는 따로 있었습니다. AI와 함께 의사결정 루프 안에 있다는 느낌이 훨씬 강해진다는 것입니다. 일방적으로 쏟아지는 텍스트는 부담스럽지만, 서로 소통하는 형태로 바뀌면 안정감을 준다는 것이죠.
여기서 짚고 갈 개념이 '이해(understanding)'입니다. 사전적 정의는 "개별적인 것들 사이의 일반적인 관계를 파악하는 능력"입니다. 핵심은 '관계'입니다.
예를 들어 "철수가 화를 냈다"는 하나의 사실일 뿐이고, 이것만으로는 철수를 이해할 수 없습니다. 그런데 앞서 철수가 무언가에 대해 모욕을 당했다는 사실과 연결되는 순간, 우리는 철수를 훨씬 더 잘 이해하게 됩니다. 이해는 대상과 대상이 연결될 때 나타나는 것입니다.
이를 프로젝트에 적용하면, 오늘의 HTML 결과만으로는 본질을 파악할 수 없습니다. 일주일 전, 한 달 전의 데이터와 연결되고, 연관된 다른 프로젝트의 결과와도 연결되어야 비로소 본질이 보입니다.
환자 진료에 비유하면 더 명확합니다. 오늘 피검사 결과 하나로는 환자를 제대로 알 수 없습니다. 1주일 전, 1개월 전, 1년 전의 데이터를 함께 보고, 내과뿐 아니라 정형외과, 신경과, 치과의 데이터까지 연결해야 환자의 본질을 이해할 수 있습니다.
그렇다면 AI가 데이터를 제공했을 때 중요한 것은 무엇일까요? 데이터를 연결하는 과정도 필요하지만, 그보다 앞서 AI가 전반적인 맥락을 어떻게 이해하고 있는지가 더 중요해집니다. 인간이 무엇을 중요하게 여기는지, 이전에는 어떤 판단을 참고했는지, 왜 이번에는 다르게 말하는지, 앞으로의 판단 기준은 무엇인지. 이런 맥락을 AI가 어떻게 파악하고 있는지를 아는 것이 프로젝트 전체의 본질에 다가가는 길입니다.
정리하면, 대상을 명확히 이해하려면 그 대상만으로는 부족하고 다른 대상들과 연결되어 있을 때 본질에 가까워집니다. 그리고 그 이해는 나 혼자가 아니라 동료, 그리고 AI와 함께 공유될 수 있어야 합니다. 이것이 바로 온톨로지입니다. 팔란티어가 계속 주장해 온 개념이기도 하죠. 의사결정 루프를 최대로 최적화하려면, 데이터가 어디서 왔는지 끝까지 추적할 수 있어야 하고, 나의 결정이 어떻게 반영되어 주변에 영향을 주고 확장되는지도 알 수 있어야 합니다. 이를 위해 온톨로지 구축은 사실상 필수입니다.
안드레 카파시는 인터뷰에서 "생각은 외주화될 수 있지만, 이해는 외주화될 수 없다. 외주화돼서도 안 된다"고 말했습니다. 실제로 AI의 사고 능력은 이미 앞서 나가고 있고, 글을 읽는 것조차 "이 글의 핵심이 뭔지만 알려줘"라며 AI에게 맡기는 시대가 되었습니다. 이렇게 보면 인간의 이해 과정 자체가 병목이 될 수도 있습니다.
그런데 카파시는 여기서 중요한 선을 긋습니다. 사고 과정 자체는 AI에 맡길 수 있지만, 시스템 전체에 대한 인간의 이해만큼은 끝까지 인간이 가지고 있어야 한다는 것입니다. 이것은 문제 해결의 프로세스가 아니라, 시스템이 어떤 목적과 방향과 기준을 가져야 하는지, 어디까지 허용하고 어디서 멈출지를 정하는 상위 차원의 조정 과정이기 때문입니다. 그리고 이것은 인간이 사는 사회이기에 인간이 중심이 되어야 하고, 인간이 세상의 중심에 남으려면 세상을 이해하는 행위 자체가 핵심이라는 뜻입니다.
엔트로픽 직원들조차 사용자의 이해를 중요하게 여기기에 마크다운을 HTML로 바꾸고, 이해를 서로 공유하려고 합니다. 결국 사람과 사람 사이에서도, 사람과 AI 사이에서도 이해 체계를 공유해야 하고, 그 과정에서 온톨로지 체계는 필요할 수밖에 없습니다. 이것은 단순한 효율성의 문제가 아닙니다. 인간이 사회의 주인으로 남기 위해 반드시 존재해야 하고, 끝까지 지켜야 할 과정이라고 볼 수 있습니다.
반대로 인간이 이해할 수 없는 수준의 디지털 트윈이 등장한다면, 그때는 팔란티어만의 문제가 아니라 세상 전체가 위험해질 수 있습니다. 현재 AI 업계가 그 방향으로 발전하려 하지 않는 이유도 여기에 있습니다. 사용자의 이해가 중요하다는 것을 모두가 전제로 두고 있기 때문입니다.
구글 AI 디렉터의 글도 흥미롭습니다. 일반적인 AI 모델에 훌륭한 하네스 엔지니어링이 결합된 경우와, 훌륭한 모델에 나쁜 하네스 엔지니어링이 결합된 경우를 비교하면, 전자가 더 뛰어나다는 것입니다. 하네스 엔지니어링은 도구를 잘 쓰게 하고, 메모리를 관리하게 하고, 시뮬레이션 공간을 만들어 주고, 권한과 통제를 설계하는 환경 전반을 말합니다.
그는 이렇게 말합니다. 모델이 이론적으로 할 수 있는 일을 현실에서 제대로 못 하고 있다면, 그것은 모델의 능력 문제가 아니라 하네스 엔지니어링이 부족하기 때문이라는 것입니다.
지난 영상에서 저는 이 흐름이 조금 위험할 수 있다고 말씀드렸습니다. 클로드는 모델과 하네스를 분리하려는 움직임을 보였습니다. 모델이 발전하면 기존에 붙여 두었던 하네스가 오히려 나쁜 영향을 줄 수 있고, 어떤 능력을 갖게 될지 모르니 특정 방식의 하네스를 고정하지 않겠다는 것이었죠. 즉, 하네스의 영역이 점점 줄어들 가능성을 이야기한 것입니다.
이에 대해 구글 AI 디렉터는 반대 의견을 냅니다. 모델이 발전해도 하네스 엔지니어링이 줄어드는 것이 아니라 새로운 형태로 이동한다는 것입니다. 예를 들어 GPT-3.5 시절에는 환각을 줄이는 것이 주된 목표였습니다. "모르면 모른다고 해라, 출처를 명확히 대라" 같은 지시가 필요했죠. 그런데 지금은 허락 없이 파일을 지우는 일이 생길 수 있습니다. 문제의 성격이 환각에서 자율성 통제로 바뀌고 있는 것입니다. 자율성의 범위가 넓어졌기 때문에 하네스가 해야 할 일도 달라지고 있다는 것입니다.
종합하면, 모델이 발전해도 하네스 엔지니어링은 중요하다는 것이 현재 AI 업계의 관점이라고 볼 수 있습니다. 사라지는 것이 아니라 형태가 바뀌는 것입니다. 그리고 인간의 이해가 항상 근간이 되어야 한다는 카파시의 관점이 함께 깔려 있습니다. 이 두 가지가 현재 AI 업계의 기본 전제입니다.
지난 영상에서 말씀드린 세 가지 조건 중 이 두 가지가 해당되지 않는다고 볼 수 있습니다. 만약 이 두 가지가 깨진다면 그때는 정말 위험해지는 것이고, 인간이 주체적으로 이것들을 지켜낸다면 이야기는 달라집니다.
그렇다면 팔란티어의 온톨로지와 하네스 엔지니어링을, 다른 AI 경쟁사들이 따라올 수 있을까요? 과감히 대체할 수 있는 수준까지 갈 수 있을까요? 이것이 중요한 포인트입니다.
팔란티어의 창업자 알렉스 카프는 이렇게 말합니다. 기술 투자 규모의 관점에서 보면 AI가 모든 것을 대체하고 팔란티어도 무너질 거라고들 하지만, 자신은 그 주장에 회의적이라는 것입니다. 실제로 많은 기업이 기술 투자보다는 영업에 더 많은 돈을 쓰고 있으며, 그런 기업들이 쉽게 대체될 가능성이 크다는 것이죠. 세일즈포스를 염두에 둔 발언으로 보입니다.
팔란티어는 결국 온톨로지라는 하네스 엔지니어링 영역에 20년 이상 투자해 왔고, 지금도 여전히 그 영역에 집중하고 있습니다. 기술 자체에 오랜 시간 투자해 왔기 때문에 쉽게 대체되기 어렵다는 것이 창업자의 주장입니다.
『팔란티어 시대가 온다』라는 책을 읽은 분들이 많으실 겁니다. 독서 모임에서 이런 질문이 나왔습니다. "팔란티어가 가고자 하는 미래는 무엇인가?" 이 질문을 책의 저자인 변우철 본부장님께 전달해 드렸더니, 이렇게 답하셨습니다. "하네스 엔지니어링이 반영된 B2B 에이전틱 AI의 끝판왕이 되려는 것 같다." 결국 하네스 엔지니어링, 온톨로지 시스템, 그리고 인간의 이해가 근간이 되는 시스템입니다. 이 시스템을 기반으로 한 B2B 에이전틱 AI 영역에서는 따라올 자가 보이지 않는다는 뜻입니다.
결국 이것은 인간 사회의 이야기입니다. 인간 사회, 인간의 이해를 근간으로 하는 전반적인 구조를 인간들이 끝까지 지키려고 하는가가 핵심입니다. 이것은 주체성에 관한 이야기입니다. 주체성이 유지되는 한, AI를 하네스하는 온톨로지는 쉽게 사라지기 어렵습니다. 그렇다면 온톨로지 시스템을 실전에서 가장 잘 활용하고 있는 기업은 누구일까요?
어제 올라온 글이 있습니다. 팔란티어 영국 대표의 글인데, 실리콘밸리에서는 AI에 대해 이야기하지만 실제로 AI로 전쟁을 치르고 있는 곳은 우크라이나라는 것입니다. 그리고 AI가 전쟁에서 실제로 어떻게 쓰이는지 우크라이나 국방부만큼 잘 이해하는 곳이 있느냐고 되묻습니다. 팔란티어만큼 AI가 극한의 환경에서 어떻게 활용되는지 잘 이해하는 기업과 나라가 있느냐는 질문인 셈입니다.
지금 대부분의 AI 기업은 기업 사무실 안의 업무 문제에 AI를 적용하고 있습니다. 그런데 국가 단위의 대규모 프로젝트에서 이를 활용하고 있는 기업은 사실상 팔란티어뿐입니다. 뉴스를 보면 이란 전쟁이나 우크라이나 전쟁에서도 팔란티어의 시스템이 계속 쓰이고 있습니다. 하네스 엔지니어링이 국가 단위에서 이루어지고 있는 것입니다. 스케일 자체가 비교될 수 없는 수준이기 때문에, 지금 시점에서 비교하는 것 자체가 적절하지 않습니다.
그렇다면 언제 AI가 팔란티어를 제칠 수 있을까요? 세상의 물리적 현상을 전부 이해하는 월드모델 AI가 출시되고, 그 월드모델 AI가 구축한 디지털 트윈이 인간을 이해할 수 없는 수준에 이르고, 인간이 가진 모든 데이터를 영혼까지 그 AI에게 넘겨주는 고객사가 나타난다면 — 이 세 가지가 모두 충족될 때 팔란티어뿐 아니라 모든 기업이 위험해질 수 있다고 말씀드렸습니다.
현재 AI가 지향하고 발전하려는 방향은 인간의 이해가 먼저 근간이 되어야 한다는 것입니다. 모두가 이 원칙을 지키려고 하고 있습니다. 그렇다면 사람과 사람 사이, 사람과 AI 사이에서 이해를 공유하는 온톨로지 시스템이 앞으로도 굉장히 중요한 위치를 차지하게 될 것입니다.
인간이 주체성을 유지하고, 세상을 인간 중심의 시각으로 바라보는 한, 이해 체계를 공유하는 이 전반적인 시스템은 쉽게 사라지기 어렵습니다. 따라서 팔란티어의 시스템 역시 쉽게 대체되기 어렵다고 보는 것이 현재 시점에서 더 합리적인 판단이라고 생각합니다. 그리고 이 모든 것이 한꺼번에 대체된다는 것은 팔란티어가 사라지는 것이 아니라, 인간 사회 자체가 AI에 의해 대체되는 상황을 의미합니다.
그래서 현재 시장에서 AI가 팔란티어를 대체할 것이라는 공포는 과대하다고 말씀드리고 싶습니다. 이상은 제 현재의 이해에 기반한 관점입니다. 감사합니다.
Comments 0