원문 보기
지난번에 팔란티어와 엔트로픽을 비교하는 영상을 올렸었는데이 내용을 보시고 팔란티어가 굉장히 위험하고 위협을 받고 있고 경쟁에서 밀릴 것이다. 이렇게 받아들이신 분들이 많아서 좀 더 내용을 보완하는 차원에서 오늘 준비를 해 봤습니다. 지난 영상에서 말씀드렸던 핵심 내용은 이거였거든요.이 이 세상의 모든 현상 물리적인 법칙을 다 이해할 수 있는 수많은 멀티모델 데이터에 통합을 할 수 있는 그런 월드 모델 AI가 출시된다면 그리고 인간은 이해하지 못하는 그런 디지털 트윈을 월드 모델 AI가 만들 수 있다면 세 번째로 그런 AI 월드모델 AI에게이 기업의 소중한 데이터들을 다 넘길 수 있는 그런 고객사가 등장한다면 위험해질 수 있고이 세 가지 조건을 얘기를 했었습니다.
그래서이 세 가지 조건이 딱 맞아 떨어졌을 때 이런 상황이 펼쳐진다면 그때는 팔란티어가 위협이 될 가능성도 있다라는 것이었죠.이 세 가지가 만족한다면 당연히 팔란티어뿐만 아니라 모든 기업들이 다 위험해질 수가 있는 거겠죠. 그런데 이것을 반대로 얘기하면 세 가지를 만족하지 못한다면 여전히 팔란티어의 입지는 강력하고 쉽게 대체될 수 없다라고 얘기할 수 있을 겁니다. 그래서 오늘은 이제 그 반대 이야기를 한번 좀 해 보려고 해요. 지난주에 X의 요런 글들이 올라왔습니다. 엔스로픽 직원이 쓴 글과 구글 직원이 쓴 글 안드레 카파라 씨가 인터뷰한 내용이 있었는데 여기 세 개 나온 내용을 토대로 해서 아주 짧게 한번 설명을 드려 볼게요.
첫 번째는 엔트로픽 직원이 이런 말을 합니다. 우리가 에이전트를 구축하고 사용하는 과정에서 AI가 우리에게 어떤 결과물을 도출할 때이 마크다운 형태로 우리에게 도출하거든요. 그러니까 텍스트 파일 형태로 사용자에게 전달을 합니다. 그런데 이제이 클로드는 이렇게 얘기하는 거예요.이 텍스트 파일 내용이 100줄만 넘어가서 내가 읽기가 너무 힘들더라는 거예요. 그리고이 내용을 공유해도 사람들도 잘 읽지 않고. 그러니까 AI 입장에서는 결과물을 마크다운 텍스트 형태로 우리에게 도출하는 것이 AI에게 굉장히 효율적이지만 사용자 입장에서선 그게 굉장히 비효율적이다라는 겁니다.
그 정보를 읽으려고 하지 않으니까. 그래서 결과적으로 죽은 정보가 된다라는 거죠. 그러니까 이런 텍스트 파일 형태로 쭉 나와 있으면 우리도 잘 안 보게 되잖아요. 그런데 이것을 HTML 형태로 이렇게 그래프화시키고 그림화시키고 보기 쉽게 간결하게 해 주니까 훨씬 더 내가 이해하기가 쉬워지고 그 결과물을 받아들이 있어서 부담감도 적어지더라는 거죠. 그래서 이제는 아예 마크다운 거의 쓰질 않고 자기 주변에서 보니까 이런 엔트로픽 직원들조차도 점점이 형태로 쓰고 있는 것을 보게 됐다라고 이야기하는 글이었습니다. 너무 당연한 얘기죠. 우리가 막 이런 엄청난 텍스트는 눈에 들어오지도 않지만 그렇게 표와 그림과 보기 쉽게 간결하게 전달이 되면 우리가 굉장히 쉽게 이해할 수 있잖아요.
그리고 이런 HTML 형태는 공유하기도 되게 쉽죠. 그냥 메신저로이 링크 하나만 보내면 다른 동료들도 쉽게 볼 수가 있게 되니까. 그리고 보다 더 결정적인 것은 엔트로픽 직원이 이렇게 이야기를 해요. 내가 왜 마크다운이 아니라 HTML을 쓰냐? 가장 핵심적인 이유는이 AI와이 의사 결정의 루프 안에 함께 존재한다는 느낌이 훨씬 강해지기 때문이라는 겁니다. 그러니까 이전에 마크다운 형태로 일방적으로 대량의 텍스트 파일을 제공받았을 때에는 읽히지도 않고 귀찮아지니까 이제 AI에게 알아서 선택하게 하는 이런 상황이 올 거 같은 느낌이 들었다는 거죠.
근데 그게 인간의 입장에서선 두려운 상황이 될 수 있으니까 뭔가 내가 AI랑 지속적으로 소통을 하고 우리가 함께 의사 결정 루프 안에서 존재하는 것이 중요하고 안정적인 느낌을 주는데 이제 그 방법 중에 하나가 텍스트 파일로 서로 수통하는게 아니라 HTML 형태로 서로 수통하는 것에서 큰 장점을 느꼈다라는 글이었습니다. 여기서 짚고 가야 할 중요한 개념 하나가 있어요. 이해 영어로는 언더스탠딩 정의를 찾아보니까 이렇게 되어 있더라고요. 개별적인 것들 사이에 일반적인 관계를 파악하는 능력. 이게 이해라는 개념입니다. 그럼 여기서 특이한 단어가 하나 보이죠?
관계. 사물과 [콧방귀] 사물이 연결되었을 때 우리는 이것을 이해한다라고 얘기할 수가 있다라는 거죠. 예를 하나 들어 볼까요? 철수가 화를 냈어. 이건 하나의 사실입니다. 이거 자체 이해가 아니죠. 이것만 봐서는 우리가 철수를 제대로 이해할 수가 없는데 그 앞전에 내가 모르고 철수를 쳤어.이 이 사실이 철수가 화를 내서랑 이어지게 되면서이 다음부터는 철수를 보다 잘 이해하게 되는 거죠. 그러니까 이해의 핵심은 대상과 대상에 연결해서 나타난다라고 볼 수가 있는 거죠. 그럼 아까 처음 얘기를 다시 한번대 돌아가 볼게요. 엔트로픽 직원이 더 잘 이해하기 위해서 HTML 형태로 바꿨다라는 거잖아요.
그런데 단순히 어떤 표면적인 현상이 이해가 아니라 내가 진행하고 있는이 프로젝트의 본질을 제대로 이해하려면 어떻게 해야 되냐면이 HTML화시키는 것과 더불어서 일주일 전에 HTML 형태 파일과 한 달 전에 데이터와 다 연결이 돼야 될 거예요. 그리고 내 프로젝트와 연결되 있는 다른 프로젝트의 HTML 결과하고도 연결이 돼야 될 거겠죠. 대표적으로 환자 진료할 때도 이렇거든요. 환자가 오늘 피검사를 했는데 그 결과를 오늘 것만 봐선 사실이 환자의 본질을 제대로 이해할 수 없겠죠. 1주 전에 데이터도 알아야 되고 한 달 전에 데이터, 1년 전에 데이터까지 알면 더이 환자의 본질을 제대로 알 수 있을 겁니다.
그리고 내과 데이터만 아는게 아니라 정형외과, 신경과, 치과 뭐 이런 데이터까지 다 연결해서 알아야만이 환자의 본질을 제대로 이해할 수가 있는 거겠죠. 그리고 AI가 우리에게 어떤 데이터를 제공을 해 줬을 때 이것을 제대로 이해하기 위해선 연결하는 과정도 필요하지만 그보다 더 앞서 AI는이 전반적인 맥락을 어떻게 이해하고 있을까를 아는 것도 굉장히 중요해지겠죠. 그리고 인간이 무엇을 중요하게 여기는지 알고 있을까? 지난번에 어떤 판단도 참고를 했을까? 왜 이번엔 다르게 얘기하지? 앞으로의 판단 기준 이런 전반적인 맥락들을 AI는 어떻게 파악하고 있는가를 아는게 더 중요해지겠죠.
그래야이 프로젝트 전체 본질로 다가갈 수가 있는 거겠죠. 다시 한번 정리할게요. 어떠한 대상을 명확하게 이해하기 위해서는 그 대상 하나만으로 안 되고 다른 대상들과 함께 연결되어 있을 때 보다 더 이해 본질로 들어가게 됩니다. 그리고 그게 나 혼잣만이 아니라 주변 동료들과 주변 AI들과 함께 공유하고 이해할 수 있어야 한다라는 거죠. 같은 방식으로. 이게 바로 온톨로인 거죠. 팔란티어가 이거 계속 주장하는 거잖아요. 그렇다면 내가 AI가 제시하는 데이터를 이해하고 그것을 근간으로 해서 의사 결정을 내리는이 과정,이 전체의 과정을 최대치로 올리고 싶다면이 데이터가 어디서 왔는지 끝까지 추적할 수 있어야겠죠.
그리고 나의 의사 결정이 어떻게 반영이 되고 주변에게 어떤 영향을 끼치고 어떻게 확장되어 가는지까지 명확히 알 수 있어야 될 겁니다.이 의사 결정의 루프를 최적화시켜서 최대치로 올리기 위해서는 당연히 온톨로지가 구축이 되지 않을 수가 없는 거죠. 안드레 카파 씨가 이런 이야기를 해요. 인터뷰에서. 생각은 외주화될 수 있지만 이해는 외주화될 수 없다. 외주화돼서도 안 된다라고 이야기를 합니다. 사실 사고 능력이 AI가 사실 더 앞서기 시작을 했죠. 그리고 글 읽는 거조차도 이제는 부탁하잖아. 이거 무슨 내용인지이 주제 핵심이 뭔지지만 알려줘.
뭐 이것만 봐서도 사실 인간이 이해하는 그 과정 자체가 어떻게 보면 병목이 될 수 있긴 할 겁니다. 그래서 인간의 이해는 문제 해결에서 어떻게 보면 중요하지 않을 수도 있다라고 이야기했는데 이제 그게 인간이 이해하지 못하는 디지털 트윈의 출연인데 만약에 그게 출연하게 되면은 이제 모든 기업들이 다 위험해지는 거고 그런데 안드르카파시는 결국 이야기를 하는 거예요. 그런 사고 과정 자체는 AI에게 외주할 수 있지만은 시스템 전체에 대한 인간의 이해만큼 끝까지 남겨 둬야 된다라고 이야기를 하는 겁니다. 그러니까 그것을 병목이라고 얘기할 수 없다라는 거예요.
왜냐면은 이것은 문제 해결의 프로세스가 아니라이 시스템이 가고자 하는 목적, 방향, 기준, 어디까지 허용하고 어디까지 허용하지 않을지에 대한 이런 상위 개념에 대한 조정 과정인 거기 때문에 이것은 결국 인간이 해야 된다라고 얘기를 하는 거죠. 왜냐면은 인간이 사는 사회니까 그 사회 안에 인간이 중심이 되어야 하니까 인간이이 세상에 중심이 되려면 인간이 세상을 이해하는 그 자체가 굉장히 중요하다는 거죠. 이런 엔트로픽 직원들조차도이 사용자의 이해를 굉장히 중요시 여기는 입장이잖아요. 그러니까 마크다운에서 HTML로 바꾸려고 하고 그 이해한 바을 사람들과 서로 공유하려고 하는 거 결과적으로는 사람과 사람 사이 이해도 공유해야 되고 사람과 AI 사이에서도 서로 이해 체계를 공유해야 되고 온톨로지 체계가 필요하지 않을 수가 없게 되는 거죠.
효율성의 문제가 아닌 거 같아요. 이거는요. 인간이 인간 사회에서 결국 주인이 되기 위해서는이 과정 자체가 필수적으로 존재해야 되고 끝까지 지켜내야 한다라고 말할 수가 있는 겁니다. 그러니까 인간이 이해하지 못할 수준의 어떤 디지털 트윈이 등장을 한다. 이렇게 된다면 사실은 팔란티어가 아니라 세상 자체가 위험해질 가능성이 있게 되는 거라고 볼 수 있겠죠. 그래서 현재 AI 업계에서는이 방향으로 절대로 발전하려고 하지는 않는 거죠. 사용자의 이해가 굉장히 중요하다라고 여기는 입장이니까. 구글 AI 디렉터가 쓴 글이다. 이렇게 이야기를 해요.
일반적인 AI 모델에다가 굉장히 훌륭한 한네스 엔지니어링이 결합된 경우. 그리고 훌륭한 AI 모델인데 나쁜 한네스 엔지니어링이 결합된 경우. 이때는 훌륭한 하네스 엔지니어링이 더 능력이 뛰어나다라고 이야기를 하는 거예요. 한네스 엔지니어링에 대해서 지난 영상에서 말씀을 드렸었잖아. 도구를 잘 사용할 수 있게 해주고 메모리를 잘 관리할 수 있게 해주고 예비 실행 공간 시뮬레이션 공간을 잘 할 수 있게 환경을 만들어 주고 권한 관리 통제를 할 수 있게 이런 환경들을 만들어 주는게 한네스 엔지니어링입니다. 그래서이 구글 직원은 이렇게 이야기를 해요.
모델이 이론적으로 할 수 있는 건데 아직 현실에서 제대로 못 하고 있다라면 그건 모델의 능력이 아니라 하네스 엔지니어링이 충분하지 못하기 때문이다. 모델 문제가 아니라 하네스 엔지니어링의 문제라고 이야기를 하는 겁니다. 그만큼 이제이 하네스 엔지니어링이 중요하다는 거죠. 지난 영상에서 요게 약간 위험한 방향이다라고 말씀을 드렸었어요. 클로드가 모델이랑 하네스를 분리하려고 하는 거예요. 예전에는 합쳐 놨는데 여기서 모델이 발전하면은 기존에 합쳐 놨던이 한네가 버전업된 모델에게 더 나쁜 영향을 끼치더라는 거죠. 그래서이 언어 모델이 발전하면 할수록 어떤 능력치를 갖게 될지 모르기 때문에 어떤 특정 방식의 한네스를 고정해 두지 않겠다.
오히려이 하네스의 영역이 점점 줄어들 가능성에 대해서 이야기를 했던 거였죠. 그런데 이거에 대해서 이제 구글 AI 디렉터는 또 이렇게 이야기를 하는 거예요. 모델이 발전한다고 하더라도 한네스 엔지니어링 자체가 줄어들진 않을 거라고 새로운 형태로 이동하는 거라고 이야기를 하는 거예요. 그러니까 반대 의견이죠. 이런 거예요. 예를 들면 GPT 3.5 썼을 때는 너무 환각을 많이 얘기하니까 이렇게 우리가 막 지시를 했단 말이에요. 모르면 모른다고 좀 해. 출처 좀 명확하게 알려줘. 소소한 환각들을 막는 것이 주된 목표였다면 현재 모델에 와서는 갑자기 내 허락 없이 뭔가 파일을 지우거나 이런 일이 생길 수 있기 때문에 내 허락 없이 파일을 지웠지만 이런 식으로 이제 성격이 점점 바뀌어 가는 거죠.
자율성이 굉장히 범위가 좀 넓어지게 된 거죠. 한해 내용이 점점 바뀌어 가고 있는 겁니다. 그래서 지금까지 말씀드린 내용을 종합해 보면 이럴 수 있을 것 같아요. 모델이 발전해도 한해 엔지니어링이 중요하다라는 것은 현재 AI 업계의 관점인 거 같아요. 사라지는게 아니라는 거죠. 그리고 두 번째 안드르카파 씨가 이야기했던 거 인간의 이해가 항상 근간이 되어야 된다. 우선적으로이 두 가지가 현재 이파에 깔려 있는 관점이라고 볼 수 있을 것 같아요. 그러면 제가 지난 영상에서 말씀드렸던이 세 가지 중에서이 두 가지가 해당이 안 되는 거죠.
만약에이 두 가지가 깨진다면 그때는 정말로 위험해지는 것이고이 두 가지가 인간이 주체적으로 이런 것들을 다 막아낸다면 그렇다면 이제 얘기는 좀 달라진다라고 얘기할 수 있을 것 같아요. 자, 그러면이 인간이 이해할 수 있는 할란티어의 온톨로지 한네스 엔지니어링의 관점으로 본다면 다른 AI 경쟁사들이이 인간이 이해할 수 있는 한네스 엔지니어링을 따라올 수 있을까? 그래서 과감히 대체할 수 있는 수준까지 갈까? 이게 되게 중요한 포인트가 될 텐데 팔란티어의 창업자 조론스데일이 이런 이야기를 합니다. 기술 발전에 있어서 얼마나 많이 투자를 하느냐의 관점으로 본다면 AI가 모든 걸 대체할 거다.
팔란티어가 무너질 거다라고 말하는데 나는 그거에 대해선 좀 회의적이고 실제 대다수는 기술 투자는 하지 않고 그 외적인 거 오히려 영업에 돈을 더 많이 쏟아붙는다거나 이런 기업들은 당연히 쉽게 대체될 가능성이 있다라고 본다라는 거죠. 그래서 이게 지금 세일즈 포스를 비대어서 얘기한 거 같아요. 그니까 팔란티어는 결국 온톨로지라는 하네스 엔지니어링의 영역을 20년 이상 투자를 해온 거죠. 그리고 지금도 여정히 투자하고 있고 여기에 포커스가 맞춰져 있는 거죠. 기술 자체에만 지속적으로 20년 이상 투자를 해 보고 있기 때문에 쉽게 대체되지기 어려울 거다라고 팔란티어인 창업자는 이야기를 하고 있는 겁니다.이 책 다들 보셨죠?
팔란티어 시대가 온다.이 독서 모임을 했었는데 이런 질문이 하나 나왔어요. 결국 팔란티어가 가고자 하는 미래가 무엇인가?이 이 질문을 팔란티어 시대가 온다.이 작가분께 전달해 주시면 좋겠다라는 얘기가 있어서 제가 이것을 작가가 이제 변우철 본부장님이죠. 제가이 질문을 그대로 전달을 해 드렸어요. 그러자 변호철 본부장님이 어떻게 얘기하셨을까요? 이렇게 얘기하셨습니다. 한네스 엔지니어링이 반영된 B2B 에이전틱 AI의 끝판왕이 되려고 하는 것 같다. 이렇게 얘기를 하시더라고요. 결국 하네스 엔지니어링 온톨로지 시스템이죠. 그리고 인간의 이해가 근간이 되는 시스템입니다.이 시스템을 근간으로 한 B2B 에이전틱 AI 영역에서는 따라올 자가 보이지 않는다라는 얘기인 거죠.
결국 인간 세상이잖아요. 그렇죠? 그러니까 인간 사회, 인간의 이해를 근간으로 하는 전반적인 구조. 이것을 인간들이 끝까지 지키려고 하는가? 이게 주체성에 대한 이야기인 건데이 주체성을 갖는한 AI를 한해스하는이 온톨로지는 사라지기가 당연히 어려울 것이고 그렇다면 온톨로지 시스템이 사라지기 어렵다면이 온톨로지 시스템을 현재 실전에서 가장 잘 활용하고 있는 기업은 누구인가? 어제 올라온 글이에요. 팔란티어 영국 대표입니다. 실리콘 밸리에서 AI에 대해서 얘기하는데 실제로 AI로 전쟁하고 있는 것은 우크라이나라는 거죠. 팔란티어로. 그리고 AI가 실제로 전쟁에서 어떻게 이용되고 있는지 우크라이나의 국방부만큼 잘 이해하는 사람이 있냐라고 되묻는 거예요.
마찬가지겠죠. 팔란티어만큼 AI가이 극한의 환경에서 어떻게 활용되고 이용되고 있는지 팔란티어만큼 잘 이해하는 기업과 나라가 있냐라고 질문을 해 보는 거죠. 그 지금 다 기업 사무실 안에서 지업적인 문제들에만 적용을 하고 있죠.이 엄청난 대규모의 프로젝트에서 이용하고 있는 기업은 팔란티어밖에 없잖아요. 그렇죠? 그래서 결국에는이 한네스 엔지니어링의 영역에서만 본다면 사실은 팔란티어랑 AI 기업들과 비교를 해 본다면 사실 비교할 수준이 되지가 않는 거죠. 지금은 다들 개인 프로젝트를 하고 있잖아요. 자기 프로세스 업무를 자동한다거나 이게 전부인데 팔란티어의 뉴스들 보면은이란 전쟁이나 우크라이나 전쟁에서 이게 계속 쓰이고 있단 말이에요.
국가 단위에 한네스 엔지니어링이 이루어지고 있는 거죠. 그니까 비교가 될 수 없는 스케일이기 때문에 현 시점에서 비교한다는 것조차 말이 안 되고 그렇다면 언제 AI가 팔란티어를 제낄 수 있느냐? 세상의 물리적인 현상을 전부 다 이해하는 월드모델 AI가 출시하고 그 월드모델 AI가 구축한 디지털 트윈이 인간을 이해할 수 없어야 되고 인간이 갖고 있는 모든 데이터를 영혼까지 그 AI에게 다 받칠 수 있는 그런 고객사 기업이 나타난다면이 세 가지가 만족이 된다면 그때는 팔란티어뿐만 아니라 모든 기업이 다 위험해질 수 있다라고 말씀을 드렸는데 현재 AI 계획 지향하고자 하는 발전하고자 하는 반은 인간의 이해가 먼저 근간이 되어야 한다라는 것을 현재는 모두가 지키려고 하고 있는 거죠.
그리고 그런 관점이라면 인간과 인간, 인간과 AI 사이에 이해를 공유하는 그 책의 온톨로지 시스템이 굉장히 중요한 입질를 갖게 될 거라고 얘기할 수 있을 것 같아요. 인간이 주체성을 갖고 있는 한 그리고이 세상을 인간의 이하의 근간으로 바라보는 한 사람과 사람 사이에 그리고 사람과 AI에 서로 이해 체계를 공유하는이 전반적인 시스템은 쉽게 사라지기 어렵다. 로 팔란티어 시스템도 쉽게 대체되기는 어려울 것이라고 보는게 현재 시점으로서는 보다 합리적이라고 이야기할 수 있을 겁니다. 그리고이 모든 것들이 한 번에 다 대체된다라고 말하는 것은 팔란티어가 대체되는게 아니라 인간 사회 자체가 AI에게 다 대체되는 상황이 된다라고 말할 수 있다라는 거죠.
그래서 지금 나타나는 현시장에서의 AI에 의한 플란티어가 대체된다는 이런 공포는 과대하다라고 말할 수 있을 것 같아요. 저의 현재 이해의 책에 저의 관점에서 그렇습니다.
Comments 0