저자: 김장열 · 한국인
요약 보기
AI 속도 조절론은 프런티어 모델 개발의 과속으로 컴퓨팅 자원·투자 부담이 커져 기업들이 자제를 논의하는 것으로, 안전 문제보다는 자금·리소스 한계가 핵심이라고 해석. 속도 조절이 실제 시행되더라도 추론 수요가 늘어 메모리 수요 감소로 이어지기 어렵다는 주장. 추론 비중은 현재 약 50%이며 향후 더 커질 것으로 전망. 메모리 시장에 대해 특별히 부정적으로 볼 이유는 없다고 결론.
다듬은 글
어, 사실 이제 AI 속도 조절론이 어떻게 보면 저번 주부터 조금 나오게 되면서 좀 시장이 흔들리는게 아닌가 이런 우려감들도 있었는데 요게 반독점 소송까지 지금 어, 좀 번지고 있는 거 같아요. 그래서 아무래도 이제 AI 포스하고 어 또 충돌이 되는 건 아닌지 그리고 이제 인프라 투자도 이제 지속이 좀 될 수 있는 건지 앞으로이 속도 조절론에 대해서 좀 우리가 어떻게 바라봐야 될까요? 네. 참 속도 조절론 많이죠. 근데 기본적으로 그 그 마이크로소프트 그다음에 또 누군가요? 처음에 주창한 오픈의 세르만 그다음에 그 앤스로픽의 그 사장 대표이 세 사람이 언어 모델 개발하는 사람들이 야 속도 조조 하자 그런 거죠.
근데 대통령 포함해서 미행정부는 야 그 무슨 소리냐 경쟁이 얼만데? 이런 얘기를 하고 있고 요렇게 지적으로 보면 아무 답이 안 나와요. 네. 그까 속도 조절론이라는 건 뭡니까? 기본적으로 왜 속도 조절론이 나와요? 속도가 빠르기 때문에 그런 거죠. 네. 과속이기 때문에 과속. 그 개발을 원래 한 35도 각도로 하려고 이렇게 어 이제 아스트라를 개발할 때 예를 들어서 35도 각도를 처음에 시작할 때 4기 이제 했다 합시다. 근데 하다 보니까 결과가 나왔는데 이게 이렇게 됐네. 음. 자, 35도로 각도로 이게 한 10주 정도 걸렸다 합니다.
10주 정도 이제 학습을 했다 해요. 학습을 10주 정도. 그러면 돈이 들어간게 얘네들 매출에 한 10% 이상 정도가 1년 매출의 10% 정도가 20주 동안에 아주 인텐시브하게 쓴 거거든요. 근데 원래 할 때는요 정도 각도로 해서 개발을 했다고 했는데 알고 보니까 결과물이 너무 좋은 거예요. 네.이 네트다가는 또 이렇게 높아지게 생겼단 말입니다. 원래이 35도로 각도로 갈 때도 어떻게 되죠? 반도체가 쇼티지가 난리를 뽑는 거잖아요. 네. 근데 이게 이렇게 어떻면 어떻게 돼요? 난리 뽀이는 정도가 아니고 이제 진짜 기약 급소 되는 거죠.
네. 그러니까 기본적으로 속도가 너무 빨라서 음 돈은 더 들어가고 그렇죠. 네. IPO를 앞도 돈은 더 들어가요. 그러면 IPO 제대로 받을 수 있을까요? 못 하죠. 네. 어려울 거 같아요. 음. 그러니까 속도가이 정도도 감리하기 쉽지 않아서 어 리더십을 가지고 했것만 이게 너무 잘 나온 거예요. 그 돈 더 투자하게 생겼거든요. 그러니까이 프란티어 모델 개발을 이런 속도로 했다가는 원래보다 높은 속도로 했다가는 아무것도 못 하게 생긴 겁니다. 돈을 어디서 버려야 되냐? 프란티어 모델이 아니고 나중에 추론 모델을 가지고 돈을 뽑아내야 되는데
네 컴퓨터 리소스도 다 충분히 갖추지 못했는데 음이 속도 가지고도 이손 속도가 되면은 컴퓨터 리소스를 어디에 어디서 구해요 그러니까 겁이 난 거죠 그래서 대적으로 여러분들을 5년 내가 다 죽을 것 같아서 우리를 살려 주려고 무슨 속도 저절 나온게 아니고 네이 속도가이 속도가 되는 바람에 컴퓨터 자원을 못 갖고 자기네 돈 못 벌고 IPO 망하게 생겼기 때문에이 속도 조절를 하자고 얘기를 한 거예요. 그런데 저는 그게 핵심이라 봅니다. 네. 그러면서이 속도가 아니고이 속도다 보니까 아, 안전 문제도 당연히 나왔겠죠. 네. 안전 문제를 등한시했냐?
상대적으로는 경시했죠. 하지만이 속도가 이렇게 되니까 경시하기엔 조금 애매한데 자기는 돈도 못 벌어. 그래서 야, 속도 조사하자라는 얘기를 지내드릴게 한 거지. 누구랑? 오픈에하고 우리 엔트로픽하고 미국에 관련된 마이크로소프트가 엊그적게 일주일 전에 했다고 하지만 한 한두 달부터 그런 겁니다. 그래서 가드레일 같은 경우를 정확히 안 하지만 이렇게 이렇게 모임을 가진 거예요. 그런데 아스트라가 나오면서이 계기를 통해서 이걸 속도 조절을 하자고 나온 겁니다. 이슈는 뭐죠? 200 100 150km로 달리면 딱 적당한데 이게 200km로 달린 바람에이 과열에서 폭발하거나 문제가 생길 것 같은데 거기에 자기 돈이 들어간 거예요.
그래서 나온 거기 때문에 결론 뭐죠? 아 알아서 하라 그러세요. 저기 그 미국의 정부하고 쉽지 않을 겁니다. 미국의 정부가 나서지 않았기 때문에 강제로 가드레이나 세이프티 메저는 없어요. 음. 다만 각각의 기업들이 자생적으로 할 수 있겠죠. 그래 진짜 그 대승적으로 미국 저기 그 나저 전 세계 재계의 사람들이 그 걱정되면은 뭘 협동을 해. 네가 앞서서 하면 되지. 근데 하는 얘기 보세요. 엔티오피도 뭐라 그랬습니까? 어저께 아스트라크 모델 곧 나온다면서요? 네네. 아 속도 조하자면 미리 준비한 거는 그냥 파이프라인 나오겠다는 거예.
그다음에 앨런모스카 뭐라 그랬어요? 앨런모스크가 어 나 동해 아 우리네 말 맞아. 그리고 그다음날 뭐라 하는지 아세요? 자기 어 로드맵 발표했어요. 그로크로크 4.8을 로드맵 업데이트 하면서 4.8이 뭐 어쩌 했는데 정작 중요한 건 4.9 곧 나올 텐데 그거는 아스트라급이야. 그리고 시키지도 않았는데 우리 5.0 나오면 AGI급이야. 그런 얘기 왜 해요? 그러니까 이게 앞고 뒤하고 똑같지 않다는 겁니다. 네. 음. 설사 미국이 그 세명이 세 군데가 해서 어떤 프라토콜을 세이프티 프라토콜 만든다 하더라도 중국이 거기에 맞춰서 한다는 보장이 없죠.
그 얘 미국은 왜 이렇게 하려 그랬을까? 아까 본이 많이 들어서 그리고 아스트라급은 자기네가 먼쳐당한 거 맞잖아요. 첫 번째 자기가 압성하죠. 미국이 그러니까 약간 여유가 생겼죠. 돈도 많이 들죠. 아 할만큼 했으니까 잠깐 쉬고 출론형으로 가. 중국 금방 못 따라올 것 같은데 대통령가 한 마디 해주고 이런 얘기예요. 그래서 이거는 반도체 수요하고는 하등 관계가 없습니다. 지금이 속도 갖고도 반도체가 쇼트지인데이 속도로 가면은 난리를 뽀이기 때문에 견뎌내지 못했기 때문에 이런 액션이 그 저안에는 상당히 중요한 어 그 이유다라고 생각한다면 메모리에는 관계가 사실상 없습니다.
그건 잘 아 말씀드리는데 그게 있다고 하지만 그것도 사실은 상쇄돼요. 어 이게 뭐 좀 있다 마지 하시겠습니다만 어떤 안전 가드레이 있는가 그 얘기는 확인해야 되겠죠. 한다고 하니까 그러면 그거 하면은 뭐 단위당 뭐 호출하는 횟수를 줄일 순 있어도 다른 걸로 메워지기 때문에 수요가 줄 가능성은 없어요. 그럼 메모리 쪽에는 오히려 더 긍정적인 건가요? 더 긍정적일지는가 봐야 알아요. 어떤 안전마 안전 그 가드웨를 할 것인지가 지금 모르잖아요. 그니까 그 가드웨를 한다고 하는데 어떤 가드레이 할지 다지 알아요. 안전 가드웨를 할 때는 호출 수 줄어들 때도 우리가 뭐냐면 만약에 AI 시키면은 AI가 뭐죠?
우리 아스트라가 엔드투 엔드 워크라 그랬잖아요. 엔드투 엔드 워크가 뭐 저번에 말씀드렸나? 뭘 시키면은 목적만 주면은 그 엔드 가지고 끝까지 해내는 게 네. 음. 맞아. 하는 거잖아요. 네. 네. 제대로 하는게 그게 에이전트라 하거든요. 그러면 얘가 알아서 한다는 건 뭐냐면 내가 중간중간에 끼어들지 않고 바깥쪽에 있는 외부 데이터베이스를 가서 내가 필요한 거를 가져오는 거이 하나로만 얘기했지만 RH라고 합니다. 이게 이제 어 이제 외 그니까 R 그니까 ret트리버 검색하는 거죠. 그다음 오그맨 그러면 강화돼서 제너레이션 생성한다는 건데 우리가 외부 데이터를 가져와서 AI가 우리한테 답을 하잖아요.
네. 근데 너무 외부를 자꾸 왔다 갔다 하면은 문제가 생기고 이상한테 해킹도 하고 침투하고 그러잖아요. 그러니까 외부에서 가져오는 데이터를 엑세스할 때 내가 한번 신호 줬을 때 얘가 뭐 100번을 왔다 갔다 한다. 그럼 100번을 뭐 수번으로 낮춘다 이럴 수도 있죠. 그러면 100번 하는 거 수로 낮추면은 메모리 숫자 좀 줄 거 같잖아요. 근데 뭐죠? 한 번에 가져올 때 가져오는 데이터 정보량 우리가 컨텍스트 윈도우라 들어 있어요. 그 AI가 시키면 AI가 딱 보고 어디 있지? 그걸 보고 읽고 기억하고 그리고 그걸 가지고 답을 하는 그 정보의 토탈 그 메모리 사이즈가 컨텍스트 윈도우인데 그 메모리가 더 길어질 수 있죠.
우리 대화를 많이 하면은 기본적으로 우리가 가져올 데이터가 엄청 늘어납니다. 한 번에 돌아오는 데이터가 많으면은 한 번에 루프톤에서 들어오는 데이터가 많으면 횟수가 줄어도 그게 메워질 수 있어요. 그게 어떻게 될지 정량은 아무도 몰라요. 그건 이제 해 봐야 알아요. 하지만 호출은 줄여서 어 그 안전을 회한다 하더라도 한 번 할 때 들어오는 메모리 숫자가 늘어나기 때문에 이거는 그게 상세가 될 수가 있다는 거고요. 또 하나는 뭐냐면 우리가 이게 가장 중요한게 사람이 관여한다는 거예요. 관여를 네. 해 온게 맞죠. 네. 어떻게 관여할까요?
이런 거죠. 뭐 AI 모델을 뭐 시켜 시킨다 합시다. 한번 볼까요? 한번 볼까요? 이렇게 봅시다. 그 보면은 애한테 일을 시킬 때 사람이 관여하지 않아도 되는게 있고 관여할까 말까 하는 것도 있고 관여하지 않으면 진짜 리스크가 될 수도 있는 것도 있지 않습니까? 네. 그다음에 합시다. 그러면은 자율적으로 하는 겁니다. 자료를 검색하고 유약하고 일정리하고 내부분 총안하고 이거 뭐 사람이 관할 필요 없죠. 뭐 얼마나 리스크가 뭐 있겠어요. 그런데 미디어 볼 뭘까요? 애가 실행했어요. 이메일을 발송하는데 어디로 발송할까? 아니면 문서 원래 작성하게 있는데 그 수정한 버전.
음. 그리고 고객에 답변하는 거. 고객한테 답변한다는 뭐죠? 어떤 고객한테 어떤 레벨을 답변할까? 최종적으로 아웃풋을 보내는 거잖아요. 어, 그리고 코드를 배포한다든지 이런 것은 사실은 사람이 관여할까 말까 약간 까리까리한 미디엄 레벨의 리스크예요. 음. 음, 그리고 진짜 리스크는 아, 이게 파파워포인트가 이렇게 나오니까이긴 되는 옆으로 해 으니까이 워드로 색깔이 있는데 돈을 선한다든지 아니면 계약을 체결한다든지 아니면 어떤 생산의 시스템 플로우를 변경한다든지 개인 정보를 삭제하다든지 보안 설정을 변경 이거 상당히 리스크죠. 하이루스 겁니다.
이런 거는 사람이 들어가야 돼요. 그러면 AI 시켰을 때 어디서 사람이 들어가서 할 것이냐 그 레벨을 정해야 돼요. 이른바 어 그니까 이제 사람이 들어가는 건 휴먼더 루프입니다. 루프 안에 사람이 들어가는데 내 껌받아 껌 받아 하면 어떻게 되죠? AI가 제대로 작성을 못 하겠죠. 네. 그러니까 그거를 껌꼼하지 말고 굉장히 리스크가 있는 그 레벨을 잡아서 관찰하다가 아이 레벨에서는 뛰어들어야 되겠다. 그거를 정해 줘야 되는 거죠. 그래서 휴먼이 내 루프에 들어가는게 아니고 휴먼 인더 루프가 아니고 휴먼 on더 루프. 사람이 그 루프 위에서 바라보는 겁니다.
어 이놈들 이상한 짓 하네. 그러면 갑자기 뛰어드는 거죠. 음 그런 레벨로 갈 것인지 휴먼 인더루프냐 이바 HI 어 LP인지 HP인지 이런 것도 정해져야 돼요. 음. 그렇게 되면 아직까지는 뭐 전혀 정해진게 없는 건가요? 지금 모르죠. 어 제한한 거니까. 근데 실제는 이런 걸 하고 있을 수도 있죠. 그러니까 이런 그 리스크 레벨을 하기 위해서 어저스트를 세이프티 메저를 어디까지 했는지 우리가 관심이 별 없는 거예요. 네. 그 당연히 근데 루프바드 사람이 많이 관여하면은 비용이 많이 들고 어떻게죠? 대신에 안전한데 어 그리고 내 속도가 늦어질 거 아닙니까?
이것 때문에 이거 한다는 거예요. 아까 말한 것처럼. 근데 이거는 뭐죠? 처음에 학습을 시킬 때 세팅되는 프란티어 모델에서의 이게 그 세이프티 매저예요. 근데 학습 모델 말고 추로 모델 있죠? 추로 모델은 네. 우리가 엄청 추업 모델을 루프 돌리고 아까 말한 것처럼 사람이 들어가더라도 루프 돌릴 때 한 번에 그 가져오는 컨텍스트 윈도우가 롱하게 되면 길어지면은 메모리 용량은 그거로 늘어나거든요. 그러니까 그게 어떤게 컴프러치가 돼서 컴플렉스 이렇게 해소가 될지 그러니까 루프를 횟수가 100번에서 20번을 주게 만들지 100번은 30번을 줄지 그다음에 한 번 루프 돌릴 때 컨텍스트가 1년 뒤에 세 배로 늘지 네배로 넣을지 그걸 모르는 거잖아요.
그러니까 그걸 계산해 봐야 돼요. 심플리 어 사람이 들어간다 해서 메모리가 주고 개발을 한 개발을 늦춘다 그래 갖고 어 모든 것이 무너질 것처럼 생각을 오래를 했죠. 일주일 전에 그건 잘못된 거죠. 왜? 얘네들이 뭐죠? 돈 벌려 하는 거예요. 돈 벌려고. 너무 빠르니까 자기네가 메모리 컨텐츠 메모리 GPU 포함해서 이거를 갖출 수가 없기 때문에이 짓을 하면서 대의 명부를 그렇게 내서 거라고 저는 보기 때문에 이거를 아마 컴프로마이즈 서로간에 협의를 하겠죠. 그 레벨은 감내할 수 있는 레벨로 갈 겁니다. 그래서 전체적으로는 메모리가 큰 이슈가 있다고 지금 그렇게 단전지는 매우 어렵다라고 말씀을 드리겠습니다.
그럼 전체적으로 제 뭐 속도 조절에 대한 부분들은 우리가 좀 안심을 좀 해도 되겠죠. 안심이 아 그니까 그게 안심이란 게이 아니고 정확히 이런 거 신경 안 쓰면 더 좋죠. 음. 아 인류가 말이고 뭐간에 그가 갈 때 가서 해보고 그냥 가자 했으면 좋았겠지. 근데 원래부터 이런게이 잠재돼 있었던 거잖아요. 그러니까 당연히 이거 없는 거보다는 있는 거보다는 없는게 낫죠. 근데 생겼으니까 안 좋은 거죠. 음 그을 상쇄할 수 있는 요인들이 아니면 그런 것 있기 때문에 이것이 안 좋게만 흘러간다고 볼 수 없다는 겁니다. 그래서 어 지난주 월요일 날 내려갔을 때 그거는 월 내려간 거 그거는 매크로이스 말고 요렇게 내려가는요 포인트는 회복이 돼야 되는게 맞다라고 말씀드리겠습니다.
이것 때문에 이게 안전이 더 좋아져서 엄청 메모리가 더 늘어나냐 이거는 아니죠. 네. 그거는 그거는 또 약간 설레발이야. 그렇게 할 수 있어요. 아, 안전을 다 갖추니까 4개월 전까지 안전을 덜 갖췄는데 안전을 갖추기를 했어. 그 서로간에 이렇게 뭐 이렇게 대화하고 해서이 땅에서 내년 1월 1일부터는 안전히 다 완벽해졌어. 네. 어, 아, 안전 완전히 안전하네. 그러면 안 쓰던 사람들이 AI를 더 써. 그렇게 따지면 메모리가 더 좋겠지. 그니까 이런 식으로 가져가면 안 되는 거죠. 네네 이을 한 건 아닌 신경 속도가 빠르 하게 됐다 그러면 신경을 안 썼다 하게 됐으니까 어 부정적 같은데 아까 말한 것처럼 루프 돌리는 횟수를 줄어도 한 번에 들어오는 메모리가 늘어나면 달라지고 점점점 갈수록 어 그래서 안전하다 느끼면 사람들이 더 들어갈 수 있겠죠 얘네들이 신경
쓰면은네 돈이 많이 들어가는 프란티어 모델은 덜 신경 쓰게 맞잖아요. 근데 어차피 프란티어 모델보다는 출론용 모델로 시장이 옮겨가고 있다니깐요. 처음에 시작할 때 대표님 보시면 3개월 3년 전에 보면은 그냥 출론이 없었죠. 네습 지금은 습대 50이에요. 내년 내년 되면 출론이 더 커져 그 추론이 더 커지는 알고 언어 모델도 걔들도 어디서 출론에서 돈을 버다니까요. 그니까이 프란티어 모델에서 아스트라 그 학습 모델을 하는 거 있잖아요. 그걸 안 한다는게 아니고 그거를 너무 빨리 하는 건 자기가 속도할 때 돈이 많이 들어가고 리소스가 많이 들어가기 때문에 그걸 자제할 필요가 있었다는 건데 이건 안전 핑계돼 가지고 같이 결 곁뿌린 거죠. 그래서 메모리 시장은 어떻게 될지 원래이 얘기가 없을 때 대비했을 때 특별히 더 네거티브하게 볼 건 없다. 이게 정확합니다.
Comments 0