2029년 말까지 반도체 생산량을 모두 합쳐야 올해 말 수요를 채울 수 있고, 그 사이에도 수요는 계속 늘어나기 때문이라고 했어요.
원본 영상 조회 2.4만 · 좋아요 141 · 댓글 20 (11/3 기준)
GPU 100개로 130~140개 효율, 30~40% 높일 수 있어요
레블업은 GPU 하나에서 여러 프로그램을 동시에 돌리는 프랙셔널 GPU 기술을 2017~2018년에 세계 최초로 만들었어요. 작업 4개를 동시에 올리면 단일 작업 대비 성능이 96% 수준으로 떨어지지만, 그 4% 손실로 30~40% 효율을 올릴 수 있다고 했어요 08:21. 엔비디아, AMD, 인텔뿐 아니라 필리오사·리벨리온 같은 국내 MPU에도 적용하고 있다고 했어요 08:51. GPU끼리 연결된 네트워크를 가상화하는 기술도 따로 갖고 있어서, 네오클라우드들이 토큰 팩토리를 운영할 때 유용하다고 했어요 12:48.
GPU는 생각보다 연약해서 다운이 잘 돼요
우선 GPU가 우리가 생각하는 거보다 훨씬 더 연약한 물건입니다. GPU는 열이 엄청나게 나고 전기도 많이 써서 다운이 잘 된다고 했어요 16:31. GPU 1,000장을 두 달 동안 돌려 모델을 학습시키는 중에 GPU 하나가 멈추면 마지막 저장 지점부터 전체 작업을 다시 시작해야 하는데, 모델이 클수록 저장 시간도 오래 걸리고 수백 대가 동시에 데이터를 읽고 써야 해서 네트워크 부담도 크다고 했어요 17:17. 레블업의 소코반 오케스트레이터는 문제가 생기면 위에 보고하지 않고 현장 컴퓨터가 바로 해결한 뒤 사후 보고하는 구조라, 규모가 커질수록 전체 시스템 안정성이 유리하다고 했어요 18:34. 전 세계에서 오케스트레이터를 직접 만든 회사는 몇 개 되지 않는다고 했어요 14:16.
2029년 말 생산량을 합쳐야 올해 말 수요를 채울 수 있어요
TSMC는 생산 라인을 퍼센트 단위로 나눠 팔기 때문에 향후 몇 년치 GPU 생산량을 미리 계산할 수 있다고 했어요 27:52. 컨슈머 GPU는 올해 1,300만 개까지 생산 가능하고, HBM4* 같은 차세대 메모리는 공정 고도화로 수율이 떨어져 공급 증가에 한계가 있다고 했어요 29:17. 이 계산을 합치면 2029년 말까지 전체 생산량을 더해야 올해 말 수요를 채울 수 있어서, 3년간 가격이 떨어질 수 없다고 봤어요 30:49.
*HBM: HBM은 고대역폭 메모리의 약자로, 빠른 데이터 처리를 위한 고성능 D램입니다.
네오클라우드가 망해도 수요가 사라지지는 않아요
수요가 없어서 망하는 게 아니라 충분한 시점에 충분한 투자를 못 해서 경쟁에서 지는 것이라고 했어요 04:21. 한 번이라도 AI 루프에 들어간 분야는 생산성 향상이 너무 커서 나오는 것이 불가능하고, AI 확산 범위는 줄어들지 않는다고 했어요 33:20. 구글이 토큰 수요 700배에 데이터 센터를 30배밖에 못 지은 이유는 소프트웨어 최적화로 효율을 올렸기 때문이며, 래블업 같은 업체의 역할이 갈수록 커진다고 했어요 33:37. 래블업은 2025년 기준 반복 매출 비중 94.7%, 순매출 유지율 131.9%로 기존 고객이 이듬해 평균 30% 더 지출하는 구조라고 했어요 45:10. IPO*를 통해 400억 원을 조달해 테스트 하드웨어 확충과 미국·유럽·싱가포르 파트너사 6곳을 통한 해외 영업에 쓸 예정이라고 했어요 49:37.
*IPO(기업공개): IPO(기업공개)는 회사가 처음으로 자기 주식을 일반 투자자에게 파는 일을 말합니다.
신정규의 입장 강세AI 인프라
신정규는 AI GPU 수요가 공급보다 훨씬 빠르게 늘어 2029년까지 간극이 이어지고 가격도 떨어지기 어렵다고 봤어요. 네오클라우드가 망해도 데이터 센터와 수요는 사라지지 않으며, 소프트웨어 최적화 업체의 역할이 갈수록 커진다고 봤어요.
말한 사람의 견해를 옮긴 것이며 서비스의 투자 의견이 아니에요.