로봇의 연산은 어디서 도는가, 클라우드를 기다릴 수 없는 이유

엣지 AI를 다룬 글에서 스마트폰이 서버에 묻지 않고 기기 안에서 처리하는 흐름을 정리했다. 로봇에서는 같은 선택이 편의가 아니라 제약으로 나타난다. 스마트폰은 응답이 0.5초 늦으면 답답한 정도지만, 움직이는 로봇에게 0.5초는 이미 부딪힌 뒤다.

제어 주기가 예산을 정한다

로봇 제어는 정해진 주기로 돌아간다. 센서를 읽고, 판단하고, 모터에 명령을 보내는 한 바퀴가 정해진 시간 안에 끝나야 한다. 이 주기를 놓치면 성능이 조금 나빠지는 것이 아니라 제어가 불안정해진다.

여기에 큰 모델을 넣으면 계산이 맞지 않는다. 화면을 보고 다음 동작을 내놓는 VLA 계열 모델은 한 번 추론에 수백 밀리초에서 1초 이상을 쓰기도 한다. 그래서 실제 시스템은 계층을 나눈다.

빠른 층은 반드시 로봇 안에서 돌아야 하고, 느린 층은 밖에 있어도 된다. 어느 계층까지 로봇 안으로 넣을 것인가가 하드웨어 선택의 실제 질문이다.

네트워크를 신뢰할 수 없다는 전제

클라우드에 맡기지 못하는 이유는 속도만이 아니다. 창고 안쪽이나 공장 구석에서 무선 신호는 끊긴다. 평균 지연이 낮아도 가끔 튀는 구간이 있으면, 로봇은 그 순간 판단 없이 움직이게 된다.

안전 관련 판단을 네트워크 너머에 두지 않는다는 원칙이 여기서 나온다. 비상 정지와 충돌 회피는 통신 상태와 무관하게 동작해야 한다.

로봇의 연산 위치를 정하는 기준은 평균 지연이 아니라 최악의 지연이다. 평소 50밀리초라도 가끔 2초가 되는 경로에 안전을 걸 수는 없다.

전력과 발열이라는 한계

연산을 로봇 안으로 가져오면 다음 문제가 따라온다. 배터리로 움직이는 로봇에서 연산에 쓰는 전력은 곧 가동 시간에서 빠진다. 발열도 마찬가지다. 데이터센터처럼 냉각을 붙일 공간이 없다.

로봇용 연산 모듈이 성능뿐 아니라 전력 대비 성능으로 홍보되는 이유가 여기에 있다. NVIDIA는 로봇용 Jetson Thor 모듈을 소개하면서 성능과 함께 전력 효율과 소비 전력 범위를 함께 제시하는데, 이 조합이 로봇 설계에서 실제 제약 조건이기 때문이다.

모델을 줄이는 쪽과 스케줄링하는 쪽

한계 안에 모델을 넣는 방법은 두 갈래다.

• 모델을 줄인다. 양자화와 지식 증류로 크기를 낮추고, 동작을 여러 스텝씩 묶어 내놓아 호출 횟수를 줄인다.
• 자원을 나눈다. 하나의 연산 장치를 쪼개 제어 루프와 큰 모델이 서로를 굶기지 않게 한다. 큰 모델의 추론 요청이 제어 주기를 밀어내는 상황을 막는 장치다.

두 방법 모두 “모델을 더 크게”와 반대 방향이라는 점이 로보틱스의 특징이다. 언어 모델 쪽에서는 크기를 키우면 대체로 성능이 오르지만, 로봇에서는 크기를 키운 대가로 제어 주기를 놓치면 전체 성능이 떨어진다.

정리

로봇에서 연산 위치는 편의가 아니라 안전과 제어 주기가 정한다. 빠른 제어 층은 로봇 안에 두고 느린 계획 층만 밖에 두는 계층 구조가 일반적이며, 판단 기준은 평균 지연이 아니라 최악의 지연이다. 연산을 안으로 가져오면 전력과 발열이 가동 시간을 깎기 때문에, 모델을 줄이거나 자원을 분리하는 방식이 함께 쓰인다. 더 큰 모델이 항상 더 나은 답은 아니라는 점이 이 영역의 특징으로 보인다.