Physical AI Notes
EN

엣지 서버 강의

로봇과 같은 네트워크에서 무거운 모델 추론을 처리하는 워크스테이션. GR00T·π0 같은 VLA를 정책 서버로 실행해 두면 로봇이 이를 호출한다

로봇 주변

아직 공개한 강의가 없습니다. 준비 중인 주제는 아래와 같습니다.

개요

추론 위치를 결정하는 기준(온보드 컴퓨터·엣지 서버·데이터센터의 역할 분담), TOPS보다 먼저 볼 메모리 대역폭과 전력

  1. 추론 위치를 결정하는 기준: 온보드 컴퓨터, 엣지 서버, 데이터센터의 역할 분담공개 예정

    추론을 어디서 돌릴지 정하는 네 가지 기준(주기, 꼬리 지연, 연결 끊김, 데이터 양)과 위치별로 맡는 루프.

  2. TOPS보다 먼저 볼 숫자: 메모리 대역폭과 전력공개 예정

    batch=1 추론의 성능 상한과 스펙표 읽는 법.

기본

VLA 정책 서버를 구성하고 로봇에서 호출하기, 왕복 지연 측정

  1. VLA 정책 서버를 구성하고 로봇에서 호출하기: 요청·응답과 왕복 지연 측정공개 예정

    공개 예제(openpi 정책 서버, GR00T 추론 예제)를 띄우고 시뮬레이터 클라이언트에서 호출해 왕복 지연 분포를 잰다.

심화

루프라인 모델로 분석하는 VLA 추론, 양자화가 폐루프 성능에 미치는 영향(FP16·INT8 엔진 비교), 비동기 실행과 Real-Time Chunking

  1. 생성 모델의 추론 속도는 메모리 대역폭이 결정한다: 루프라인 모델로 분석하는 VLA 추론공개 예정

    토큰 방식과 flow matching 방식 VLA의 병목 차이, 메모리 대역폭이 정하는 성능 상한 계산.

  2. 양자화의 성능 손실은 폐루프에서 드러난다: FP16과 INT8 엔진 비교공개 예정

    FP16과 INT8 엔진의 순위가 오픈루프 오차와 폐루프 성공률에서 서로 뒤집히는 경우.

  3. 추론하는 동안에도 팔은 움직여야 한다: 비동기 실행과 Real-Time Chunking공개 예정

    추론 지연과 실행 구간(execution horizon)의 관계, 네 가지 실행 방식 비교.

실전

로봇 밖으로 옮길 수 있는 루프를 고르는 기준, 꼬리 지연과 연결 끊김 대비

  1. 어느 루프를 로봇 밖으로 옮길 수 있을까: 꼬리 지연과 연결 끊김 대비공개 예정

    주기, 꼬리 지연, 연결 끊김 대비, 데이터 양의 네 가지 기준과 제어·정책·인식 루프를 대상으로 한 tc netem 실험.