Physical AI Notes
EN

배낭 강의

로봇에 탑재되어 인식 모델과 정책을 제시간에 실행하는 컴퓨터. 무거운 추론은 엣지 서버에서, 서보 제어와 안전 정지는 모터 드라이버에서 처리한다

로봇 부위

아직 공개한 강의가 없습니다. 준비 중인 주제는 아래와 같습니다.

개요

온보드 컴퓨터의 역할, 보드에서 처리하는 일과 보드 밖에 두는 일

  1. 온보드 컴퓨터의 역할: 보드에서 처리하는 일과 보드 밖에 두는 일공개 예정

    SoC 구조, JetPack 소프트웨어 스택, 서보와 안전 정지를 보드 밖에 두는 이유.

기본

Jetson 작업 환경 구성(JetPack·전원 모드·컨테이너), TensorRT 엔진 빌드와 지연 분포 측정, 보드에서 정책 실행하기

  1. Jetson 개발 키트로 작업 환경 구성하기: JetPack, 전원 모드, 컨테이너공개 예정

    JetPack 버전 구성, nvpmodel과 tegrastats, L4T 컨테이너에서 ROS 2 실행.

  2. TensorRT 엔진 빌드와 지연 분포 측정: trtexec, FP16, p50·p99공개 예정

    trtexec로 ONNX 모델을 FP16 엔진으로 빌드하기, p50·p99 지연 측정, 엔진이 빌드한 장치와 소프트웨어 버전에 묶이는 이유.

  3. 학습한 정책을 보드에서 실행하기: 동기식 추론 루프에서 로봇이 멈칫하는 이유공개 예정

    구간별 지연 측정과 액션 청크 경계마다 생기는 멈춤.

심화

오래 동작할 때의 성능 저하: 발열, 스로틀링, 전원 모드, 장시간 시험

  1. 로봇이 20분 뒤 느려지는 이유: 발열, 스로틀링, 전원 모드, 장시간 시험공개 예정

    스로틀링과 지속 성능, 전원 모드와 방열의 절충.

실전

지연 원인 찾기: Nsight Systems로 GPU 타임라인 분석하기

  1. 지연 원인 찾기: Nsight Systems로 GPU 타임라인 분석하기공개 예정

    전처리, 메모리 복사, 동기화 대기, GPU 경합에서 낭비되는 시간을 찾고 개선 효과를 p99 지연으로 확인한다.