이 OS 위에서 AI가 돈다 — 온디바이스 회의록 받아쓰기
①~④에서 만든 가벼운 Yocto OS 위에 오픈소스 whisper.cpp 컨테이너를 CDI GPU로 얹어, 한국어 회의 녹음을 장비 안에서 받아쓴 기록. 실시간의 약 4.5~5배 속도로, 녹음을 장비 밖으로 내보내지 않고.
NVIDIA Jetson 플랫폼에서의 OS 구성, 부트 과정, 하드웨어 연동, AI 배포 관련 글입니다.
①~④에서 만든 가벼운 Yocto OS 위에 오픈소스 whisper.cpp 컨테이너를 CDI GPU로 얹어, 한국어 회의 녹음을 장비 안에서 받아쓴 기록. 실시간의 약 4.5~5배 속도로, 녹음을 장비 밖으로 내보내지 않고.
사람이 못 가는 Edge 장비에서 컨테이너를 무인으로 업데이트하고, 실패하면 이전 이미지로 자동 복귀하는 OTA v0를, running·health 두 게이트와 실패 주입 4개 시나리오로 검증한 기록.
슬림한 Yocto base에서 뺀 CUDA·TensorRT를 NVIDIA l4t-jetpack 컨테이너와 표준 CDI 모드로 되붙여, Jetson Orin의 iGPU를 컨테이너 안에서 인식·추론까지 검증한 기록.
meta-tegra 기반 Yocto 이미지를 Jetson Orin Nano에 빌드·플래시한 뒤, OS 식별값·커널·실패 서비스·A/B 슬롯으로 첫 부팅을 검증한 기록.
NVIDIA Jetson 개발 키트의 JetPack(Ubuntu) 이미지를 그대로 양산 제품에 싣는 건 왜 위험할까? 동일한 L4T 베이스에서 직접 측정한 rootfs 크기(최대 21배 차이)와 함께, 양산용 OS가 갖춰야 할 조건을 정리한다.