이 OS 위에서 AI가 돈다 — 온디바이스 회의록 받아쓰기
①~④에서 만든 가벼운 Yocto OS 위에 오픈소스 whisper.cpp 컨테이너를 CDI GPU로 얹어, 한국어 회의 녹음을 장비 안에서 받아쓴 기록. 실시간의 약 4.5~5배 속도로, 녹음을 장비 밖으로 내보내지 않고.
Edge 장비에서의 AI 모델 실행, on-device inference, 하드웨어 가속, 현장 배포 관련 글입니다.
①~④에서 만든 가벼운 Yocto OS 위에 오픈소스 whisper.cpp 컨테이너를 CDI GPU로 얹어, 한국어 회의 녹음을 장비 안에서 받아쓴 기록. 실시간의 약 4.5~5배 속도로, 녹음을 장비 밖으로 내보내지 않고.
사람이 못 가는 Edge 장비에서 컨테이너를 무인으로 업데이트하고, 실패하면 이전 이미지로 자동 복귀하는 OTA v0를, running·health 두 게이트와 실패 주입 4개 시나리오로 검증한 기록.