이 OS 위에서 AI가 돈다 — 온디바이스 회의록 받아쓰기
①~④에서 만든 가벼운 Yocto OS 위에 오픈소스 whisper.cpp 컨테이너를 CDI GPU로 얹어, 한국어 회의 녹음을 장비 안에서 받아쓴 기록. 실시간의 약 4.5~5배 속도로, 녹음을 장비 밖으로 내보내지 않고.
On-device
데이터와 AI 추론을 외부 서버로 보내지 않고 장비 내부에서 처리하는 구성과 적용 사례 관련 글입니다.
데이터와 AI 추론을 외부 서버로 보내지 않고 장비 내부에서 처리하는 구성과 적용 사례 관련 글입니다.
①~④에서 만든 가벼운 Yocto OS 위에 오픈소스 whisper.cpp 컨테이너를 CDI GPU로 얹어, 한국어 회의 녹음을 장비 안에서 받아쓴 기록. 실시간의 약 4.5~5배 속도로, 녹음을 장비 밖으로 내보내지 않고.