
AI news
안드로이드폰에서 오픈소스 LLM 구동 및 ADB 활용 가이드
안드로이드폰에서 오픈소스 LLM 구동 및 ADB 활용 가이드 안드로이드폰에서 오픈소스 LLM 구동 및 결과 추출 방법 1. 모바일 LLM 구동 접근법 * 경량 LLM 선택: 파라미터 40억 이하 모델 (MobileLLM, TinyLlama) * 최적화 기법: 양자화, 레이어 공유, 임베딩 최적화 2. 구현 방식 1. 경량 모델 다운로드 (ONNX, GGML 포맷) 2. Termux/모바일