온디바이스 생성형 AI 프라이버시 친화형 경량 모델 설계 트렌드
2025년 11월 9일온디바이스 생성형 AI의 개념과 아키텍처, 경량화 기법, 프라이버시 중심 설계 전략을 정리하고 실무 적용 가이드와 모니터링 팁을 제공한다.
온디바이스 생성형 AI의 개념과 아키텍처, 경량화 기법, 프라이버시 중심 설계 전략을 정리하고 실무 적용 가이드와 모니터링 팁을 제공한다.
AI 모델 양자화의 개념과 작동 원리를 설명합니다. QAT, PTQ, GPTQ, AWQ 비교와 실무 적용, 성능 분석까지 알아봅니다.