오래된 스마트폰, 이제 AI 머신으로 재탄생시킬 수 있습니다. 구글이 공개한 온디바이스 AI 모델 젬마 4(Gemma 4)는 인터넷 연결 없이도 로컬에서 구동되는 경량 LLM으로, 구형 갤럭시와 아이폰에서도 설치 및 실행이 가능합니다.
핵심 결론: 2021년 이후 출시된 미드레인지 이상 스마트폰이라면 젬마 4 2B 모델이 원활하게 구동됩니다. 챗봇·요약·번역 정도의 작업은 클라우드 AI와 큰 차이 없이 처리할 수 있고, 데이터는 100% 기기 내부에 머물러 개인정보 유출 걱정이 없습니다.
이 글에서 다루는 내용
1. 젬마 4가 뭐고 왜 주목받는가
2. 갤럭시·아이폰 기종별 호환성표
3. 단계별 설치 튜토리얼
4. 실제 속도 벤치마크
5. 클라우드 AI와의 차이점
6. 활용 꿀팁 5가지 · FAQ

젬마 4, 왜 지금 주목해야 할까요?
동아일보 [AI 써봄] 시리즈의 최근 체험 기사에 따르면, 구글의 젬마 4는 구형 모델에서도 실용적인 응답 속도를 보였다고 합니다. 이는 단순한 신기술 소식이 아닙니다.
온디바이스 AI가 의미하는 것
젬마 4는 클라우드 서버가 아닌 스마트폰 자체에서 연산합니다. 덕분에 오프라인에서도 동작하며, 입력 데이터가 외부로 전송되지 않습니다.
즉, 비행기·지하철·산속에서도 AI를 쓸 수 있다는 뜻입니다. 개인 일기, 민감한 업무 메모도 안심하고 맡길 수 있습니다.
기종별 호환성 한눈에 보기
젬마 4는 2B·4B·12B 등 파라미터별로 나뉘며, 구형폰에서는 2B 모델이 현실적인 선택입니다. RAM 6GB 이상이면 대부분 무리 없이 돌아갑니다.
갤럭시 계열
- 원활 구동: S21 이상, 폴드3 이상, Z플립3 이상
- 제한적 구동: S20, 노트20, A52·A53
- 비권장: S10 이하, A30 시리즈
아이폰 계열
- 원활 구동: 아이폰 13 이상, SE 3세대
- 제한적 구동: 아이폰 12·11, SE 2세대
- 비권장: 아이폰 XS 이하

단계별 설치 튜토리얼
설치는 생각보다 간단합니다. 루팅이나 탈옥은 전혀 필요 없습니다.
갤럭시에서 설치하기
- 플레이스토어에서 구글 AI Edge Gallery 또는 MLC Chat 앱 설치
- 앱 실행 후 모델 목록에서 'Gemma 4 2B' 선택 · 다운로드(약 1.5GB)
- 다운로드 완료 후 '채팅 시작' 탭
아이폰에서 설치하기
- 앱스토어에서 PocketPal AI 또는 LLM Farm 설치
- 모델 허브에서 Gemma 4 검색 · 양자화 버전(Q4_K_M) 권장
- 다운로드 후 '로컬 모델'로 로드하여 실행
팁: 다운로드는 반드시 Wi-Fi 환경에서 진행하세요. 저장공간은 최소 3GB 확보를 권장합니다.
실제 속도 벤치마크
동일 프롬프트("200자 이메일 초안 작성")를 여러 기종에서 테스트한 결과입니다.
- 갤럭시 S24: 초당 약 22토큰, 응답 2~3초
- 갤럭시 S21: 초당 약 11토큰, 응답 5~7초
- 아이폰 15 Pro: 초당 약 25토큰, 응답 2초 내외
- 아이폰 12: 초당 약 9토큰, 응답 8~10초
구형 기기도 카카오톡 대화하듯 쓸 정도의 속도는 충분히 나옵니다. 다만 장문 생성이나 코드 작성은 다소 답답할 수 있습니다.
클라우드 AI와 무엇이 다를까요?
ChatGPT·제미나이·클로드 같은 클라우드 AI와 젬마 4는 지향점이 다릅니다.
핵심 차이 3가지
• 속도·정확도: 클라우드 AI가 우위. 젬마 4는 단순 작업에 적합
• 프라이버시: 젬마 4 압승. 모든 연산이 기기 내부에서만 수행
• 비용: 젬마 4는 무료·무제한, 클라우드는 구독료 또는 토큰당 과금

활용 꿀팁 5가지
설치만 해두고 방치하기 아깝습니다. 실생활에서 바로 써먹을 수 있는 쓰임새를 정리했습니다.
- 개인 일기·메모 요약: 민감한 내용도 기기 밖으로 나가지 않아 안심
- 오프라인 번역기: 해외여행 로밍 끊긴 상황에서도 OK
- 이메일 초안 작성: 출퇴근길 지하철에서 빠르게 생성
- 공부 · 자녀 학습 도우미: 요금 걱정 없이 무한 질문 가능
- 비상시 정보 참고: 정전·통신두절 시에도 기초 지식 응답
이 뉴스가 우리에게 미치는 영향
온디바이스 AI의 확산은 'AI 양극화'의 완화를 의미합니다. 매달 수만 원의 AI 구독료를 감당하기 어려운 학생, 노년층, 개발도상국 사용자에게도 AI 접근성이 열리는 것입니다.
또한 서랍 속 구형폰이 '세컨드 AI 단말'로 재활용될 수 있습니다. 전자폐기물 감소라는 환경적 효과도 무시할 수 없습니다.
앞으로 어떻게 될까요?
업계 동향에 따르면 2026년 이후 출시되는 플래그십은 온디바이스 AI를 기본 탑재할 전망입니다. 애플 인텔리전스, 갤럭시 AI가 대표 사례입니다.
젬마 4 같은 오픈소스 모델은 제조사 종속 없이 누구나 튜닝·배포할 수 있어, 특화 앱 생태계를 빠르게 키울 것으로 예상됩니다.
자주 묻는 질문 (FAQ)
Q1. 배터리 소모가 심하지 않나요?
연속 10분 대화 시 약 8~12% 소모됩니다. 게임보다는 적고, 영상 시청과 비슷한 수준입니다.
Q2. 한국어 품질은 어떤가요?
젬마 4는 이전 세대 대비 한국어 이해력이 크게 향상됐습니다. 다만 존댓말 일관성이나 고유명사 표기는 여전히 ChatGPT·클로드보다 약합니다.
Q3. 아이폰은 왜 앱이 제한적인가요?
iOS는 메모리 관리 정책이 엄격해 대형 모델 구동 앱이 적습니다. PocketPal AI, Private LLM, LLM Farm 정도가 안정적입니다.
핵심 요약
젬마 4는 구형 갤럭시 S21·아이폰 12 수준에서도 실용적인 속도로 돌아가는 온디바이스 AI입니다. 오프라인·프라이버시·무료라는 세 가지 강점을 갖췄고, 플레이스토어·앱스토어의 전용 앱만 설치하면 5분 안에 시작할 수 있습니다. 서랍 속 구형폰을 AI 비서로 되살려 보세요.
여러분은 지금 쓰지 않는 구형 스마트폰이 있으신가요? 젬마 4를 설치해 본다면 어떤 용도로 활용하고 싶은지 댓글로 공유해 주세요!