3.2GB로 끝내는 모바일 AI, Gemma 4 QAT가 뜨는 이유
고성능 AI 모델을 스마트폰과 노트북에서 가볍게 구동하는 시대가 열렸습니다. 구글의 Gemma 4 QAT 모델이 압축 효율성을 극대화하며 개발자들의 주목을 받고 있습니다.
JORE2
Gemma4
120억 파라미터로 GPT-4.1을 따라잡은 구글의 ‘엔코더 없는’ Gemma 4 12B
거대한 서버 없이도 개인 그래픽카드에서 실행 가능한 120억 파라미터 모델이 등장했습니다. 별도의 인코더 없이 텍스트와 이미지를 한 번에 처리하는 이 모델은 코딩 성능까지 기존 상위권 모델과 견줄 만해져 주목받고 있습니다.
로컬에서 1 년 치 영상을 인덱싱한 2021 맥북, 50GB 스왑이 말해주는 AI 시대의 새로운 전환점
고가의 서버 클러스터 없이도 개인용 맥북으로 1 년 치 영상 아카이브를 실시간 검색 가능하게 만든 사례가 기술계를 뒤흔들고 있습니다. 50GB 에 달하는 스왑 메모리 사용량이라는 극단적인 조건 속에서 성사된 이 실험은 '충분…
생성 속도가 3 배 빨라진 구글의 Gemma 4, 왜 지금 주목받는가
구글이 공개한 Gemma 4 의 멀티 토큰 예측 기술이 AI 추론 속도를 획기적으로 끌어올리며 기술계의 이목을 집중시키고 있습니다. 기존 메모리 대역폭 병목 현상을 우회해 성능 저하 없이 처리 속도를 3 배까지 높인 이 기술…