2026년 9월 28일, Hacker News의 logicallee 사용자가 MicroLLM Lab 프로젝트를 게시하며 약 135포인트를 기록했다. 이 프로젝트는 stateofutopia.com/experiments/microllmlab 주소로 접속할 수 있으며, GitHub 저장소는 robss2020/microllm-lab이다.
핵심 기능은 서버 비용이나 계정 등록 없이 브라우저 내에서 Q4 양자화 방식으로 압축된 25M에서 360M 파라미터 규모의 소형 언어모델을 실행하는 것이다. WebGPU 기술을 활용해 하드웨어 가속을 지원하며, 로컬 환경에서 추론만 수행한다. 학습 과정은 포함되지 않았다.
사용자는 Chat, Benchmarks, Compare & Certificate, Custom eval 탭을 통해 모델을 비교하고 성능을 측정할 수 있다. 화면 상단의 HUD에는 백엔드 상태, 토큰 생성 속도, 첫 토큰 응답 시간, 자바스크립트 힙 메모리 사용량, GPU 버퍼 크기 등이 실시간으로 표시된다.
가중치는 사용자가 Load 버튼을 누르면 브라우저의 IndexedDB 캐시에 저장된다. 기본 설정은 WebGPU 우선이며, 실패 시 WASM과 JS 순으로 폴백하도록 문서화되어 있다. 하지만 일부 환경에서는 이 폴백이 작동하지 않는 사례가 보고되었다.
특히 Firefox v156.0.1 사용자들은 GPUShaderStage 정의 오류로 인해 엔진 로드 단계에서 실패하는 현상을 겪었다. Chromium 기반 브라우저에서는 정상적으로 작동한다는 피드백이 있었으나, Firefox에서의 파싱 및 로드 타임 에러는 해결되지 않은 상태로 남아 있다.
UI 측면에서도 비판이 제기됐다. 텍스트 크기가 너무 작고 정보 밀도가 높아 실제 인터페이스 접근 전에 불필요한 설명문을 스크롤해야 한다는 지적이다. 또한 푸터 링크 구성이나 HTTP 서빙 안내 문구의 명확성에 대한 의문도 나왔다.
모델 성능 검증 결과도 흥미롭다. PetitGPT research-v1 모델에게 2+2를 묻자 ‘양변에 2를 더하면 4’라는 논리적 비약을 섞어 답변하거나, 클로드 파블 5.1과의 비교 요청에 대해 엉뚱한 동화 내용을 생성하기도 했다. 이는 1억 파라미터 이하 모델의 객관적 테스트 통과율 측정을 위한 의도된 실패 사례로 해석될 수 있다.
현재까지 확인된 사실은 MicroLLM Lab이 온디바이스 프라이버시 보호와 제로 클라우드 비용을 목표로 하는 실험적 도구라는 점이다. 다만 주요 브라우저 중 하나인 Firefox에서의 기술적 장벽과 UI 가독성 문제는 여전히 개선 과제로 남아 있다.
작성자 소개
