오프라인 환경에서 작동하는 생존형 AI 어시스턴트 Survival LLM 공개
인터넷 연결 없이 로컬 컴퓨터에서 구동되는 Survival LLM이 공개되었습니다. FEMA, CDC 등 신뢰할 수 있는 출처의 데이터를 기반으로 답변하며 모든 응답에 원문을 표시합니다.
JORE2
인터넷 연결 없이 로컬 컴퓨터에서 구동되는 Survival LLM이 공개되었습니다. FEMA, CDC 등 신뢰할 수 있는 출처의 데이터를 기반으로 답변하며 모든 응답에 원문을 표시합니다.
올리버 그라브너가 포켓몬 쇼다운의 2대2 대전 형식에서 두 개의 대규모 언어 모델 에이전트가 협력하는 환경을 공개했습니다. 이 프로젝트는 GitHub 저장소 multi-agent-poke-showdown으로 배포되었습니다.
블로그 작성자 제러드 지겔은 자체 LLM 프록시를 운영하지 않으면 실제 토큰 사용량과 모델 호출 현황을 파악할 수 없다고 주장했다. 그는 제공자가 보여주는 분석 패널 데이터가 엔지니어링 의사결정에 필요한 시계열 통계와 거리가…
실시간 커뮤니케이션 플랫폼 기업 센드버드가 AI 전문 기업 업스테이지와 손잡고 국산 거대언어모델의 기업 현장 적용을 위한 협력에 나섰다. 양사는 자사 플랫폼과 자체 개발 모델을 연계해 실제 업무 환경에서의 검증 및 고도화를…
트래비스 스미스가 공개한 벤치마크 테스트에서 대형 언어모델이 19세기 전신 통신의 압축된 문체를 따를 경우 API 과금 대상인 출력 토큰이 약 절반 수준으로 줄어드는 결과가 확인되었습니다.
Ollaya가 LLM처럼 오픈 소스 결정 모델을 로컬에서 실행할 수 있는 도구를 공개했다. TypeSafe 호환 API를 지원하며 NVIDIA RTX 4090 기준 10ms 수준의 응답 속도를 제공한다.
Fly.io가 VSCode의 SSH 원격 편집 구조가 LLM 에이전트 실행 환경으로 부적합할 수 있다고 비판했다. 커뮤니티는 보안 통제 가능성을 반박하며 논쟁이 이어지고 있다.
에이전트가 스스로 학습한 경험을 재사용하는 방식이 주목받고 있습니다. IBM 연구진이 제안한 ALTK-Evolve 는 기존 ACE 와 달리 개별 가이드라인 형태로 지식을 저장해 토큰 소모를 획기적으로 줄였습니다. 같은 원리라…
거대 모델 중심의 AI 경쟁 속에서 14MB 크기의 경량화 모델 Needle2가 주목받고 있습니다. 스마트폰부터 웨어러블, 스마트홈 기기까지 저사양 하드웨어에서도 실시간 추론이 가능해지면서 온디바이스 AI의 패러다임이 바뀌고…
수천억 개의 파라미터를 가진 거대 언어 모델을 실용적인 크기로 압축하는 기술이 다시 주목받고 있습니다. 기존 방식의 막대한 연산 비용을 획기적으로 줄인 새로운 접근법이 등장하면서 기업들의 대규모 배포 장벽이 낮아질 전망입니다…