LLM에 1866년 전신 문체 적용 시 출력 토큰 40~49% 감소
트래비스 스미스가 공개한 벤치마크 테스트에서 대형 언어모델이 19세기 전신 통신의 압축된 문체를 따를 경우 API 과금 대상인 출력 토큰이 약 절반 수준으로 줄어드는 결과가 확인되었습니다.
JORE2
토큰절감
클로드가 동굴사람처럼 말하기 시작했습니다: 토큰 절감 효과의 진실과 과장
클로드 코드 스킬이 동굴사람 화법을 통해 토큰 사용량을 75% 줄인다는 주장이 화제입니다. 하지만 이는 숨겨진 추론 토큰이 아닌 가시적인 출력 텍스트를 단순화한 결과이며, 실제 성능 저하 여부는 아직 검증 단계에 있습니다.