일간 논문

터미널 기반 코드 에이전트가 보편화되면서 에이전트 궤적은 대규모로 축적되었지만, 현실적이고 실행 가능한 환경은 여전히 부족하다. 그러나 에이전트 사후 학습이 실제로 요구하는 것은 환경이다. 각 환경은 재질의를 통해 검증 가능한 여러 작업으로 변환될 수 있고 실행 피드백을 제공하는 반면, 궤적은 단일 고정 데모일 뿐이다. 우리는 환경을 처음부터 생성하는 대신, 기존 궤적의 도구 실행 기록이 해당 궤적이 실행된 환경의 구조와 내용을 드러내므로 궤적 자체로부터 그 환경을 재구성하는 것이 가능하다는 점에 주목한다. 이에 따라 우리는 각 궤적을 재사용 가능한 환경으로 변환하고 이를 탐색하여 새로운 작업과 지속적 상호작용을 합성하는 프레임워크인 Terminal-Universe를 제안한다. 구체적으로, Terminal-Universe는 궤적에 기록된 파일 작업을 재생하여 에이전트가 수정하기 전 상태로 각 파일을 복원함으로써 부분 작업 공간을 구성하고, 완성 에이전트가 누락된 파일과 의존성을 보충한다. 이렇게 복구된 작업 공간에서 우리는 원래 의도된 작업을 재구성할 뿐만 아니라 완전히 새로운 작업도 합성한다. 또한 작업을 폭과 깊이라는 두 가지 상보적 축을 따라 확장한다. 폭 측면에서는 관련 환경 간의 방향성 의존 관계를 마이닝하고, 실제 개발에서 개발자들이 일상적으로 수행하는 것처럼 여러 코드베이스에 걸친 교차 작업 공간 쿼리를 합성한다. 깊이 측면에서는 초기 단일 턴 쿼리를 다중 라운드 세션으로 확장하여 사용자 에이전트를 통해 반복적 사용자 피드백과 요구사항 정제를 포착한다. 공개된 터미널 에이전트 궤적에 Terminal-Universe를 적용하면 37.3k개의 작업 수행이 가능한 환경이 생성된다. 이 코퍼스에 대한 Qwen3.5-27B의 지도 미세 조정은 Terminal-Bench 2.1에서 단일 턴 성능을 11.9포인트, EvoCode-Bench v2 MT@4에서 다중 턴 성능을 13.8포인트 향상시킨다.

본 논문에서는 처음부터 학습된 6B 디퓨전 트랜스포머(DiT)를 LLaDA2.0-Mini 디퓨전 언어 모델 백본 기반의 동결된 비전-언어 이해 모듈과 결합하는 통합 프레임워크인 LLaDA-Image를 제안한다. 초기부터 대량의 이미지-텍스트 쌍 데이터에 크게 의존하는 대신, 이미지 전용 사전 학습(Pre-training) 및 중간 학습(Mid-training)을 통해 강력한 시각적 생성 사전 지식을 먼저 구축한다. 생성 파이프라인은 220M 샘플로 구성되며, 이 중 98%는 실제 이미지이다. 효율적이고 확장 가능한 최적화를 위해 DiT 전체에 파라미터 프리 RMSNorm과 Muon 옵티마이저를 사용한다. 그 결과로 얻은 통합 모델은 세밀한 편집 지침을 정확히 따르면서 매우 사실적인 이미지를 생성한다. 또한 LLaDA-Image를 LLaDA-Image-Turbo로 증류하여 2~4회의 샘플링 스텝으로 빠른 추론을 가능하게 한다. Qwen-Image-Bench에서 LLaDA-Image는 영어 트랙과 중국어 트랙에서 각각 53.53과 53.38의 전체 점수를 달성하여 두 트랙 모두에서 오픈소스 모델 중 새로운 최첨단 성능을 기록했다. 유능하고 효율적인 생성 모델에 대한 추가 연구를 지원하기 위해 모델 가중치, 학습 코드 및 상세한 레시피를 공개한다.

대규모 언어 모델은 광범위한 기능을 제공하지만, 진화하는 도메인·도구·요구사항에 적응시키기 위해서는 반복적인 사후 학습이 필요한 경우가 많다. 자율 시스템은 업데이트 제안, 학습 후보 생성, 평가 피드백을 활용한 후속 제안 선택 과정을 자동화함으로써 이 프로세스의 일부를 수행한다. 증거가 축적됨에 따라 핵심 문제가 대두된다: 후속 학습이 상위 모델을 변경한 이후에도 과거 업데이트 증거 중 어느 것이 여전히 실행 가능한가? 업데이트의 효과는 상위 모델, 데이터, 학습 단계에 의존한다. 과거의 성공을 맥락과 무관한 허가로 간주하면 컴퓨팅 자원이 낭비될 수 있다. 결과적으로 생성된 하위 모델이 승격될 경우, 이후의 학습 궤적 또한 저하될 수 있다. 우리는 이 문제를 조건부 경험 전이(conditional experience transfer)로 정식화하고, 가중치 변경 학습 이전에 경험 재사용을 승인하는 경계 보정 개입 전이(Boundary-Calibrated Intervention Transfer, BCIT) 방법을 소개한다. BCIT는 관찰된 효과를 해당 출처 맥락에 결부시키고, 적용 가능성 조건을 확인하며, 명명된 하드 충돌이 있는 후보를 거부하고, 필요 시 제한된 학습 시행을 통해 현재 상태의 증거를 확보한다. 완전히 학습된 후보는 여전히 공동 채택 규칙에 직면하며, 관찰된 사건만이 메모리를 확장한다. 금융 추론, 텍스트-투-SQL, 함수 호출 영역에 걸쳐 적응된 4B 모델 실험에서, 후보 업데이트는 평가된 맥락 전반에 걸쳐 이질적인 목표 효과와 유지 효과를 나타냈다. 일치된 후보, 증거, 컴퓨팅 조건에서 BCIT는 평가된 대안들보다 더 적은 유해 업데이트를 승인하고 더 높은 동일 예산 최종 모델 품질을 달성했다. 이러한 결과는 경험 승인을 자율 사후 학습에서의 별개의 문제로 취급해야 함을 뒷받침한다.

대규모 언어 모델은 확장된 추론이 필요한 작업에서 우수한 성능을 달성하지만, 길게 이어지는 사고 과정은 KV 캐시를 심각한 메모리 병목으로 만든다. 기존의 KV 캐시 압축 기법들은 공통된 패러다임을 따른다. 즉, 캐시된 각 토큰에 그 토큰이 나중에 얼마나 중요할지에 대한 추정치를 점수로 부여하고, 높은 점수를 받은 토큰들을 유지하는 것이다. 우리는 선택 신호가 거의 아무 기여도 하지 않음을 보인다. Random Attention은 프롬프트를 유지하고 각 어텐션 헤드 내에서 토큰을 균일하게 무작위로 축출하며, 점수를 전혀 계산하지 않는다. 이 방법은 네 개의 모델과 여섯 개의 추론 과제에서 기존의 가장 강력한 축출 기법과 동등한 성능을 보이는 동시에, vLLM 배포 환경에서는 그 기법보다 32-43% 더 높은 처리량을 제공한다. 통제 실험은 이를 다음과 같이 설명한다. 첫째, 프롬프트는 캐시에서 취약한 부분이며, 선택 기법 간 성능 격차의 대부분은 단지 선택 신호가 우연히 프롬프트를 보존했는지의 여부일 뿐이다. 둘째, 추론 트레이스는 텍스트 내부와 어텐션 헤드들 간, 두 수준의 중복성을 통해 축출로부터 스스로를 보호한다. 텍스트 내부에서는 모델이 작업하면서도 여전히 필요한 내용을 다시 서술하며, 어텐션 헤드들 간에는 각 헤드가 해당 트레이스의 자체 사본을 유지한다. 따라서 프롬프트가 안전하게 보존되면, 무작위 추출만으로도 모델이 여전히 필요로 하는 내용의 충분한 사본이 유지되며, 이들을 선택하는 데 점수는 요구되지 않는다. 코드는 https://github.com/SalesforceAIResearch/Random-Attention에서 공개적으로 이용할 수 있다.

압축된 컨텍스트는 일반적으로 사람이 읽을 수 있는 텍스트 또는 디코딩이 필요한 렌더링 이미지로 전달되며, 이는 컨텍스트의 소비자가 언어 모델인 경우에도 마찬가지이다. 우리는 LatentPress를 제안한다. LatentPress는 대화 이력과 긴 문서를 텍스트와 이미지에 이은 제3의 표현 방식인 연속 메모리 토큰으로 기록하며, 동결된 디코더가 입력 임베딩 인터페이스를 통해 이를 직접 읽으므로 추론 시 텍스트 재구성이 필요 없다. 리더에 정합된 소규모 작성기는 디코더 매개변수의 약 0.1%에 해당하는 어댑터(4.2M-26.2M 매개변수)만 학습하면서 4-16배 압축을 수행한다. LongMemEval에서 LatentPress는 7.70배 압축 시 정확도 0.504를 달성하여 비압축 증거의 0.490을 능가하며, 텍스트 요약(0.184) 및 OCR 기반 압축(0.426~0.312)보다 우수하다. LongBench-QA에서는 도메인 내 작성기가 4-8배 압축에서 원문 컨텍스트 읽기와 동등하거나 이를 초과하는 성능을 보이나, 16배 압축에서는 원문에 뒤처진다. 작성은 대화당 43ms가 소요되어 텍스트 요약이나 OCR 재구성보다 약 10배 빠르며, 읽기는 원문 컨텍스트나 캐시된 OCR보다 5-9배 빠르다. 우리는 UltraChat에서 LongMemEval 메모리 QA로의 제로샷 전이 및 LongMemEval 파생 QA에서 보지 못한 LongBench 문서 도메인으로의 전이라는 두 가지 전이 설정에서 해당 인터페이스를 검증하여, 직접적인 소프트 토큰이 텍스트와 비전을 넘어선 실용적인 기계 지향 컨텍스트 인터페이스임을 입증한다. 실험 구현은 https://github.com/xuyd16ai/context_softtoken_compress 에서 확인할 수 있다.

하이브리드 LLM은 소프트맥스 어텐션과 Gated DeltaNet(GDN) 같은 선형 어텐션 계층들을 결합하며, 이 계층들의 순환 상태는 고정된 크기로 문맥을 요약한다. Qwen3.8-27B(48개 GDN 계층, 16개 어텐션 계층)에 대한 초기 커뮤니티의 4비트 양자화는 GDN 블록, 특히 그 decay 및 write-strength 게이트를 8비트 또는 16비트 정밀도로 유지했다. 순환 구조에서 발생하는 오류가 긴 문맥에 걸쳐 누적될 것이라는 직관 때문이다. 우리는 Minima를 구축하여 이 직관을 시험한다. Minima는 GDN을 포함한 총 496개의 선형 계층에 NVFP4 W4A4를 적용한 모델이다. 4K/32K 문맥에서의 perplexity, MMLU-Pro, GSM8K, AIME'25, GPQA-Diamond, LiveCodeBench, 64K까지의 RULER 검색 태스크 전반에 걸쳐, Minima는 시드 노이즈 범위 내에서 BF16과 일치하며(5개 과제 평균 -0.52), 비교 대상 중 가장 작은 용량(17.5 GiB)과 가장 빠른 프리필(+14~19%)을 제공한다. 또한 32K perplexity 격차는 위치가 증가함에 따라 줄어든다. 네 부분으로 구성된 메커니즘 연구가 그 이유를 설명한다. (i) NVFP4의 16-요소 블록 스케일링은 잔차 스트림의 극단적 이상치를 국소화하여 계층 역할에 따른 활성화 오류를 평준화한다. (ii) 취약할 것으로 예상되었던 게이트 투영은 실제로는 민감도가 가장 낮다. softplus/exponential 및 sigmoid 파라미터화가 GEMM 오류의 약 11%를 출력 오류의 약 2%로 압축하기 때문이다. (iii) 델타 규칙 순환은 주입된 노이즈를 32K 토큰에 걸쳐 평평한 고원 수준으로 유지하며 수백 스텝 내에 상태 임펄스를 잊는다. 각 쓰기(write) 연산이 현재 키 방향을 따라 상태를 덮어쓰기 때문이다. (iv) 토큰별 양자화 비용은 누적되지 않고 문맥이 길어질수록 희석된다. 또한 우리는 모듈별로 보정된 NVFP4 체크포인트를 해당 모듈들을 단일 GEMM으로 융합하는 커널로 서빙할 때 발생하는 전역 스케일 불일치를 해결하고, 보정된 FP8 KV-캐시 스케일은 성능 손실이 없음을 보인다. 그 결과는 실용적인 방법, 즉 모든 것을 양자화하고 KV 스케일을 포함하는 방식과, 하이브리드 LLM의 순환 절반이 양자화하기 쉬운 절반인 이유에 대한 메커니즘적 설명으로 요약된다. 체크포인트: https://huggingface.co/minima-ai/mnma_qwen3.8_27b_nvfp4

온-폴리시 증류(OPD)는 학생이 생성한 롤아웃과 교사로부터의 토큰 수준 조밀한 지도를 결합한다. 기존 연구는 주로 그 알고리즘적 동작을 연구해 왔으며, 훈련 데이터의 역할은 불분명하게 남아 있다. 우리는 단일 쿼리로 훈련하는 데이터-최소 극한에서 이러한 역할을 조사한다. 단일 쿼리를 사용하는 OPD(one-shot OPD)는 수백 스텝에 걸쳐 계속 개선되며, 과제 도메인과 모델 계열 전반에서 전체 데이터 OPD가 얻는 성과의 대부분을 회복한다. 우리는 훈련 중 방문되는 상태와 학생이 교사와 정렬되는 속도를 통해 이 결과를 설명한다. 상태 커버리지, 즉 전체 데이터 OPD가 방문하는 상태 중 쿼리 집합의 롤아웃이 도달하는 상태의 비율을 측정했다. 단일 쿼리만으로도 이미 71.5%에 도달하며, 이 중 대부분은 처음 100스텝 안에 도달한다. 의미적으로 구별되는 쿼리를 추가하면 커버리지와 검증 정확도가 함께 상승하여, 16개의 쿼리에서는 98.9%에 도달해 전체 데이터 훈련과 일치한다. 그러나 정렬 속도는 OPD가 단일 쿼리로 훈련하는지 전체 데이터셋으로 훈련하는지와 관계없이 비슷한 방식으로 느려지며, 고정된 상태 집합조차 흡수하는 데 수백 스텝이 걸린다. 따라서 OPD는 데이터는 과잉 공급되지만 알고리즘은 기아 상태에 있다. OPD의 롤아웃은 넓은 지도를 신속하게 노출하지만, 학생은 그 지도를 점점 더 느리게 흡수한다. 상태 커버리지 결과는 다중 교사 OPD(MOPD)로 확장되는데, 도메인당 16개의 의미적으로 다양한 쿼리가 전체 데이터 MOPD와 일치한다. 추가적인 스트레스 테스트로서, 내용이 빈약한 템플릿과 도메인 밖 WildChat 쿼리도 실제 쿼리 기준선에 근접했다. 따라서 과제 내용과 유도된 상태 커버리지는 분리될 수 있다. 우리는 이러한 결과가 향후 연구를 OPD의 스텝 효율성으로 이끌고, 최근 프론티어 포스트-트레이닝에서의 성공 뒤에 있는 데이터와 메커니즘에 대한 재검토를 촉발하길 기대한다.

우리는 물리 이해, 공간 시뮬레이션, 3D 세계 생성 및 재구성을 외부 오프라인 모듈에 의존하지 않고 통합하는 다중 모달 아키텍처인 Puffin-World를 제안한다. 3D 세계를 안정적으로 구축하고 상호작용하기 위해, 본 프레임워크는 다양한 작업과 유연한 움직임을 지원하는 통합 Omni-Camera 표현과 함께 물리(중력장 및 위도), 기하(깊이), 외관(이미지)이라는 세 가지 고유 세계 상태를 공동으로 모델링한다. 이러한 상태들의 모델링을 넘어, 우리는 미래 프레임들에 걸쳐 물리적 역학을 전파하는 전략을 도입한다. 절대 카메라 속성을 실제 세계에 근거 지음으로써 Puffin-World는 물리적으로 일관되고 시각적으로 안정적인 세계 생성을 가능하게 한다. 또한 우리는 단일 생성 과정에서 외관과 기하를 결합하여 각 미래 뷰를 공동으로 합성하고 그 기저 기하를 재구성한다. 이러한 통합 패러다임은 모방(mimic) 및 자가 교정(self-calibrated) 세계 탐험을 포함하여 여러 작업 간의 시너지를 요구하는 교차적 폐루프 응용을 가능하게 한다. 복잡한 시나리오로 Puffin-World를 확장하기 위해, 우리는 다양한 도전적 움직임을 포함하는 1,500만 개의 비전-언어-카메라 트리플릿과 100만 개의 궤적으로 구성된 Puffin-16M을 구축한다. 이 분야의 추가 연구를 촉진하기 위해 코드, 모델, 데이터셋을 공개한다.

온라인 3D 재구성 모델은 긴 비디오에서 성능이 좋지 않다. 이는 고정된 첫 프레임 앵커에 대한 상대 포즈 회귀가 훈련 분포를 훨씬 벗어난 외삽을 강제하기 때문이다. 작은 드리프트가 누적되고 증폭되어 심각한 기하학적 붕괴로 이어진다. 그러나 우리는 이러한 실패 전반에 걸쳐 프레임별 깊이가 안정적으로 유지된다는 점을 관찰한다. 백본의 로컬 기하학은 온전하게 유지되며, 전역 포즈 헤드만 붕괴된다. 이러한 분리에 착안하여 우리는 Scal3R을 제안한다. 이 접근법은 온라인 재구성을 다중 기준 프레임에 대한 상대 포즈 질의 방식으로 재구성한다. 우리는 파라미터의 약 1%를 차지하는 경량의 학습 가능한 토큰을 사용하고, 비대칭 어텐션을 통해 완전히 동결된 백본에 이 토큰들을 주입한다. 이 설정은 과거의 여러 키프레임을 기준으로 포즈를 질의한다. 루프 폐쇄를 갖춘 온라인 포즈 그래프 최적화 시스템이 장거리 드리프트를 억제한다. Scal3R은 단일 GPU에서 8시간 만에 수렴한다. KITTI에서 온라인 기준선 대비 평균 ATE를 60% 이상 감소시킨다. 또한 Virtual KITTI, Sintel, TUM-Dynamic, ScanNet, 7-Scenes 전반에서 최첨단 성능을 달성한다. 프로젝트 페이지: https://linjohnss.github.io/scal3r/

확산 기반 모델(예: GPT-Image-2 및 Nano-Banana)은 뛰어난 시각적 표현력을 보여 주지만, 엔드투엔드 생성은 근본적으로 텍스트 오류가 잦고 레이어가 병합된 비트맵을 산출하므로 레이어 단위 후편집이 불가능하다. 반면, 코딩 에이전트(Coding Agent)를 통한 코드 기반 시각 생성은 정밀한 레이아웃 제어와 분리된 레이어를 제공하지만, 전역적 미적 직관이 부족하고 복잡한 시각 자산을 코딩하기 어렵다는 제약을 지닌다. 이 문제를 해결하기 위해, 우리는 코딩 에이전트가 주도하는 Editable Visual Design(편집 가능한 시각 디자인)이라는 새로운 패러다임을 제안한다. VLM(비전-언어 모델)을 요구사항 이해, 작업 계획, 미적 판단을 위한 '창의적 두뇌'로 지정하고, 이미지 생성 모델을 요청 시 독립형 시각 자산을 합성하는 '시각 세계 시뮬레이터'로 활용한다. 에이전트는 '먼저 상상한 뒤 실행한다'는 폐쇄 루프 워크플로 아래에서 개별 자산을 생성하고, 네이티브 HTML/CSS를 작성하며, 시각적 렌더링 피드백에 따라 디자인을 반복적으로 개선한다. 또한, Agent Design Replay는 전문 인간 디자이너와 유사한 창의적 사고 및 추론 궤적을 충실하게 재현한다. 궁극적으로, 이 시스템은 레이어가 분리되고 실제 텍스트를 포함한 편집 가능한 산출물을 제공하여 사용자가 그래픽 사용자 인터페이스에서 직관적인 마우스 드래그와 레이아웃 조정을 수행할 수 있게 한다. 포스터, 인포그래픽 및 기타 시나리오에 대한 검증은 이 패러다임이 정교한 미적 완성도와 프로덕션 수준의 편집 가능성을 성공적으로 함께 달성함을 보여 준다.

오디오-비디오 공동 생성 모델은 시각 품질과 오디오-비디오 동기화 측면에서 상당한 진전을 이루었다. 그러나 이러한 모델들은 샷 전환이 발생하는 시점과 대사가 발화되는 시점에 대한 제어는 여전히 제한적이다. 이러한 제약은 시간 오류가 서사적 일관성과 시청 경험을 저해할 수 있는 대본 기반 콘텐츠 생성에의 적용을 제한한다. 현재의 공동 생성기들은 비디오와 오디오 표현을 공유된 시간 축 위에 정렬하지만, 구조화된 프롬프트에 명시된 샷과 대사의 정밀한 타이밍은 프롬프트의 텍스트 표현에만 인코딩될 뿐 두 모달리티 중 어느 것의 시간 좌표와도 정렬되지 않은 상태로 남는다. 그 결과 비디오와 오디오는 서로 동기화된 상태를 유지할 수 있지만, 둘 다 대본 타임라인을 따르지 못할 수 있다. 이러한 불일치는 시간적 정렬을 비디오와 오디오를 넘어 구조화된 대본까지 포함하도록 확장해야 할 동기를 제공한다. 이에 우리는 TCR(Temporal Context Routing)을 제안한다. TCR은 대본 타이밍을 비디오 및 오디오 생성의 공유 시간 축에 매핑하고, 각 프롬프트의 안내 정보를 두 모달리티의 해당 위치로 라우팅한다. 200개의 테스트 대본에 대해 기준 모델과 비교했을 때, TCR은 샷 경계 MAE를 1.11초에서 0.042초로 96% 감소시키고 대사 Acc@0.5s를 28.3%에서 84.1%로 향상시킨다. TCR은 이러한 개선을 이루면서도 기준 모델과 유사한 수준의 시각 품질과 오디오-비디오 동기화를 유지한다. 사용자 연구는 또한 참가자들이 평가된 다섯 가지 차원 모두에서 TCR을 선호함을 보여준다.

스트리밍 비디오 이해는 다중모달 대규모 언어 모델(MLLM)이 엄격한 인과성과 제한된 메모리 하에서 연속적인 시각 입력을 처리하고 사용자 질의에 응답할 것을 요구한다. 기존 접근법은 일반적으로 과거 관측치를 외부 메모리 뱅크로 압축하고 질의 관련 증거를 추가적인 시각적 맥락으로 검색한다. 효과적이기는 하지만, 이러한 저장-검색 패러다임은 과거 증거를 외부 시각적 맥락으로 유지함으로써, 이를 스트리밍 추론을 지속적으로 안내할 수 있는 간결하고 진화하는 잠재 메모리로 내면화하는 것을 방해한다. 이러한 격차를 해소하기 위해, 우리는 스트리밍 메모리를 저장-검색에서 검색-내면화로 전환하는 점진적 잠재 작업 메모리 프레임워크인 LatentStream을 소개한다. 구체적으로, LatentStream은 세 가지 상호 조정된 구성 요소로 이루어진다. 첫째, 쿼리 비의존적 계층적 스트리밍 메모리(Query-agnostic Hierarchical Streaming Memory)는 Jenks 기반 적응형 통합을 통해 고정 메모리 예산 하에서 시각적 이력을 단기, 중기, 장기 수준으로 구성한다. 질의가 도착하면, 계층적 잠재 메모리 진화(Hierarchical Latent Memory Evolution)는 잠재 메모리 토큰 그룹에 점진적으로 확장되는 메모리 수용 필드를 부여하여, 해당 범위에서 과거 증거를 반복적으로 검색하고 이를 간결하고 고정 길이의 잠재 메모리로 내면화할 수 있게 한다. 마지막으로, 점진적 신뢰도 기반 잠재 메모리 최적화(Progressive Confidence-guided Latent Memory Optimization)는 그룹별 예측 엔트로피로부터 계층적 진행 보상을 구축하고 잠재 메모리 토큰과 검색된 증거를 공동으로 정제함으로써 점점 더 자신 있는 스트리밍 추론을 장려한다. 광범위한 실험을 통해 LatentStream이 기존 온라인 및 오프라인 비디오 벤치마크에서 새로운 최첨단 결과를 달성함을 입증한다.

MLLM 기반 임베딩 모델은 구성적 검색에서 여전히 제한적이며, 동일한 개념을 포함하되 서로 다른 속성-객체 결합을 지닌 장면들을 구분하지 못하는 경우가 많다. 그러나 동일한 백본(backbone)은 교차 주의 재순위화기(cross-attentive reranker)로 사용될 때 그러한 구분을 해결할 수 있으며, 이는 임베딩 모델로 구성적 판단을 증류하도록 하는 동기를 제공한다. 본 연구에서는 CORE를 제안한다. CORE는 다섯 가지 구성적 정합 수준을 포괄하는 후보 목록을 합성하고, 재순위화기의 세밀한 순위를 임베딩 모델이 재현하도록 훈련시키는 Rank-KL 목적 함수를 도입한다. 또한 등급화된 평가 프로토콜을 제안하고, 동일한 데이터 및 튜닝 예산 하에서 대조 학습, 쌍별 CoSENT, 목록별 Rank-KL을 비교한다. 비교 결과, CoSENT와 Rank-KL은 모두 대조 학습보다 다중 수준 지도 정보를 더 효과적으로 활용하며, Rank-KL이 전반적으로 가장 우수한 성능을 달성한다. 세 가지 구성적 추론 벤치마크(COLA, SUGARCREPE++, NEGBENCH)에서 CORE-RERANKER-8B는 총평균 82.7%를 기록하여 Jina-Reranker를 10.7포인트 능가하며, CORE-EMBED-8B는 평가된 모든 임베딩 모델 중 최고 총평균(0.666)을 달성한다. 이러한 개선은 COCO 및 Flickr30K에서의 검색 성능 저하 없이 MCMR 벤치마크로 전이된다.

검증 가능한 보상으로부터의 강화 학습은 작업에 프로그래밍 방식의 검사기가 있을 때 효과적이지만, 대부분의 장기 지평 에이전트 도메인에는 그러한 검사기가 없습니다. 우리는 실측 성공 신호를 얻을 수 없는 결과 블라인드 설정을 다룹니다. 다중 기준 루브릭은 그러한 보상을 제공하는 널리 쓰이는 방법입니다. 루브릭은 궤적당 한 번만 채점되지만, 단일 스칼라 값은 수십 단계에 걸친 신호로는 부족합니다. 이에 우리는 신용 최적화를 위한 루브릭 기반 이점 분배(DRACO)를 제안합니다. DRACO는 훈련 중 정책의 변화하는 능력을 추적하도록 루브릭을 동적으로 생성하고, 완료된 궤적마다 해당 루브릭을 한 번 채점한 다음, 그 채점 결과를 주석이 달린 루브릭과 관련된 단계들에 재분배하여 GRPO에서 차별화된 단계별 이점을 생성합니다. 이 재분배는 닫힌 형태로 이루어지며, 학습된 기여도 할당 모듈을 도입하지 않습니다. AppWorld에서 DRACO는 검증기를 전혀 직접 사용하지 않음에도 불구하고 기본 모델보다 15.9점, 희소 실측 보상으로 훈련된 GRPO보다 5.3점 높은 성능을 얻습니다. 도메인 밖(out-of-domain) Tau-Bench에서는 최첨단 평가자 없이도 기본 모델보다 5.3점 높은 성능을 보여, 실측 보상 훈련 및 다른 루브릭 기반 훈련 설정을 모두 능가합니다. DRACO의 코드는 https://github.com/IBM/draco에서 확인할 수 있습니다.

개인화 비서는 사용자 요청을 수행할 뿐만 아니라, 해당 요청이 사용자의 현재 상황에 비추어 적절한지도 평가해야 한다. 그러나 기존 연구는 주로 요청의 정확한 실행에 초점을 맞추어 왔으며, 비서가 맥락을 고려하고 갈등 기반 거부(conflict-based refusal)에 참여해야 할 필요성은 간과해 왔다. 또한, 기존의 갈등 또는 안전 탐지 연구는 명시적으로 제공된 요소에 의존하는 반면, 실제 세계 시나리오에서는 지식 베이스(KB)에서 검색되어야 하는 암묵적 요소가 자주 수반된다. 이러한 문제를 해결하기 위해, 우리는 겉으로는 합리적으로 보이는 사용자 요청을 부적절하게 만드는 잠재적 제약 조건(자기중심적 지식 또는 사건으로 표현됨)을 모델이 식별할 수 있는지 평가하기 위한 데이터셋인 PACE(Personalized Assistants for Conflict Evaluation)를 소개한다. PACE는 잘 정의된 페르소나에 기반한 사용자 요청을 자기중심적 KB 사실과 짝지어, 모델이 맥락적 증거를 통합하여 요청이 갈등을 유발하는지 여부를 판단하도록 요구한다. 이러한 암묵적 검색 설정은 사용자 요청과 갈등 유발 지식 사이의 직접적 연관을 방해하여, 기존 모델이 관련 사용자별 사실을 식별하기 어렵게 만든다. 이 문제를 해결하기 위해 우리는 맥락적으로 결정적인 증거를 검색하기 위해 전문화된 에이전트들이 질의 재구성, 다중 홉 그래프 탐색, 갈등 인식 필터링에 걸쳐 협력하는 다중 에이전트 프레임워크인 PaceMaker를 추가로 제안한다. PACE에 대한 실험은 증거 검색 품질과 갈등 판단 정확도를 모두 평가하며, PaceMaker가 기존 접근 방식보다 일관되게 우수한 성능을 보임을 입증한다.

코딩 에이전트는 현재 SWE-bench 계열 벤치마크로 흔히 평가되는데, 이 벤치마크의 과제는 길고 구조화되어 있으며 정보가 풍부한 선별된 GitHub 이슈로부터 구축된다. 그러나 실제 사용자 요청은 대개 훨씬 짧고 덜 구조화되어 있다. 이러한 격차를 특성화하기 위해 우리는 여섯 가지 범주의 정보 분류 체계와 네 가지 차원의 언어적 스타일을 정의하고, 이를 SWE-chat의 실제 사용자 프롬프트와 SWE-bench Verified 및 Pro의 문제 설명에 적용하였다. 그 결과, 문제 설명만을 포함하거나 문제 설명과 제한된 추가 맥락만을 포함하는 요청이 실제 프롬프트의 88%를 차지하지만 벤치마크 문제의 7%에 불과함을 발견하였다. 또한 실제 프롬프트의 87%는 비격식적으로 작성된 반면, 벤치마크 문제의 94%는 격식 있는 문체로 작성되었다. 이러한 관찰을 바탕으로 우리는 SWE-bench Verified와 Pro에서 파생된 381개의 다중 변형 과제군인 RealSWE를 도입한다. 각 과제군 내 변형들은 동일한 기본 과제와 정답 패치(gold patch)를 공유하며, 정보 구성과 언어적 스타일에서만 차이를 보인다. RealSWE로 최신 LLM 일곱 개를 평가한 결과, i) 현실적인 입력은 해결률을 평균 6.4퍼센트 포인트 낮추며 모델 순위를 바꿀 수 있다. 통제된 분석은 추가로 ii) Desired Behavior와 Motivation을 포함하는 것은 성능에 유의미한 영향을 미치는 반면, Environment Information과 Reproduction Steps는 측정 가능한 이점 없이 단지 토큰만 추가하며, iii) 언어적 스타일은 작고 모델 의존적인 영향만 미친다는 것을 보여준다. 이러한 결과는 사용자와 에이전트에게 실행 가능한 지침을 제공한다. 즉, 대부분의 실제 프롬프트에서 누락되는 원하는 동작과 동기를 명시적으로 기술하면 LLM의 소프트웨어 엔지니어링 성능이 크게 향상된다.

카메라 조건부 세계 모델은 명령된 행동이 기대된 장면 변화를 유도하면서 외관, 기하 구조, 시간적 역학이 일관되게 유지되는 인터랙티브 비디오를 생성한다. 기존 보상은 이러한 요구 사항을 개별적으로 평가한다. 기하 기반 보상은 궤적 실행을 추정할 수 있지만 실행된 행동의 시각적 품질을 판단하지 못하며, 이미지 기반 보상은 프레임 품질을 측정할 뿐 행동 실행이나 시간적 역학을 포착하지 못한다. 우리는 비전-언어 모델(VLM)이 행동과 그 시각적 결과를 연관 짓는 공유 추론 공간을 제공한다고 가정한다. 그러나 긴 비디오 전체를 전체 행동 시퀀스와 대조하여 평가하면 길고 잡음이 많은 맥락이 형성되어, 짧게 지속되는 국소적 행동 증거가 누락되거나 희석될 수 있다. 본 논문은 카메라 조건부 세계 모델을 위한 행동 일관성 평가와 시각 품질 평가를 통합하는 VLM 기반 쌍별 선호 보상 모델인 WorldReward를 제안한다. WorldReward는 쌍을 이루는 비디오를 행동 정렬 청크로 분해하고, 각 청크를 구조화된 시각적 증거로 구성하며, 투표를 통해 청크 수준 결정을 비디오 수준의 행동 선호와 시각 품질 선호로 각각 집계한다. 이를 훈련하기 위해, 우리는 프런티어 VLM이 생성한 구조화된 판단을 도구 기반 에이전트 감사와 선별적 인간 검토로 정제한 대규모 추론 증강 선호 데이터셋을 구축한다. 또한 행동 일관성, 외관 품질, 움직임 품질 전반에서 보상 모델과 인간 선호 사이의 일치도를 측정하는 인간 주석 벤치마크인 WorldReward-Bench를 소개한다. WorldReward는 행동 일관성, 외관 품질, 움직임 품질의 세 차원 모두에서 가장 높은 일치도를 기록하며, GPT-5.5를 각각 3.42, 1.45, 3.56퍼센트 포인트 초과한다. WorldReward를 HY-WorldPlay 1.5의 RL 후속 훈련에 적용하면 단기부터 장기까지의 시간 지평 전반에 걸쳐 행동 실행과 시각 품질이 모두 일관되게 향상된다.

과학적 진보를 위해서는 최첨단 모델의 한계를 시험하는 벤치마크와 실패 사례를 알려주는 평가 방법이 필요하다. 모델이 점점 강력해짐에 따라 기계 번역의 표준 벤치마크는 포화 상태에 이르고 있다. 또한 자동 번역 평가 지표는 신뢰할 수 없고, 보상 해킹에 취약하며, 실행 가능한 평가를 제공하지 못한다. 금본위 인간 평가조차도 문제가 없는 것은 아니다. 재현성, 객관성, 확장성이 부족한 경우가 많기 때문이다. 전반적으로 이러한 상황은 해당 분야의 객관적 진전을 추적하고 개선 경로를 식별하는 것을 저해한다. 우리는 최첨단 기계 번역 모델들을 무너뜨리는 인간 작성 및 동료 검토를 거친 예시(텍스트, 이미지, 오디오, 비디오) 모음인 Last Translation Benchmark를 소개한다. 또한 새로운 평가 방식을 제시한다: 각 예시에는 해당 예시에서의 구체적인 실패 사례를 설명하는 수작업 검증 규칙이 포함되어 있어, 신뢰할 수 있고 실행 가능한 향후 평가를 가능하게 한다. Last Translation Benchmark는 지속적인 기여를 받는 실시간 데이터셋이다. 최신 버전은 LTBv1로, 2026년 9월 1일 이전에 접수된 기여분을 포함하며, 새로운 데이터가 지속적으로 수집됨에 따라 향후 릴리스가 계획되어 있다.

We present FlashRender, a few-step generative rendering framework that retakes a source video along a target camera trajectory in seconds. We identify sampling-step-dependent camera control as a prominent manifestation of discretization error in existing multi-step generative rendering models and show that resolving this inconsistency substantially lowers denoising trajectory curvature, facilitating subsequent step distillation. To this end, we introduce Representation Transformation and Alignment (RETA), which aligns hidden source-video representations with target-video features from a frozen visual geometry model. This directly encodes the geometric transformation within the source-video stream, enabling sampling-step-consistent camera control. We then fine-tune the model with the MeanFlow objective on the lower-curvature denoising trajectory induced by RETA, allowing the model to more effectively address discretization error. Finally, we apply on-policy flow map distillation to correct self-rollout errors under fixed few-step sampling. Extensive experiments show that RETA, MeanFlow, and on-policy flow map distillation play complementary roles in few-step generative rendering. Together, they enable our approach to match multi-step baselines in video quality and geometric consistency at 25x lower sampling cost while achieving superior camera controllability, even under out-of-distribution target camera trajectories.

에이전트의 행동을 이해하려면 수천 개의 궤적을 분석할 수 있을 정도로 확장 가능하며, 사전 구축된 분류기가 한계를 보이는 길고 생소한 과제들에서 새로운 패턴을 발견할 수 있는 방법이 필요하다. 본 논문에서는 사회과학에서 60년의 역사를 지닌 질적 연구 방법인 근거이론(grounded theory)을 에이전트 궤적 분석에 도입할 것을 제안한다. 근거이론은 원칙에 기반한 포화 기준과 데이터에서 이론에 이르기까지의 감사 가능한 추적 기록을 갖추고 있다. 이를 위해, 에이전트 궤적에 근거이론을 자동으로 적용하는 최초의 다중 에이전트 파이프라인인 AutoTraceGT(Automated Trace analysis through Grounded Theory)를 제안한다. AutoTraceGT는 포화에 도달할 때까지 개방 코딩, 축 코딩, 이론 코딩을 반복적으로 수행하며, 각 과제에 맞춤화된 행동 분류 체계를 생성한다. 여섯 개의 궤적 말뭉치에 대한 실험에서 AutoTraceGT가 생성한 코드북은 사람이 주석한 분류 체계들에 포함된 실패 모드 중 73~91%를 포착했으며, 해당 분류 체계들이 놓친 추가 패턴도 드러냈다. 도출된 이론적 서사는 기존 전문가들의 설명과 부합했다. 코드북을 연역적 특징 공간으로 사용하면, 다운스트림 작업인 실패 예측에서 zero-shot 및 few-shot LLM 베이스라인보다 우수한 성능을 보였다. 이러한 결과는 근거이론이 에이전트의 실제 행동을 연구하는 머신러닝(ML) 연구자와 에이전트 개발자에게 확장 가능한 분석 도구를 제공함을 시사한다.

대화형 및 검증 가능한 환경의 확장은 터미널 에이전트를 훈련하는 데 매우 중요하다. 프런티어 모델이 더욱 강력해짐에 따라, 처음부터 합성된 환경은 덜 도전적이게 되어 제한적인 학습 신호만 제공한다. 최근의 공진화(co-evolution) 방법들은 롤아웃 중 드러난 약점에 기반하여 모델의 학습 가능 경계 근처의 환경을 반복적으로 합성한다. 그러나 이들은 온폴리시 롤아웃에 의존하므로, 모델이 강해질수록 일반화와 지속적인 학습 신호 제공이 제한된다. 본 논문에서는 오프폴리시 방식으로 환경 난이도를 점진적으로 증가시키고, 훈련 중 진화된 환경을 세대별로 스케줄링하여 지속적인 학습 신호를 제공하는 환경 진화(environment evolution)를 제안한다. 우리는 멀티턴 학습 목표로부터 환경 난이도에 영향을 미치는 세 가지 진화 방향을 도출하고, 루프 구조의 멀티 에이전트 하네스를 통해 이러한 방향을 따라 진화를 구현한다. Hy4 preview, Claude Opus 5, GPT-5.6 Sol을 사용한 정량적 롤아웃 실험에서 환경 진화가 일관되게 더 어려운 환경을 생성함을 확인했다. 또한 간단한 장기 지평 RL 훈련을 통해 Qwen3.6-27B와 Qwen3.6-35B-A3B에 대한 효과를 검증하여, Terminal-Bench 2.1에서 각각 14.4퍼센트 포인트와 18.0퍼센트 포인트의 성능 향상을 달성했다.

비디오 모델에서 물리적 추론을 평가하는 것은 절대 운동 측정이 프레임 속도, 객체 규모, 카메라 보정에 의존하기 때문에 어렵다. 이러한 요소들은 생성된 비디오에서 종종 모호하거나 이용 가능하지 않다. 우리는 다른 접근 방식을 제안한다. 같은 장면에 있는 두 객체가 동일한 물리 법칙을 따를 때, 그들의 운동은 예측 가능한 관계를 충족해야 하며, 이러한 관계는 보정과 무관하게 성립한다. 우리는 짝을 이루는 객체 사이의 관계적 일관성을 통해 뉴턴 물리학을 평가하는 벤치마크인 Principia를 소개한다. Principia는 통제된 프로토콜로 녹화된 실제 장면을 사용하여 병진, 회전, 충돌 및 진동 역학에 걸쳐 중력, 반발, 마찰, 회전 관성, 포물선 운동, 운동량, 진자, 질량-스프링 진동이라는 여덟 가지 현상을 다룬다. 또한 우리는 이미지 공간에서 물리적 위반을 직접 정량화하는, 보정 독립적인 일관성 점수를 도입한다. 여섯 개의 최첨단 비디오 생성기로부터 생성된 수천 개의 결과물 전반에서, 모든 모델이 VBench에서 약 0.8의 점수를 기록했음에도 불구하고 Principia에서 0.42를 초과한 모델은 없다. 시각-언어 모델은 관계적 물리 위반을 탐지하는 능력에 대해 평가되었으며, 최고 모델은 67%의 정확도에 그쳤고 대부분의 모델은 우연 수준에 근접한 성능을 보였다.

장시간 비디오 언어 모델은 모든 프레임을 볼 수 없다. 1시간짜리 비디오를 초당 한 번 샘플링하면 3,600개의 이미지가 되며, 시스템은 그 이미지 풀에서 고정된 아주 작은 일부만 유지한다. 어떤 프레임이 그 일부에 남는지는 보통 전처리 세부 사항으로 취급된다. 우리는 그것이 과연 전처리 세부 사항인지 검증한다. 기존에 발표된 선택 방식들은 프레임 점수화 방식, 프롬프트 경계, 해상도 정책, 응답 모델을 한꺼번에 바꾸기 때문에 비교가 어렵다. 따라서 우리는 각 요소를 고정한 채 선택, 공간 압축, 절약분의 재투자라는 세 결정을 하나씩 변경하면서, 학습이 필요 없는 여섯 가지 선택 규칙, 세 가지 장시간 비디오 벤치마크, 두 가지 응답 모델에 걸쳐 실험했다. 선택이 가장 큰 단일 영향 요소였다. LongVideoBench의 1시간 길이 버킷에서 쿼리로 선택된 8개 프레임은 균등 간격으로 뽑은 16개 프레임보다 6.9포인트 높은 성능을 보였다. 또한 수정 없이 사용된 수십 년 된 희소 근사 알고리즘인 Orthogonal Matching Pursuit은 세 벤치마크 전반에서 우리가 비교한 모든 특수 목적 선택 방식과 성능이 동일하거나 1포인트 이내의 차이를 보였다. 공간 압축은 비용이 거의 들지 않는다. 타임스탬프를 고정한 채 각 프레임의 공간 예산을 절반으로 줄이면 정확도 손실은 최대 0.44포인트다. 그 예산이 다시 정확도로 전환되는 지점은 재투자다. 절약된 토큰을 두 배로 많은 압축 프레임에 사용하면, 측정 비용이 원래 8개 프레임을 사용할 때보다 높지 않은데도 정확도가 추가로 2~3포인트 오른다. 압축은 절약분을 이렇게 사용할 때만 이득이 된다. 실험 과정에서 우리 AKS 기준 구현에서 발견된 버그와, 동일한 예산에서 동일한 공개 규칙을 실행하는 두 평가 환경 간의 0.07~3.74포인트 차이는, 이러한 비교가 서로 다른 논문에 걸쳐서가 아니라 하나의 통제된 평가 환경 안에서 수행되어야 하는 이유를 보여준다.

사후 보정은 보고된 신뢰도를 교정하지만, 다중 클래스 보정기는 연관된 top-1 예측까지 변경할 수 있다. 정확도는 이러한 변경이 정답 여부에 미치는 순효과만 포착할 뿐 예측이 얼마나 자주 변경되는지는 포착하지 못하는 반면, top-1 예측 변경률(TPCR)은 이 빈도를 측정한다. 우리는 전체 보정 확률 벡터를 수리함으로써 정확한 예측 보존을 부과하는 최초의 적합 후 어댑터인 CORD(Top-1 결정 보존을 위한 보정기 출력 수리, Calibrator-Output Repair for Top-1 Decision Preservation)를 제안한다. CORD는 원래 출력과 보정 출력만으로 원래 top-1에 할당된 질량을 결정한다. 보정된 조건부 분포는 나머지 질량을 다른 클래스들에 배분하며, 그 결과 얻어진 수리된 벡터는 자체의 argmax가 원래 예측을 복원한다. 보정 분할에서 CORD는 달성 가능할 때마다 원래 예측에 대한 보정 출력의 평균 질량을 유지하도록 수리된 질량들을 조정한다. 이 어댑터는 적합된 보정기나 그 직접 출력을 변경하지 않으며, 추가적인 지도 학습 맵을 적합시키지 않고, 사용자 또는 검증으로 조정되는 하이퍼파라미터도 요구하지 않는다. CIFAR-10/100과 ImageNet-1K 전반에서 CORD는 구조적으로 TPCR이 0임을 달성하며, 모든 데이터셋에서 해당 직접 출력 대비 평균 ECE, NLL, Brier 점수를 낮춘다. 이러한 쌍별 비교에서의 개선은 분포 이동 및 다양한 보정 집합 크기에서도 유지된다. 따라서 CORD는 보존 제약을 보정기 적합 과정에서 제거하고, 원래 결정의 정확한 복원을 후속 출력 수리에 할당한다. 우리의 코드는 https://github.com/labhai/CORD에서 확인할 수 있다.

우리는 확률적 경사 하강법(SGD)의 동역학을 연구한다. SGD는 심층 신경망을 더 단순한 부분 신경망에 대응하는 불변 집합으로 이끄는 것으로 알려져 있다. 그러나 이러한 유도 과정이 시간에 따라 어떻게 전개되는지는 여전히 제대로 이해되지 못하고 있다. 우리는 확률적 경사 흐름(SGF)을 침투 과정으로 모델링함으로써 이에 답한다. 이 침투 과정에서 구조적 대칭성은 부분 신경망들이 하나씩이 아니라 동시다발적인 이산 블록들로 병합되도록 강제한다. 이러한 구조적 전이는 거시 질서 변수의 분산 급증으로 나타나며, 이는 물리적 상전이를 연상시킨다. 나아가 우리는 이 포획 메커니즘과 그에 수반되는 스케일링 캐스케이드가 명시적인 두꺼운 꼬리 노이즈 모델 하에서 Adam과 AdamW에도 확장됨을 보인다.

중첩된 세포의 인스턴스 분할은 현미경 영상에서 여전히 어려운 문제로 남아 있다. 이는 반투명 구조가 약한 경계와 중첩 영역에서의 혼합된 시각적 증거를 생성하기 때문이다. 기존 방법들은 지역적 관심 영역이나 형상 사전에 기반하여 이 문제를 해결하고자 하였으나, 중첩된 객체들에 걸친 전역적 추론이 부족하다. 본 논문에서는 현미경 장면에서 세포 인스턴스의 중첩을 해소하는 새로운 쿼리 기반 모델인 QCell을 제안한다. 제안 방법은 (i) 잠재 공간에서 쿼리 표현을 분해하고 재조합하여 모델이 중첩 상황에서도 완전한 객체 구조를 추론할 수 있게 하는 인스턴스 재조합 모듈과, (ii) 판별적 인스턴스 특징 학습과 중첩된 세포 쿼리의 분리를 결합하는 대조적 쿼리 정렬 목적 함수로 구성된다. 또한, 중첩된 세포 분할을 위한 새로운 오가노이드 데이터셋 벤치마크를 소개한다. QCell은 여러 벤치마크에서 최신 방법들을 능가하는 성능을 보였으며, ISBI2014에서 +2.2 AP 및 +2.7 AJI를 달성하였다. 코드는 https://github.com/SlavkoPrytula/QCell 에서 확인할 수 있다.

생성된 비디오의 시각적 유창성은 물리적 신뢰성을 보장하지 않으며, 스칼라 품질 점수 하나만으로는 클립이 위반하는 물리적 의무나 실패 지점을 나타낼 수 없다. 이에 우리는 VeriPhy를 제시한다. VeriPhy는 감사 가능한 물리 검증 시스템으로, 텍스트 전용 플래너가 어떤 프레임도 관측하기 전에 프롬프트를 유형화된 물리적 의무 및 정적으로 검증된 실행 계획으로 컴파일한다. 실행 중에는 관측 결과가 동결된 저수준 전문가들(예: 분할 및 추적, 계수, 추적 결과 트랙에 대한 열한 가지 유형화된 물리 측정, 깊이, OCR, 오디오 이벤트 감지)에 대한 선언된 호출만 게이팅하고 그 범위를 제한한다. 각 동작은 출처(provenance)를 지니는 증거 레코드를 반환하며, 그 페이로드는 사용 가능한 경우 유형화된 측정값 또는 명시적으로 태그된 학습 상태 중 하나이다. 유형화된 리졸버와 고정된 합성은 사용 가능한 레코드를 완전한 출처 정보와 함께 세 값 상태(지지됨, 반박됨, 알 수 없음; 이는 각각 그럴듯함, 그럴듯하지 않음, 판단 유보로 표면화됨)로 매핑하므로, 모든 판정은 그 판정을 산출한 증거까지 추적될 수 있다. 평가의 기준은 프롬프트 참조, 공간, 시간에서 실제 생성 실패의 위치를 특정하는 인간 주석 결함 기록들로 이루어진 1,500개 클립 코퍼스에 둔다. 304개의 그러한 기록을 담은 149개 클립 핵심 세트에서 VeriPhy는 228개를 포착하는 반면, 동일한 클립과 동일한 주장이 주어진 공개된 질문 분해 평가기는 164개를 포착한다. 재현율만으로는 이 방식이 동일한 백본을 모놀리식하게 프롬프팅하는 방식과 구별되지 않으며, 그 방식은 222개에 도달한다. 둘을 실제로 구별하는 것은 각 판정이 자신의 증거 레코드와 출처를 유지한다는 점이며, 이로써 추적 기록은 판정 단위로 감사 가능해지고, 비평가 판정이 생성 단계로 다시 환류될 수 있는 인터페이스로 사용될 수 있다.

검증 가능한 보상 기반 강화학습(RLVR)은 단일 샘플 정확도(pass@1)를 크게 향상시키지만, 정책의 해 공간을 축소시켜 테스트 시 스케일링(test-time scaling)의 이득을 감소시킨다. 본 연구에서는 추론 궤적 내 어느 지점에서 이러한 폭이 상실되는지를 조사한다: 정책이 유효한 해 계열에 접근하지 못하는 것인가, 아니면 일단 시작된 계산을 완료하지 못하는 것인가? 접근과 실행을 분리하기 위해, 우리는 Qwen2.5-3B에 PPO를 적용한 설정과 Qwen2.5-3B-Instruct에 GRPO를 적용한 설정에서 Countdown 태스크를 분석한다. Countdown 태스크의 해 공간은 첫 번째 피연산자와 연산자에 의해 정의되는 이산적 진입 계열들로 완전히 열거될 수 있다. 두 훈련 설정 모두에서 해 커버리지는 최대 67%까지 감소하며, 모든 체크포인트에서 풀린 문제에서조차 절반으로 줄어든다. 이러한 축소는 진입 지점에 크게 집중되어 있음을 보여준다. 첫 번째 산술 연산 이전의 토큰별 우도 변화는 후속 추론 과정에서의 변화보다 11~16배 더 크다. 선택되지 않은 진입 접두사만 제공하면 접근도가 낮은 계열의 완료율이 10배 이상 회복되며(PPO에서 0.018→0.212), 이는 대안적 해가 여전히 실행 가능하지만 더 이상 시작되지 않음을 보여준다. 이러한 국소화 결과에 기반하여, 표면적 프롬프팅은 다양성 회복에 실패하는 반면, 진입 지점을 겨냥한 개입은 성공함을 확인한다. 후기 계층 파라미터를 초기 체크포인트의 파라미터와 보간하면 pass@1의 저하 없이 해 커버리지가 37% 향상된다. 마지막으로, 7B 및 14B 모델을 사용한 여섯 개의 수학 벤치마크 전반에서 초기 단계 엔트로피 붕괴가 반복적으로 나타나지만, 이것이 추론 최적화의 불가피한 부산물은 아님을 보여준다. SFT 베이스라인은 커버리지를 두 배 이상 보존하며, 단계적 SFT-DPO-RLVR 파이프라인은 초기 단계 엔트로피를 유지한다. 요약하면, 추론의 폭은 방 안이 아니라 문 앞에서 상실된다. 코드: https://github.com/ershiyidian/early-branch-locking

음성 뇌-컴퓨터 인터페이스(speech BCI)는 신경 활동을 언어로 변환하여 마비 환자의 말하기 회복을 위한 경로를 제공하고, 보다 넓게는 자연스러운 인간-컴퓨터 상호작용의 새로운 형태를 가능하게 한다. 이러한 가능성에도 불구하고 이 분야에는 진전 정도를 공통으로 측정할 수 있는 지표가 없다. 시스템마다 사용하는 데이터셋, 기록 방법, 발화 유형, 어휘 집합이 서로 다르므로 보고된 점수들을 서로 비교할 수 있는 경우가 드물기 때문이다. 이러한 측정 문제의 근저에는 두 가지 미해결 질문이 있다: (i) 음성 BCI가 사용자가 의사소통할 수 있도록 지원해야 하는 단어 분포는 무엇이며, (ii) 이 분포에서 시스템이 전달할 수 있는 정보량은 얼마인가 하는 것이다. 본 연구는 사용자가 전달하고자 할 수 있는 단어들에 대한 기준 분포 하에서 디코더가 전달하는 정보량을 측정하는 정보이론적 척도인 개방 어휘 상호 정보량(OVMI)을 도출하여 두 질문에 모두 답한다. 이를 통해 어휘 집합이 다른 등 서로 다른 조건에서 측정된 성능을 공통된 의사소통 척도로 평가할 수 있다. 또한 통상 보고되는 정확도, 단어 오류율(WER), 그리고 시스템이 지원하는 단어에 대해서만 계산되는 다른 지표들은 사용자가 의도한 발화 중 시스템이 전달할 수 있는 정도를 과대평가할 수 있음을 보인다. 이어서 OVMI를 사용해 기존 시스템들을 비교하고, 시스템이 사용자가 구사하는 언어 중 어느 정도까지 지원하는지와 그 단어들을 얼마나 정확하게 디코딩하는지 사이의 상충 관계를 밝히며, 이러한 비교가 사용자가 전달할 것으로 기대되는 내용에 따라 달라진다는 것을 보여 준다. 아울러 OVMI를 최대화하도록 어휘를 선택하면 세 가지 음성 도메인에서 정확도가 최대 16.3% 상대적으로 향상된다는 점을 입증한다. 따라서 OVMI는 음성 BCI 연구계에 이질적인 시스템들을 비교하고, 어휘 설계를 개선하며, 분야의 진전을 측정할 수 있는 원리에 기반한 방법을 제공한다.