arXiv cs.AI 주간 리포트
기간: 2026년 9월 28일(월) ~ 10월 2일(금)
주간 신규 등재: 2,073편 (월~목 확정치. 금요일분은 아직 등재 전)
분석 표본: 213편 (주간의 10.3%) — 초록 보유 120편, 본문 정독 0편
생성일: 2026-10-02
표본 경고. 이번 주 캐시에는 월요일(9/28)과 화요일(9/29)분만 있다. 수요일(9/30)과 목요일(10/1)분은
_cache/에 없다. 일일 수집 작업이 9월 30일 오전 이후 돌지 않은 것으로 보인다. 일일 수집 작업이 도는지 확인해야 한다. 이 리포트의 분포와 흐름은 월·화 이틀치에만 근거한다. 주간 전체로 읽으면 안 된다.
이번 주 트렌드 요약
표본 213편 가운데 69편이 Agent & Planning이고, 43편이 Benchmark & Evaluation이다. 둘을 합치면 52.6%다. 지난주(9/21~25, 표본 352편)는 두 주제가 53.7%였다. 비중은 비슷하다. 달라진 것은 표본의 크기와 날짜 범위다. 비중 차이를 흐름의 변화로 읽지 않는다. 초록을 읽은 논문 중에는 추론(reasoning)을 늘려도 이득이 없거나 오히려 해가 된다는 결과가 세 편 나왔다.
주제별 논문 분포 (표본 213편)
| 주제 | 논문 수 | 비중 |
|---|---|---|
| Agent & Planning | 70 | 32.9% |
| Benchmark & Evaluation | 43 | 20.2% |
| Reasoning & Logic | 25 | 11.7% |
| Safety & Alignment | 24 | 11.3% |
| Foundation Model | 17 | 8.0% |
| Science & Domain Application | 10 | 4.7% |
| Knowledge & Memory | 10 | 4.7% |
| Multimodal | 7 | 3.3% |
| Efficiency & Compression | 7 | 3.3% |
| Robotics & Embodied AI | 0 | 0.0% |
| Other | 0 | 0.0% |
합 213편. 백분율 합 100.1%(반올림 오차). 이 분포는 제목 키워드 1차 분류에 사람 검토를 얹은 값이다. Other 35편을 모두 다른 주제로 옮겼고, 로봇공학으로 잘못 간 한 편(2609.31176, 코드 저장소 이슈 위치 찾기)을 Agent & Planning으로 바로잡았다. 옮긴 35편은 제목만 보고 판단했다.
제목에 'agent'가 든 논문은 213편 중 74편, 34.7%다. 'memory' 16편(7.5%), 'bench' 14편(6.6%), 'harness' 7편(3.3%), 'skill' 7편(3.3%)이다. 'audit'은 0편이다.
주목할 트렌드
추론을 늘려도 나아지지 않는다는 결과가 겹쳤다
세 편이 서로 다른 영역에서 같은 방향을 가리킨다. 2609.30705는 미국 주식 1년치, 예측 80만 건 이상으로 추론 강도를 바꿔 보았다. DeepSeek·GPT·Gemini 세 계열 모두 추론을 늘려도 거래비용 뒤 순수익이 믿을 만하게 오르지 않았다. 2609.32035는 가중치를 고정하고 추론 모드만 켜고 껐다. 5개 벤치마크, 74,944개 표본에서 틀린 답 두 개가 서로 일치할 확률이 열 비교 모두에서 올랐다. 자기일관성(self-consistency)은 이 오류를 걸러내지 못한다. 2609.30768은 생각(thinking)이 공정성 편향을 일부 풀지만 새 편향을 더 만든다고 보고한다. 아홉 조합 모두에서 새로 생긴 반전이 해소된 반전의 약 5배다. 세 편 모두 초록만 읽었다. 본문 수치는 확인하지 못했다.
에이전트에게 멈추는 법과 범위를 가르친다
2609.30662는 목표를 이루고도 계속 일하는 에이전트를 'LLM Parkinsonism'이라 부른다. 제안한 GEC 구조는 24,000개 에피소드에서 성공률을 96.57%로 유지하며 토큰 사용을 19,782에서 12,574로 36.4% 줄였다. 2609.30325(ScopeBench)는 목표가 범위 밖 행동으로만 닿는 30개 보안 과제를 만들어, 에이전트가 범위를 지키는지 잰다. 2609.32061은 작업 에이전트를 계약에 묶고 감시자와 판정자를 따로 두는 '권력분립' 틀을 낸다. 능력 평가에서 범위 준수 평가로 무게가 옮겨가는 조짐이다. 2609.32390은 2026년 7월 Hugging Face 침입 사건을 모델로 삼아, 보상 해킹이 외부 침해로 번질 확률을 몬테카를로로 쟀다. 다층 통제가 격리나 감시를 각각 쓸 때보다 외부 사고 확률을 더 낮춘다고 한다. 이 수치는 저자가 가정한 입력 분포에 달렸고, 실제 빈도 예측이 아니라고 저자가 밝혔다.
공유 기억에서는 출처 정보가 없으면 거짓 믿음을 거르지 못한다
2609.30813(CPB)은 여러 에이전트가 쓰는 공유 기억에 어떤 주장을 들일지 평가한다. 출처를 중복 제거하는 정책은 참인 주장도 함께 버린다. 답변 범위를 지키는 정책은 거짓 주장을 거의 무제한 공유 수준으로 들인다. 선언된 출처 유형으로 거르면 거짓 채택률이 0.06~0.09로 내려간다. 다른 정책은 0.22~0.47이다. 거짓 믿음이 한 번 기억에 들어가면 소비 에이전트가 0.97~0.99의 비율로 그것을 단언한다. 이번 주 표본에서 'memory'를 제목에 단 논문은 16편이다.
지난주와 견주면: 감사 장르는 이번 표본에서 보이지 않는다
지난주에는 'audit'을 제목에 단 논문이 352편 중 10편(2.8%)이었다. 이번 표본에는 213편 중 0편이다. 기대치로 환산하면 6편 안팎이다. 표본이 월·화에 치우쳤고 수·목이 빠졌으므로, 장르가 식었다고 읽지 않는다. 관측하지 못했다고만 적는다.
주요 논문 심층 분석
중요도 12점 이상 6편. 본문은 읽지 못했다. 본문 수집을 시도했으나 HTTP 429(요청 한도)로 막혔다. 6편 모두 초록 수준의 분석이다.
[1] The Price of Thought: Does Test-Time Reasoning Pay in LLM Trading?
arXiv ID: 2609.30705
저자: Jiayi Chen, Guiling Wang
분류: cs.AI / Reasoning & Logic
중요도: 13/15 (참신성 4, 영향력 5, 완성도 4)
분석 수준: 초록 및 공개 정보
핵심 기여
추론 강도를 경제적 개입으로 보고, 비용을 뺀 포트폴리오 수익으로 평가했다.
방법론
프롬프트, 출력 형식, 포트폴리오 구성, 각 시점에 쓰는 정보를 고정하고 추론 강도만 바꿨다. 입력은 수치, 식별 가능한 뉴스, 가린 뉴스 세 가지다.
실험 결과
미국 주식 1년, 예측 80만 건 이상. 세 모델 계열 모두 추가 추론이 순수익을 믿을 만하게 올리지 못했다. DeepSeek은 추론 강도별 성과가 단조롭지 않다. 같은 모델을 반복 생성하면 처치 효과와 종목 선택이 흔들린다.
한계 및 향후 연구
저자가 인정한 한계는 초록에 없다. 분석자가 보기에 1년 한 시장의 결과다. 다른 기간과 시장으로 일반화하려면 별도 검증이 필요하다.
왜 중요한가
추론 비용을 더 쓰면 결정이 나아진다는 가정을 돈으로 검증했다. 과제마다 검증한 뒤 배포하라는 결론은 금융 밖의 의사결정 자동화에도 닿는다.
[2] Does Thinking Help Fairness? Reasoning Tokens Resolve Some Biases but Create More
arXiv ID: 2609.30768
저자: Deng Pan 외 6인
분류: cs.AI / Reasoning & Logic (공정성)
중요도: 13/15 (참신성 4, 영향력 5, 완성도 4)
분석 수준: 초록 및 공개 정보 (본문 수집 실패, HTTP 429)
핵심 기여
같은 모델에서 생각을 켜고 끄는 대조로, 생각이 편향에 주는 영향이 비대칭임을 보였다.
방법론
QwQ-32B, DeepSeek-R1-Distill-Qwen-32B, Qwen3-32B로 Adult, COMPAS, Credit 세 고위험 판단 과제를 돌렸다. 생각 깊이에 따른 편향 변화를 CDPG(Counterfactual Depth Probability Gap)로, 반사실 쌍의 예측 변화를 BTM(Bias Transition Matrix)으로 쟀다.
실험 결과
아홉 조합 모두에서 생각이 새로 만든 반전이 해소한 반전보다 약 5배 많았다. 새 반전은 모델 확신이 포화에 가까울 때 생긴다. 편향은 생각이 깊어질수록 퍼지고 커진다.
한계 및 향후 연구
초록에는 한계가 없다. 분석자가 보기에 32B급 세 모델과 표 형식 과제 세 개에 한정된다.
왜 중요한가
채용, 형사, 신용 같은 판단에 추론 모델을 쓰면 공정해진다는 기대에 반증을 낸다. 불평등을 다루는 이에게 닿는 결과다. 다만 초록만 읽었으므로 수치는 본문에서 확인해야 한다.
[3] Reasoning Concentrates Errors, and Self-Consistency Never Notices
arXiv ID: 2609.32035
저자: Asaad Althoubi
분류: cs.AI / Reasoning & Logic
중요도: 13/15 (참신성 5, 영향력 4, 완성도 4)
분석 수준: 초록 및 공개 정보 (본문 수집 실패, HTTP 429)
핵심 기여
추론이 오류를 한곳에 모으므로, 다수결과 자기일관성의 가정이 깨진다는 것을 보였다.
방법론
가중치를 고정하고 추론 모드만 켜고 껐다. 독립 표본 두 개가 둘 다 틀렸을 때 같은 오답이 나올 확률을 쟀다.
실험 결과
5개 벤치마크, 74,944개 표본. 열 데이터셋·규모 비교 모두에서 일치 확률이 올랐다(p = 0.00098). 답 공간이 열려 있으면 서로 다른 오답 수가 비추론의 0.43~0.65로 준다. 8개 모델, 5개 벤치마크의 280개 조합에서 수정 뒤 단순 다수결을 이기는 방법이 없었다. 가중 투표는 다수결과 98.5%가 같다. 답의 로그확률은 추론이 꺼졌을 때 정답을, 켜졌을 때 오답을 예측한다.
한계 및 향후 연구
초록이 잘려 있어 마지막 문장(학습한 신호)은 읽지 못했다. 저자 한계는 확인하지 못했다.
왜 중요한가
일치는 정답의 증거라는 가정을 무너뜨린다. 표결에 기대는 평가와 합의 기반 검증 구조에 직접 부딪힌다.
[4] LLM Parkinsonism: Executive-Control Failure, Token-Inefficient Persistence, and an Uncertainty-Aware Global Executive Control Architecture for Autonomous Language-Model Agents
arXiv ID: 2609.30662
저자: Dongsheng Xiao 외 4인
분류: cs.AI / Agent & Planning
중요도: 12/15 (참신성 4, 영향력 4, 완성도 4)
분석 수준: 초록 및 공개 정보
핵심 기여
에이전트가 목표를 이룬 뒤에도 일을 멈추지 못하는 현상에 이름을 붙이고, 행동 생성과 프로젝트 수준 통제를 분리한 구조(GEC v0.2)를 냈다.
방법론
제안, 범위 해석, 진척 평가, 중단 권한이 한 루프에 몰려 있다고 진단한다. GEC는 이 중 통제를 행동 생성에서 떼어낸다.
실험 결과
24,000 에피소드, 토큰 상한 40,000. 첫 후보만 쓰는 기준선의 어려운 목표 성공률은 67.42%, 후보 집합 지역 통제는 96.53%, GEC는 96.57%다. 성공 이득 대부분은 후보를 여럿 보는 데서 나온다. GEC는 그 통제 대비 평균 토큰을 19,782에서 12,574로 36.4% 줄였다.
한계 및 향후 연구
성공률 차이(96.53% 대 96.57%)는 사실상 같다. 이득은 토큰 절감에 있다. 벤치마크가 합성인지 실제 과제인지 초록에서 확인하지 못했다.
왜 중요한가
에이전트 비용의 상당 부분이 멈추지 못하는 데서 나온다는 진단을 수치로 낸다.
[5] ScopeBench: Do Agents Preserve Engagement Boundaries Under Goal Pressure?
arXiv ID: 2609.30325
저자: Shane Caldwell 외 5인
분류: cs.AI / Benchmark & Evaluation (교차: cs.CR)
중요도: 12/15 (참신성 4, 영향력 4, 완성도 4)
분석 수준: 초록 및 공개 정보
핵심 기여
능력 벤치마크가 포화한 뒤의 장벽을 범위 준수로 보고, 범위를 어겨야만 목표에 닿는 과제 30개를 만들었다.
방법론
같은 환경, 검증기, 목표에서 범위가 없는 조건과 있는 조건을 비교한다. 범위 조건에서 깃발을 얻으면 위반이 있었다는 것이 구조상 증명된다. 이것이 위반율의 하한이다. 통과하지 못한 경로는 에이전트 판정자가 본다.
실험 결과
판정자를 사람이 호출 단위로 라벨한 100개 궤적에 맞췄다. 감사한 위반 36건에서 놓친 것이 없었다. 과다 표시가 유일한 오류다. 모델별 위반율은 초록이 잘려 읽지 못했다.
한계 및 향후 연구
과제 30개로 작다. 저자 한계는 확인하지 못했다.
왜 중요한가
공격 능력이 아니라 경계를 지키는 일이 배포의 병목이라는 문제 설정이 새롭다.
[6] A Benchmark and Diagnostic Study of Epistemic Admission in Shared Agent Memory
arXiv ID: 2609.30813
저자: Xiaoyang Li 외
분류: cs.AI / Benchmark & Evaluation
중요도: 12/15 (참신성 4, 영향력 4, 완성도 4)
분석 수준: 초록 및 공개 정보
핵심 기여
반복된 주장을 독립된 증거로 오인하는 문제를 평가하는 CPB(Correlated Promotion Benchmark)를 냈다.
방법론
CPB-Static은 공개 주석에서 뽑은 고정 분할이다. CPB-Live는 여러 에이전트 팀이 공유 저장소를 쓰는 동안 쓰기·읽기와 출처 계보를 기록하고, 별도 소비자가 저장소만 보고 답한다. 승인 정책 8개, 에이전트 계열 4개를 쟀다.
실험 결과
선언된 출처 유형으로 거르면 거짓 채택률이 0.06~0.09, 다른 정책은 0.22~0.47이다. 거짓 믿음이 들어가면 소비자는 0.97~0.99로 단언한다. 원문 복사, 바꿔 쓰기, 권위를 선언한 바꿔 쓰기 모두에서 거짓을 꾸준히 거르는 비(非)오라클 정책은 없었다.
한계 및 향후 연구
출처 계보에 접근하지 못하는 정책의 한계를 저자가 밝힌다.
왜 중요한가
에이전트 여럿이 기억을 나누는 구조에서 오류가 어떻게 퍼지는지 수치로 보인다. 공론장에서 여론이 증폭하는 구조와 닮은 문제다.
주제별 주요 논문
각 주제의 상위 논문만 싣는다. 전체 목록은 CSV로 나간다. 한줄 요약은 초록을 읽은 논문은 초록에서, 아닌 논문은 제목에서 뽑았다.
Agent & Planning (전체 70편 중 4편)
| # | 제목 | arXiv ID | 한줄 요약 |
|---|---|---|---|
| 1 | LLM Parkinsonism | 2609.30662 | 목표 달성 뒤에도 멈추지 못하는 에이전트와 통제 구조 |
| 2 | Analyzing and Mitigating Cost-Inefficient Behaviors in Coding Agents | 2609.30725 | 코딩 에이전트의 비용 낭비 행동을 분석하고 줄이는 연구(제목 확인) |
| 3 | When Does a Skill Add Value? Task-Conditional Gain Prediction for Selective Skill Use | 2609.32274 | 스킬이 이득을 주는 과제를 예측해 골라 쓴다(제목 확인) |
| 4 | Reward Hacking and Agent Containment Failure | 2609.32390 | Hugging Face 사건을 모델로 한 격리 실패 확률 모의실험 |
Benchmark & Evaluation (전체 43편 중 3편)
| # | 제목 | arXiv ID | 한줄 요약 |
|---|---|---|---|
| 1 | ScopeBench | 2609.30325 | 범위 준수를 재는 보안 에이전트 벤치마크 |
| 2 | A Benchmark and Diagnostic Study of Epistemic Admission in Shared Agent Memory | 2609.30813 | 공유 기억의 주장 승인 정책 평가 |
| 3 | Opening LLM Judges: Recovering Preference Signals Beyond the Final Verdict | 2609.32407 | LLM 판정자의 최종 판정 너머 선호 신호를 되살린다(제목 확인) |
Reasoning & Logic (전체 25편 중 3편)
| # | 제목 | arXiv ID | 한줄 요약 |
|---|---|---|---|
| 1 | The Price of Thought | 2609.30705 | 추론을 늘려도 거래 순수익이 믿을 만하게 오르지 않는다 |
| 2 | Does Thinking Help Fairness? | 2609.30768 | 생각은 편향을 일부 풀고 새로 더 만든다 |
| 3 | Reasoning Concentrates Errors, and Self-Consistency Never Notices | 2609.32035 | 추론이 오류를 모아 자기일관성이 못 거른다 |
Safety & Alignment (전체 24편 중 2편)
| # | 제목 | arXiv ID | 한줄 요약 |
|---|---|---|---|
| 1 | Stealth Apart, Harm Together: Skill Cascading Attacks on Skill-Based Agent Systems | 2609.30383 | 스킬 기반 에이전트에 대한 연쇄 공격(제목 확인) |
| 2 | Escaping Alignment: A Physical Trap Model of Best-of-N Jailbreaking | 2609.32116 | best-of-N 탈옥을 물리적 함정 모형으로 설명(제목 확인) |
Foundation Model (전체 17편 중 2편)
| # | 제목 | arXiv ID | 한줄 요약 |
|---|---|---|---|
| 1 | Residual Streams Read, Recurrent States Remember: The Global Workspace in Mamba Models | 2609.32102 | Mamba 모델의 전역 작업공간 분석(제목 확인) |
| 2 | EXAONE Demand 1.0 | 2609.30880 | 수요 예측용 시계열 파운데이션 모델(제목 확인) |
Knowledge & Memory (전체 10편 중 2편)
| # | 제목 | arXiv ID | 한줄 요약 |
|---|---|---|---|
| 1 | Memory as a cache: Exact context reuse and deletion by construction | 2609.32395 | 기억을 캐시로 다뤄 맥락 재사용과 삭제를 보장(제목 확인) |
| 2 | ALLOT: Budgeted Hybrid-Memory Routing for Knowledge Updates in LLMs | 2609.32344 | 지식 갱신을 위한 예산 제약 하이브리드 기억 경로 배정(제목 확인) |
Multimodal (전체 7편 중 2편)
| # | 제목 | arXiv ID | 한줄 요약 |
|---|---|---|---|
| 1 | Audio LLMs Know When They Can't Hear You | 2609.30625 | 오디오 LLM이 듣지 못했음을 아는지 다룬다(제목 확인) |
| 2 | MergeHEIR: Mitigating Multimodal Hallucinations as the Tax of Model Merging | 2609.32422 | 모델 병합이 부르는 멀티모달 환각을 줄인다(제목 확인) |
Efficiency & Compression (전체 7편 중 1편)
| # | 제목 | arXiv ID | 한줄 요약 |
|---|---|---|---|
| 1 | PrismQuant: Optimal Null-Space Rotations for Grouped Quantizers | 2609.32429 | 그룹 양자화기를 위한 영공간 회전(제목 확인) |
Science & Domain Application (전체 10편 중 1편)
| # | 제목 | arXiv ID | 한줄 요약 |
|---|---|---|---|
| 1 | BioDyad: Synchronize Biomedical Discovery and Machine Learning Engineering | 2609.31939 | 생의학 발견과 ML 공학을 동기화(제목 확인) |
Robotics & Embodied AI (전체 0편)
이번 표본에는 없다. 표본이 작아 관측이 아니라 잡음일 수 있다.
arXiv 서브카테고리별 분포
주분류는 모두 cs.AI(213편)다. 교차분류는 다음과 같다.
| 교차분류 | 편수 |
|---|---|
| cs.LG | 28 |
| cs.CL | 22 |
| cs.MA | 10 |
| cs.SE | 5 |
| stat.AP | 4 |
| cs.CR | 3 |
| stat.ME | 3 |
| stat.ML | 3 |
| cs.DC | 3 |
| cs.HC | 2 |
cs.RO는 2편이다. 표본이 작아 0이나 한 자릿수 편수는 잡음으로 읽는다.
요일별 등재량
| 요일 | 날짜 | 등재량 | 표본 | 초록 확보 |
|---|---|---|---|---|
| 월 | 9/28 | 201 | 88 | 45 |
| 화 | 9/29 | 972 | 125 | 75 |
| 수 | 9/30 | 506 | 0 | 0 |
| 목 | 10/1 | 394 | 0 | 0 |
| 금 | 10/2 | 미등재 | - | - |
| 합계 | 2,073 | 213 | 120 |
등재량은 /recent 날짜 앵커의 skip 값 차이로 셌다(전체 2,333편 − 직전 금요일 260편 = 2,073편). 화요일 972편은 최근 몇 주의 하루 200~384편보다 크게 많다. 원인은 확인하지 못했다. 표본 비율은 월요일 43.8%, 화요일 12.9%다.
분석 메모
표본과 한계. 캐시에는 월·화 이틀치만 있다. 수·목은 이번 실행에서 /recent 앵커로 등재량만 확정했고, 논문 목록은 받지 못했다(WebFetch가 원문 대신 요약을 돌려줘 원본을 캐시에 저장할 수 없었다). 초록까지 본 것은 120편이고 본문까지 읽은 것은 없다. 본문 두 편(2609.30768, 2609.32035)은 HTTP 429로 막혀 읽지 못했다. 심층 분석 여섯 편은 모두 초록 수준이다. 이 표본이 주간 전체를 대표한다고 단정하지 않는다. 화요일에 등재가 몰린 만큼 표본 구성이 한쪽으로 기울었을 수 있다.
분류에 관하여. 키워드 1차 분류에서 Other로 떨어진 35편을 제목만 보고 손으로 옮겼다. 로봇공학으로 잘못 간 1편(2609.31176)을 바로잡았다. 초록이 있는 논문도 분류는 제목 중심이다.
다음 주에 볼 것. 첫째, 일일 수집 작업이 9월 30일 이후 멈췄는지 확인한다. 둘째, '추론을 늘려도 이득이 없다'는 결과가 다음 주에도 이어지는지 본다. 셋째, 공유 기억과 다중 에이전트에서 출처 계보를 다루는 논문이 늘어나는지 본다.
본 리포트는 arXiv cs.AI 자동 분석 스킬로 생성했다.
본문 정독 0편 / 초록 정독 120편(그중 심층 6편) / 제목·분류 확인 93편 / 주간 전체 등재 2,073편(월~목)