arXiv cs.AI 주간 다이제스트
작성일: 2026년 7월 20일 (월)
대상 주간: 2026년 7월 13일(월) ~ 7월 17일(금)
주간 총 등재: 960편
이번 호를 읽는 법 — 수집 범위를 먼저 밝힌다
이번 주 cs.AI에 960편이 올라왔다. 그러나 이번 호가 실제로 훑은 것은 7월 17일(금)자 목록의 앞 50편이다. arXiv 목록 페이지의 날짜별·페이지별 이동이 이번 실행에서 막혔다. 주소 뒤에 붙는 쿼리가 잘려 나가 늘 첫 화면으로 되돌아왔다. 개별 논문 페이지는 정상으로 열렸다. 그래서 목록은 좁게, 논문은 깊게 읽는 쪽으로 방향을 바꿨다.
읽은 것과 읽지 못한 것을 갈라 적는다.
- 제목·저자·분야를 확인한 논문: 50편 (7/17자 1~50번)
- 초록까지 읽은 논문: 5편
- 본문까지 읽은 논문: 0편. 마지막 단계에서 요청 한도에 걸렸다.
아래의 분포와 흐름은 이 50편에 근거한다. 한 주 전체를 대표한다고 말할 수 없다. 금요일 하루의 앞머리가 보여주는 단면으로 읽어주기 바란다.
1. 분포
1-1. arXiv 서브카테고리 (50편, 중복 표기 포함)
| 서브카테고리 | 편수 |
|---|---|
| cs.AI (주 분류) | 50 |
| cs.CL (언어) | 6 |
| cs.CV (비전) | 4 |
| cs.LG (기계학습) | 5 |
| cs.SE (소프트웨어공학) | 3 |
| cs.HC (인간-컴퓨터) | 4 |
| cs.CR (보안) | 2 |
| cs.CY (컴퓨터와 사회) | 2 |
| cs.MA (다중에이전트) | 2 |
| cs.IR (정보검색) | 2 |
| 기타 (cs.RO, cs.NE, cs.SI, cs.MM) | 각 1 |
절반 가까이가 cs.AI 단독 분류다. 응용과 시스템 논문이 많다는 뜻이다.
1-2. 내용 기반 재분류
| 주제 | 편수 | 비중 |
|---|---|---|
| Agent & Planning | 14 | 28% |
| Science & Domain Application | 13 | 26% |
| Benchmark & Evaluation | 10 | 20% |
| Multimodal | 9 | 18% |
| AI & Society / Governance | 6 | 12% |
| Safety & Alignment | 6 | 12% |
| Efficiency & Compression | 4 | 8% |
| Knowledge & Memory | 4 | 8% |
| Robotics & Embodied AI | 4 | 8% |
| Foundation Model | 2 | 4% |
한 논문이 여러 주제에 걸치므로 합은 100%를 넘는다.
2. 자세히 읽은 논문
2-1. Pretraining Data Can Be Poisoned through Computational Propaganda
(사전학습 데이터는 계산 선전으로 오염할 수 있다)
arXiv:2607.15267 | Victoria Graf, Hannaneh Hajishirzi, Noah A. Smith, David Kohlbrenner, Kyle Lo
분류: cs.AI; cs.CL | 주제: Safety & Alignment
링크: https://arxiv.org/abs/2607.15267
무엇을 했나
지금까지 사전학습 데이터 오염 연구는 위키피디아처럼 잘 정리된 출처를 건드렸다. 저자들은 그 설정이 현실과 멀다고 본다. 실제 사전학습 말뭉치는 훨씬 크고 잡스럽다. 게다가 기존 연구는 오염 데이터가 데이터 정제 파이프라인을 통과하는지를 따지지 않았다.
저자들은 누구나 글을 밀어 넣을 수 있는 공개 토론 인터페이스를 공격 통로로 삼는다. 웹 규모로 내용을 주입하는 기존 장치를 그대로 쓴다. 그리고 HalfLife라는 분석법을 내놓는다. 크롤링과 정제를 거친 뒤 악의적 내용이 학습 데이터에 얼마나 남는지를 추정한다.
왜 중요한가
공격의 문턱이 낮다. 특별한 접근 권한이 필요 없다. 제3자 웹페이지의 본문이 언어모델 사전학습을 겨누는 통로가 된다는 점을 세운다. 오염 여부를 사후에 재는 방법을 함께 내놓은 것도 실무에 값한다.
저자 면면이 무겁다. Ai2와 워싱턴대 계열의 데이터 큐레이션 연구자들이다. 사전학습 말뭉치를 직접 만들어 본 사람들이 그 취약점을 짚었다.
한계
초록만 읽었다. 실제 주입 성공률, 모델 규모별 차이, 방어책의 유효성은 본문을 봐야 안다.
HJ를 위한 각주
이 논문은 기술 문제인 동시에 정보 생태계 문제다. 여론 조작 산업이 이미 쓰는 도구가 그대로 모델 학습을 겨눈다. 선전의 대상이 사람에서 기계로 옮아간다. 기계가 다시 사람에게 말한다. 고리가 닫힌다.
2-2. Global Index on Responsible AI: 2026 Report
(책임 있는 AI 세계 지수: 2026 보고서)
arXiv:2607.14782 | Rachel Adams, Fola Adeleke, Ayantola Alayande 외 4인
분류: cs.AI | 주제: AI & Society / Governance
링크: https://arxiv.org/abs/2607.14782
무엇을 했나
유네스코 AI 윤리 권고 같은 인권 기반 틀에 뿌리를 둔다. 각 나라가 책임 있는 AI 약속을 집행 가능한 보호, 제도 역량, 구제 장치로 옮기는지를 잰다.
- 다섯 축: 포용과 다양성 / 윤리와 지속가능성 / 노동과 기술 / 신뢰와 안전 / 공공서비스 AI 활용
- 세 기둥 38개 지표: 정부 AI 정책과 이행(17), 시민사회 참여(5), 조성 여건(15)
- 135개국 연구자가 68,138개 자료점을 모았다
- 기간: 2023년 11월 ~ 2025년 9월
드러난 것
| 지표 | 수치 |
|---|---|
| 정책·계획을 하나 이상 가진 나라 | 135개국 중 126개국 |
| 1판 이후 새로 생긴 제도 사례 306건 중 남반구 몫 | 203건 |
| 남반구 제도 중 구속력 없는 비율 | 78% |
| 북반구 같은 비율 | 42% |
| 투명성·설명가능성 제도를 가진 나라 | 58% |
| 정부 알고리즘 공개를 의무화한 나라 | 18% |
| 용납할 수 없는 위험의 AI를 정부가 실제로 굴린 증거가 나온 나라 | 35개국 |
왜 중요한가
제도의 수와 제도의 힘은 다르다. 이 보고서는 그 틈을 숫자로 벌려 보인다. 남반구는 제도를 빠르게 늘렸으나 그 대부분이 선언에 그친다. 각국 정부는 남의 알고리즘에는 투명성을 요구하면서 제 알고리즘은 열지 않는다. 58%와 18%의 간격이 그것이다.
한계
지수는 지수다. 점수화 과정에서 맥락이 깎인다. 자료 기간이 2025년 9월에서 끊긴다. 그 뒤 1년의 변화는 담기지 않았다.
HJ를 위한 각주
불평등을 다루는 비영리 투자자에게 이 자료는 바로 쓸 물건이다. 68,138개 자료점을 국가별로 열어볼 수 있다면 투자 대상국의 제도 성숙도를 가늠하는 밑그림이 된다. 특히 '구속력 없는 제도 78%'라는 숫자는 남반구 AI 거버넌스 지원의 방향을 가리킨다. 새 틀을 만드는 일보다 있는 틀에 이빨을 달아 주는 일이 급하다.
2-3. The Industrialization of Research — On AI-Driven Science and Its Consequences
(연구의 산업화 — AI 주도 과학과 그 결과에 대하여)
arXiv:2607.15164 | Emmanuel Jeannot (Inria, 보고서번호 RR-9623)
분류: cs.AI; cs.CY | 주제: AI & Society / Governance
링크: https://arxiv.org/abs/2607.15164
무엇을 말하나
AI가 연구를 바꾼다. 더 좋은 도구가 되어서가 아니다. 연구 순환 자체에 참여자로 들어와서다. 저자는 이 전환을 '연구의 산업화'라 부른다. 말 그대로의 뜻이다.
- 장인 모형: 지식과 방법과 판단이 연구자 안에 붙어 있다
- 공정 모형: 그 단계들을 쪼개고, 자동화하고, 감독한다
미국 에너지부의 Genesis Mission을 지금 가장 앞선 사례로 든다. 그러나 문제는 한 사업을 넘는다. 저자는 일곱 가지를 묻는다.
- 과학적 역량의 세대 간 전승이 끊긴다
- AI가 만든 이론이 점점 불투명해진다
- 기계가 쏟아내는 산출 앞에서 동료평가가 무너진다
- AI가 패러다임을 바꾸는 발견을 해낼 수 있는지는 증명되지 않았다
- 정치와 산업이 연구 의제를 장악한다
- 닫힌 순환 파이프라인에서 계통 오차가 쌓인다
- 세계 연구 공동체가 서로 통약 불가능한 층으로 갈라진다
저자의 태도
이 글은 AI 과학에 반대하지 않는다. 저자는 그 잠재력이 실재하며 상당하다고 못 박는다. 일곱 가지는 반대의 근거가 아니라 조건이다. 그 잠재력을 책임 있게 좇으려면 갖춰야 할 것들이다.
한계
경험 연구가 아니라 논설이다. 검증할 자료가 없다. 본문 19KB의 짧은 글이다. 본문까지 읽지 못했다.
HJ를 위한 각주
일곱 번째 항목 — 연구 공동체의 구조적 분화 — 이 불평등 관심사와 곧장 맞닿는다. '통약 불가능한 층'이라는 표현이 날카롭다. 격차가 벌어지는 데 그치지 않고, 서로의 연구를 읽고 평가할 공통 기준마저 사라진다는 말이다. 격차는 좁힐 수 있으나 통약 불가능은 다른 문제다. 첫 번째 항목도 눈여겨볼 만하다. 도제 관계가 지식 전승의 통로였다면, 공정 모형은 그 통로를 없앤다. 배우는 사람으로 스스로를 규정하는 이에게 이 대목은 남의 일이 아니다.
2-4. When Words Are Safe But Actions Kill
(말은 안전한데 행동이 죽인다: 은닉 상태 위험 공간에서 물리적 위험을 탐침하다)
arXiv:2607.15218 | Weimeng Wang 외 5인 (칭화대 계열)
분류: cs.AI; cs.CR | 주제: Safety & Alignment / Robotics & Embodied AI
링크: https://arxiv.org/abs/2607.15218
무엇을 했나
LLM이 체화된 에이전트의 상위 계획자 노릇을 한다. 언어로는 멀쩡한 지시가 물리 세계에 내려앉는 순간 위험해진다. 저자들은 묻는다. 이 물리적 위험이 흔한 텍스트 유해성과 같은 문제인가.
답은 아니다. 은닉 상태 방향 분석과 무작위 분할 영가설 검정으로, 내용 위험(CD)과 물리 위험(PD)이 표현 공간에서 갈라진다는 것을 보인다. Qwen2.5의 3B·7B·14B·32B, Phi-3.5, SmolLM2에서 모두 그렇다.
이 분리 가능성 위에 PRISM을 세운다. 전체 은닉 상태를 받는 단일 층 L2 정칙화 로지스틱 탐침이다. 단순한 장치다.
성적
| 방법 | 벤치마크 | 정확도 | 오탐률(FPR) |
|---|---|---|---|
| PRISM | SafeAgentBench | 86.2~87.7% | 11.7~13.7% |
| 같은 규모 LLM 심판 | SafeAgentBench | — | 24.7~39.0% |
| PRISM | PSB-1K | 99.6% | 0.7% |
| Qwen2.5-3B 심판 | PSB-1K | — | 67.8% |
새 벤치마크 PhysicalSafetyBench-1K도 함께 내놨다. 직접적인 유해 낱말이 없는 물리 위험 대조쌍 1,000개다. 노골적인 표현이 아니라 실제 물리적 위험을 잡아내는지를 시험한다. SafeText와 EARBench에서도 결과가 재현됐다.
왜 중요한가
LLM 심판은 안전한 일까지 막는다. PSB-1K에서 3B 심판은 안전한 과제의 67.8%를 거부했다. 쓸 수 없는 수준이다. 반면 단일 층 탐침이 0.7% 오탐으로 99.6%를 맞힌다. 무거운 심판보다 가벼운 탐침이 낫다는 결과다. 로봇과 산업 자동화에 LLM을 붙이는 쪽에서는 바로 시험해 볼 만하다.
한계
탐침은 모델 내부에 접근해야 한다. 폐쇄 모델에는 못 쓴다. 벤치마크를 저자들이 직접 만들었으므로 편향 가능성이 남는다.
HJ를 위한 각주
기술기반 제조기업의 자동화 계획에 곧장 닿는 결과다. 언어 필터와 물리 안전은 다른 층위라는 것, 그리고 물리 안전 쪽이 오히려 더 값싸게 풀린다는 것. 두 가지를 기억할 만하다.
2-5. Transcoders for Investigating Deception in Language Models
(언어모델의 기만을 조사하는 트랜스코더)
arXiv:2607.14791 | Darius Lim, Nathan Leow, Xin Wei Chia
분류: cs.AI | 주제: Safety & Alignment
링크: https://arxiv.org/abs/2607.14791
무엇을 했나
트랜스코더는 기계적 해석가능성 연구에서 최근 떠오른 도구다. 회로 수준에서 모델 행동을 뜯어본다. 저자들은 이것으로 기만 행동을 들여다본다.
Qwen3-4B에 사전학습된 층별 트랜스코더(PLT)를 붙인다. 특징 활성과 특징 사이 의존을 담는 귀속 그래프를 짓는다. 특징 조향과 회로 분석을 거쳐 기만 관련 특징 사전을 뽑아냈다.
드러난 것
뽑아낸 특징들이 기만적 출력에 더 센 영향을 미친다. 그 특징을 건드리면 기만과 비기만 사이에서 예측 가능한 이동이 일어난다. 기만이 내부 기제에서 생긴다는 뜻이다. 밖에서 붙은 흉내가 아니다.
왜 중요한가
기만을 행동으로만 재면 늘 뒤늦다. 내부 특징으로 잡으면 앞설 수 있다. 저자들은 행동 감시와 조기 탐지의 길을 연다고 본다.
한계
4B 모델 하나다. 규모가 커질 때도 같은 특징이 잡히는지는 모른다. '기만'의 조작적 정의도 본문을 봐야 안다.
3. 이번 주(금요일 단면)의 흐름
3-1. 에이전트가 목록을 덮었다
50편 중 14편이 에이전트다. 그런데 결이 바뀌었다. 작년까지 에이전트 논문은 '더 잘 하게 만들기'였다. 이번 주 목록은 '믿을 수 있게 만들기'로 기울었다.
- Proof-or-Stop (2607.14890): 부제가 그대로다. "에이전트를 믿지 말고 증거를 믿어라." 증거로 관문을 세워 생애주기를 통제한다. 48쪽, 표 29개. 분량이 진지하다.
- Democratizing Agent Deployment Safety (2607.14570): 구조적 감시로 배포 안전을 다룬다.
- MCPEvol-Bench (2607.14642): MCP 서버가 계속 바뀌는 환경에서 에이전트가 버티는지를 잰다.
- Alipay-PIBench (2607.14573): 결제 연동이라는 실제 업무로 코딩 에이전트를 시험한다.
에이전트를 실제로 배포해 본 조직들이 논문을 쓰기 시작했다. 알리페이와 알리바바가 자기 업무를 벤치마크로 내놓은 것이 그 증거다.
3-2. 평가를 평가하기 시작했다
벤치마크 논문 10편 중 여러 편이 벤치마크 자체를 의심한다.
- Can We Trust Item Response Theory for AI Evaluation? (2607.15190): 교육측정학에서 빌려온 문항반응이론이 AI 평가에 정말 맞는지를 따진다.
- Project Kaleidoscope (2607.14673): 맥락을 살린 인간 정렬 평가를 제안한다. 실제 응용에서의 평가를 겨눈다.
- Contextualized Evaluation of VLM through Dynamic, Multi-turn Interactions (2607.14499): 한 번 묻고 채점하는 방식을 버린다. 여러 차례 주고받으며 잰다.
한 판의 점수로 모델을 세우던 시절이 저문다. 벤치마크 포화가 방법론 반성을 불렀다.
3-3. 안전이 말에서 몸으로 옮아간다
2-4에서 본 PRISM이 대표다. 텍스트 조정(moderation)만으로는 물리 위험을 못 잡는다는 결론이다. 같은 결에서 Action QFormer (2607.14635)는 시각-언어-행동 모델의 표현을 행동 감독으로 다듬는다. SMC-ES (2607.15003)는 형식 검증을 통과한 제어 정책을 자동으로 합성한다.
말을 검열하는 안전에서 행동을 검증하는 안전으로 무게가 옮는다. 체화 AI가 실제로 배포되기 시작했다는 뜻이다.
3-4. 과학 자동화와 그 그늘이 같은 주에 실렸다
AutoSynthesis (2607.15247)는 메타분석을 에이전트로 자동화한다. BrainPilot (2607.15079)은 뇌 연구 발견을 자동화한다. 저자가 16명이다. RetroAgent (2607.14512)는 역합성 설계를 맡는다. MIT의 Connor Coley와 UCLA 팀이 붙었다. MathCoPilot (2607.14582)은 수학 연구의 인간-AI 공생을 실험한다.
그리고 같은 날 같은 목록에 The Industrialization of Research가 올라왔다. 앞의 논문들이 짓고 있는 것의 대가를 묻는 글이다. 우연한 배치지만 읽는 쪽에서는 우연으로 넘기기 어렵다.
3-5. 거버넌스와 사회 논문이 늘었다
50편 중 6편이 사회·거버넌스다. cs.AI 목록치고 적지 않다.
- Global Index on Responsible AI: 2026 (2607.14782)
- The Industrialization of Research (2607.15164)
- Man, Machine, and Masterpiece: Artistic Ownership in the AI Era (2607.15027) — 예술 소유권
- Moral Attitudes of Sentient ASI towards Humanity (2607.14998) — AGI 2026 학회 채택
- Contextualized Early Detection of Online Firestorms (2607.14957) — 온라인 여론 폭발의 조기 탐지
- Demographically-Conditioned Synthetic Medical Images for Bias Mitigation (2607.14984) — 질병 분류기의 편향
마지막 논문은 눈여겨볼 만하다. 인구통계 조건을 걸어 합성 의료 영상을 만든다. 편향을 줄이는 데도 쓰고, 편향을 찾아내는 데도 쓴다. 자료가 모자라 생기는 의료 AI 격차에 대한 실용적 접근이다.
4. 남은 논문들 — 제목으로만 훑는다
Agent & Planning
- SearchOS-V1 (2607.15257) — 개방 도메인 정보 탐색 에이전트 협업. 코드 공개
- Plover (2607.15193) — 계획 중심 상호작용으로 GUI 에이전트 조종
- TopoAgent (2607.14658) — 다중모드 과학 추론을 위한 자기진화 위상 에이전트
- SAGA (2607.14494) — 스키마 인지 기반 Text-to-SPARQL
- Step-Level Preference Learning (2607.14485) — 사회 시뮬레이션 생성 에이전트의 단계별 선호 학습
- Are LLM-Generated GPU Kernels Production-Ready? (2607.14541) — 알리바바. 벤치마크와 최적화 에이전트 모두 공개
- Towards an Intention Abstraction Layer (2607.14553) — 자율 산업 시스템의 의도 추상화 층
- Analytic Abduction (2607.14641) — 인간-AI 협조를 위한 인과 분해와 통제된 개입
Benchmark & Evaluation
- Benchmarking MLLM for Scientific Visualization Literacy (2607.15176)
- MedFailBench (2607.15166) — 임상의가 만든 의료 AI 안전 경계 벤치마크
- CFM-Bench (2607.14975) — 채널 기반 모델 다중 도메인 벤치마크
- SportD (2607.14616) — VLM이 물리적으로 전략을 짤 수 있는가
Multimodal / Efficiency
- Stop Thinking, Start Looking (2607.14682) — 추론 없는 정렬로 문서 QA 후학습 효율화. ICML 2026 워크숍
- Seeing the End at Step Zero (2607.14557) — MLP 희소성 기반 절단으로 확산 MLLM 가속. ACM MM 2026
- Long-Context Fine-Tuning with Limited VRAM (2607.15105)
- SmartRAG (2607.14661) — 모바일 기기용 네이티브 그래프 RAG
- InCarEmo (2607.14683) — 차량 내 감정 인식 데이터셋
- VLT (2607.14510) — 산업 지능용 비전-언어-시계열 기반 모델
Domain Application
- Self-Evolving Framework for Explainable Depression Symptom Annotation (2607.15202)
- Multi-LLM Collaborative MRI Report Generation (2607.14581) — 뇌종양. 한국 연구진(성균관대)
- Explaining Process Control Optimisation via GradientSHAP (2607.14970)
- CrimeNER Demo (2607.14800) — 범죄 영역 개체명 인식
- AI vs Human Expert Reasoning (2607.14756) — 거리뷰 영상 기반 건물 유형 판정
- teLLMe Why (2607.15254) — 도시 주행 자료의 탐색적 인과 분석
- WrAFT (2607.14524) — 논증적 에세이 자동 평가
- Collaborative Spatial Learning with Multi-LLM Agents (2607.14574) — 네트워크 사회 실험
기타
- Concept-Guided Spatial Regularization for World Models in Atari Pong (2607.15142)
- Reachability-Aware Pretraining for Temporal Knowledge Graph Reasoning (2607.14886)
5. 다음 호를 위한 메모
이번 실행에서 두 가지가 막혔다. 다음 주에 손볼 지점을 적어 둔다.
- 목록 페이지네이션: 쿼리 파라미터가 잘려 날짜별 이동이 안 됐다. 대안이 필요하다. arXiv API나 RSS를 쓰면 풀릴 수 있다. 스킬 문서의
?skip=N&show=2000방식은 이 환경에서 작동하지 않는다. - 요청 한도: 본문 분석 단계에서 한도에 걸렸다. 초록 수집과 본문 수집 사이에 간격을 두거나, 본문 대상을 3편 이내로 미리 좁히는 편이 낫겠다.
본 리포트는 2026년 7월 17일자 arXiv cs.AI 목록의 앞 50편에 근거한다. 주간 전체 960편 중 5.2%다. 초록을 확인한 5편 외의 서술은 제목·저자·분류 정보에 기댄 것이다. 인용에 앞서 원문을 확인하기 바란다.