LLM 자기 가중치 변경 연구의 진짜 핵심
LLM이 자신의 가중치를 직접 바꾸는 능력을 다룬 arXiv 논문 2611.21885를 분석한다. 핵심은 성능 향상이 아니라 평가, 제약, 재현을 포함한 안전한 반복 체계가 가능한지다.
OpenAI가 공개한 적대적 Knowledge Distillation 분석을 바탕으로, 공격자가 유도 요청으로 모델의 행동을 추출하는 방식과 OpenAI의 식별·방해·추적 방어를 살펴본다.
LLM이 자신의 가중치를 직접 바꾸는 능력을 다룬 arXiv 논문 2611.21885를 분석한다. 핵심은 성능 향상이 아니라 평가, 제약, 재현을 포함한 안전한 반복 체계가 가능한지다.
Palo Alto Networks가 45억 달러를 들고 Applied Compute를 인수하면서 AI Agent의 실행 환경까지 보안 통제 범위에 넣었다. 거래의 전략적 배경과 Agent运行时 보안, 인수 후 해결해야 할 가격·마이그레이션·다중 클라우드 호환성 쟁점을 짚는다.
AI coding agent가 코드 생성 속도를 끌어올린 뒤 병목은 Code Review로 옮겨 갔다. 이제 팀은审查 Agent 추가를 넘어 위험도별分流, 작은 단위의 제출, 독립 검증과 책임 체계를 다시 설계해야 한다.
Windows 11이 Claude Code와 Codex 같은 AI 코딩 도구의 사용 정보를 수집한다는 주장이 나왔습니다. 알려진 근거와 아직 확인되지 않은 범위, 기업 환경에서 점검해야 할 엔드포인트 설정을 살펴봅니다.
Google이 AI 도입을 명시적으로 거부하거나 제한한 학교의 검색 결과 노출을 줄이기로 했다는['_报道'](https://www.nytimes.com/2026/11/03/us/google-search-schools-restrict-ai.html)가 나왔다. 학교의 선택과 AI 도입 여부를 둘러싼 논쟁은 도구 사용 여부를 넘어, 검색 가시성이 조달과 교육 현장의 의사결정에 영향을 미치기 시작했는지가 핵심 쟁점으로 떠올랐다.
PHP2Shell이 Hacker News 메인페이지에 오르며 uncovered된 논쟁은 AI가 취약점을 빠르게 찾아낼 수 있을 뿐, 기업에 쌓인 기술 부채까지 해결하지는 못한다는 점을 보여 준다. 실제 대응에는 SBOM, 테스트, 배포 이력과 함께 재구축 가능한 운영 프로세스가 필요하다.
Brave Search API가 x402 기반 기계 결제를 지원하면서 AI Agent가 필요한 검색만 골라 비용을 지불할 수 있게 됐다. 다만 개발자는 예산 한도, 결제 멱등성, human approval과 이상 행동 방지를 별도로 설계해야 한다.
악성 패턴이 모델 가중치에 숨어 다운로드와 양자화, 微調를 거쳐 전파될 수 있다는 주장이 나왔다. 대규모 피해의 증거는 아직 부족하지만, 운영 팀은 모델 출처와 해시를 기록하고 배포 전 최종 가중치를 감사해야 한다.
Lovable이 생성한 앱에서 여권 정보와 20만 건이 넘는 개인 메시지가 노출된 사건이發生했다. 이 사례는 코드 생성뿐 아니라 미리보기 환경, 배포 설정, 권한 기본값까지 AI 개발 도구가 안전하게 관리해야 함을 보여준다.
Unemployment Labs는 LLM checkpoint의 수치적 특징을 분석해 학습에 사용된 GPU와輸出 통제 대상硬件 여부를 추론하는 연구를 apartamentos했다. 이 방법은 모델 자체에서 출처를 확인할 수 있는 새로운 증거 경로를 제공하지만, 아직ofauna 직접적인 증거로 활용하기에는 한계가 있다.
API가 제공되지 않는 legacy 시스템도 MCP로 연결해 Agent가 활용할 수 있게 하려는 프로젝트 Pomerado를 소개한다. 브라우저 자동화의 숨은 비용과.self-serve 방식의 현실적 한계를 함께 살펴본다.