#端侧推理

共 23 篇带此标签

23 편 최신 2026-11-21
이전 · #端侧推理 총 11편
제품

Axonnic, EMG袖套로 로봇 학습 데이터를 수집한다

YC F26 스타트업 Axonnic은 전완부 EMG 신호로 손가락 동작과指尖 힘을 추정해 기 dexterous 로봇의 학습 데이터를 만드는 데 집중하고 있다. 영상 모션 캡처가 포착하지 못하는 힘 exertion 정보를 보완하는 방식이다.

2026-11-17 출처 2026-11-16 7 분 58 조회
도구

Apple의 새 Mac AI 앱, 로컬 LLM을 더 쉽게 만들까

Apple이 로컬 AI 모델 실행의 진입장벽을 낮추는 Mac 앱을 출시할 소식이 전해졌다. 앱의 이름과 기능은 아직 공개되지 않았지만, 모델 배포부터 디버깅, 단일 환경과 클라우드 간 라우팅, 보안 경계까지 시스템 차원의 통합이 관건이다.

2026-11-11 출처 2026-11-10 7 분 58 조회
제품

DeepX 2세대 PIM 칩, 100B 추론을 5W 안에서 가능할까

DeepX는 최대 100B 모델을 5W 미만의 소비 전력으로 추론할 수 있다고 주장하는 2세대 LPDDR5X PIM 칩을 탭아웃했다. 그러나 메모리 용량, 대역폭, 지연 시간,功耗 측정 조건과 소프트웨어 지원 여부는 독립적인 검증이 남아 있다.

2026-11-10 출처 2026-11-09 6 분 58 조회
실전

2만 달러로 만든 텍스트 이미지 모델, Apache 2.0의 진짜 비용

두 사람 규모의 연구팀이 약 2만 달러로 PJIT-21K를 처음부터 학습하고 Apache 2.0 라이선스로 가중치를 공개했다. 이 글에서는 학습·추론·라이선스·배포 비용을 분리해 AI Agent와 멀티모달 팀이 모델을 평가할 때 확인할 항목을 정리한다.

2026-11-06 출처 2026-11-04 7 분 58 조회
제품

Cloud AI 100 Ultra 심층 분석: 128GB 저전력 추론 카드

Cloud AI 100 Ultra는 128GB 메모리와 548GB/s 대역폭, 150W 전력으로 클라우드 LLM 추론에 접근한다. 하드웨어 방향은 명확하지만, 실제 도입 판단에 필요한 처리량·지연 시간·호환성·이전 비용 데이터는 아직 부족하다.

2026-11-05 출처 2026-11-04 7 분 58 조회
실전

Qwen 3.8 27B로 모델 가중치 읽기: 로컬 Agent 실험

Simon Willison은 개인 노트북에서 Qwen 3.8 27B를 실행해 다른 모델의 가중치를 분석했다. 로컬 LLM을 통계 처리, 가설 생성, 검증 과정에 연결한 실험을 살펴보며, 모델이 제시한 설명이 곧 인과적 진실은 아니라는 점도 짚는다.

2026-11-04 출처 2026-11-03 8 분 58 조회
실전

에어갭 PC의 RAM 방사선에서 비밀 데이터가 새는 방식

에어갭 환경에 있는 컴퓨터의 RAM이 생성하는 전자기파를 수집해 메모리 속 비밀 데이터를 복원하는 공격이 2024년 논문으로 제시됐다. 논문은 실험 조건과 적용 한계를 분석하고, 물리 계층 보안과机密 컴퓨팅 환경의 보완책을 제시한다.

2026-11-01 출처 2026-11-01 7 분 58 조회