LLM

172개의 글

NVIDIA CUDA 13.3은 CompileIQ와 CUDA Python 1.0으로 LLM 추론 비용의 낮은 계층인 커널과 컴파일러 병목을 겨냥합니다.

Google Tensor SDK Beta는 Pixel 10 TPU를 LiteRT와 100개 이상 모델 정원으로 열며 온디바이스 AI 배포 병목을 겨냥합니다.

Language Models Need Sleep 논문이 제안한 sleep-like fast weight consolidation과 장기 에이전트 메모리의 의미를 짚습니다.

Google DeepMind Co-Scientist의 Nature 발표가 과학용 다중 에이전트 설계와 검증 병목에 던진 의미를 짚습니다.

Anthropic Project Glasswing 초기 결과는 AI 보안 모델이 취약점 발견보다 검증과 패치 처리량을 새 병목으로 만든다는 신호입니다.

vLLM EAGLE 3.1은 speculative decoding의 attention drift를 줄여 long-context와 코딩 워크로드의 서빙 병목을 겨냥합니다.

OpenAI 모델의 단위거리 예상 반증은 AI 연구 자동화의 핵심이 답 생성보다 검증 가능한 증명 루프에 있음을 보여줍니다.

Trump의 AI 행정명령 연기는 frontier 모델 출시가 속도, 보안 평가, critical infrastructure 대응 사이에서 재편되고 있음을 보여줍니다.

Datasette Agent는 SQLite 데이터 탐색을 LLM, 플러그인 도구, 권한 모델, sandbox 실행과 결합한 좁지만 실용적인 에이전트 실험입니다.

Gemini API Managed Agents는 sandbox, 상태, 도구 루프를 API로 감추며 에이전트 런타임 경쟁을 새 단계로 옮깁니다.

Microsoft Fara1.5는 작은 computer use 모델과 합성 웹 환경이 브라우저 에이전트 경쟁의 새 병목임을 보여줍니다.

Google Gemini Spark는 24시간 백그라운드 에이전트를 대중 앱에 얹으며 MCP, 승인, 책임 경계를 새 쟁점으로 만들었습니다.