タグ: #apple-silicon

한국어English日本語中文

← すべての記事

• 26Bモデルを2GBのRAMで動かす原理 — 常駐メモリとワーキングセットは同じ数字ではない

  2026年7月29日にShow HNへ上がったTurboFieldfareは、Gemma 4 26B-A4BをMシリーズのMacで約2GBのRAMで動かすと主張しています。ディスクには14.3GBが入り、RAMに常駐するのは1.35GBの共有コアだけで、トークンごとに必要なエキスパートの重みをSSDから読み込みます。この記事はその数字たちを自分で導出して検証します — 4ビットのグループ64量子化がなぜ重みあたり4.5ビットになって14

  2026-07-31 · 20 分で読めます #ai#llm#quantization#apple-silicon#moe

• Mac mini がオンデバイス AI マシンになった理由 — アップル半導体幹部インタビューが語ること、語らないこと

  Apple Silicon のシニアプロダクトマネージャー、ダグ・ブルックス氏が The Deep View のインタビューで Mac mini と Mac Studio の需要とオンデバイス AI の方向性を語りました。開発者や小規模チームがなぜこの小さなデスクトップをローカル LLM・エージェント機として選ぶのか、統合メモリ構成の本当の利点は何か、そして CUDA エコシステムの差と直近の値上げという正直なトレードオフまで — 幹部

  2026-07-11 · 10 分で読めます #apple-silicon#on-device-ai#local-llm#mac-mini#inference

• apple/container 徹底解説 — macOSコンテナにおける軽量VMアプローチ

  Docker Desktopの単一Linux VM構造が抱える限界を整理し、apple/containerが採用したコンテナごとの軽量VM 1対1モデルを分析します。WWDC26で発表されたContainer Machine機能、Lima・Colima・OrbStackとのアーキテクチャ比較、実践的な使い方、移行チェックリストまで扱います。

  2026-06-12 · 30 分で読めます #apple-container#virtualization#macos#docker#container

• MLX 徹底解剖 — Apple Silicon 専用 ML フレームワーク、統合メモリ・遅延グラフ・Mac ネイティブのワークフロー (2026 ハンズオン)

  MLX は、PyTorch と JAX を作った Apple の ML チームが、今度は Apple Silicon だけのために書き直した配列フレームワークだ。中核となる命題はひとつ — M シリーズの GPU は CPU と同じ RAM を使う、つまりホストとデバイスの間に複製がない (統合メモリ)。本記事は、その統合メモリ命題、遅延 (lazy) 計算グラフ、mlx-lm・mlx-vlm・mlx-data サブパッケージ、Pyth

  2026-05-14 · 28 分で読めます #mlx#apple-silicon#ml-framework#unified-memory#metal

• コンピュータアーキテクチャの現代 — CPU Pipeline・Out-of-Order・Cache・Branch Prediction・Meltdown・Apple Silicon・ARM・RISC-V・SIMD・GPU 深層ガイド (2025)

  なぜ配列が linked list に勝つのか、なぜ分岐が10倍遅くなるのか、M1 がなぜ Intel を超えたのか。CPU Pipeline・Out-of-Order・L1 から L3 Cache・Branch Prediction・Meltdown/Spectre・Apple Silicon・ARM/x86/RISC-V・SIMD・GPU SM/Warp・HBM/CXL まで — ソフトウェアエンジニアが知るべき2025年のハードウ

  2026-04-15 · 22 分で読めます #computer-architecture#cpu#cache#branch-prediction#apple-silicon

• Apple SiliconでLLMを動かす：M4/M5チップのAI推論の秘密と限界

  Apple M4/M5チップのユニファイドメモリアーキテクチャがLLM推論に与える影響を深く掘り下げます。Neural Engine、MLXフレームワーク、llama.cpp Metalバックエンドを使った実測ベンチマークと、NVIDIAとの正直な比較を提供します。

  2026-03-18 · 18 分で読めます #apple-silicon#m5#LLMサービング#ユニファイドメモリ#mlx