
120億〜1200億パラメーター規模のLLMをインターネット接続なしでオンデバイス実行できるポケットサイズのAIコンピューター「Tiiny AI Pocket Lab」を、米スタートアップのTiiny AIがKickstarterで先行受注中だ。スーパーアーリーバード価格は1399ドル(約22万2000円)で、通常想定小売価格1999ドル(約31万8000円)の30%オフに相当する。出荷は2026年8月を予定している。
本体は14.2×8×2.53cm、300gのスマートフォンサイズだ。SoCはArmv9.2ベースの12コアCPUとNPUを統合した独自チップで、CPUのNPUが30 TOPS(INT8)、別体の専用アクセラレーター「dNPU」が160 TOPS(INT8)を担い、合計で約190 TOPSの演算性能を持つ。メモリは80GB LPDDR5X(6400MT/s)、ストレージは1TB PCIe 4.0 SSDを搭載する。消費電力は65W枠内に収まる設計だ。
推論速度は使用モデルと負荷に依存するが、同社は18〜40トークン/秒を実測値として案内している。LlamaやQwen、DeepSeek、Mistral、Phi、OpenAI GPT-OSS(120Bモデルを含む)などのオープンソースモデルをワンクリックでインストールして使える。OpenAI互換APIも実装しているため、既存のツールやエージェントをほぼそのまま接続できる。
処理はすべてローカルで完結する。ユーザーのデータ、会話履歴、ドキュメントはすべて本体に蓄積され、クラウドへの送信は行われない。バンクグレードのハードウェア暗号化を実装しているとしており、医療・法律・研究など機密性の高い業務での活用も想定している。サブスクリプション費用やトークン課金は発生しない。
ソフトウェア面では、推論効率を高める独自手法「TurboSparse」と、CPUとNPUに処理を分散させる推論エンジン「PowerInfer」を採用した。接続はWi-Fi 6(802.11ax)とBluetooth 5.3を搭載し、OTAでのファームウェア更新にも対応する。
Tiiny AIは2024年設立の米国スタートアップで、MIT、スタンフォード大学、香港科技大学、上海交通大学のほかIntelやMetaの出身者が創業した。2025年には数百万ドル規模のシード資金調達を完了している。本製品は2025年12月にギネス世界記録から「最小のミニPC(100Bパラメーター以上のLLMをローカル実行)」として認定を受けた。

