YouTubeチャンネル「Build with Binh」を運営するエンジニアが、名刺サイズのプリント基板(PCB)に小型の言語モデルを搭載した電子名刺を製作した。毎秒24トークンで動作し、26万パラメータのモデルを内蔵している。ウィジャボード(占いボード)風のデザインを採用し、タッチ操作によってAIとの対話が可能だ。
この電子名刺は、Andrej Karpathyの「Tiny Stories」データセットで訓練された小型言語モデルを使用している。ハードウェアはESP32S3マイクロコントローラーを中心に構成され、Dave BennettのLlamat 2Cプロジェクトを改造したファームウェアで動作する。
名刺の表面には36個の個別制御可能なLEDが配置され、アルファベットと数字を表現できる。ユーザーが静電容量式タッチパッドに触れると、AIが民話を語ったり、魔法の8ボールのようにランダムなメッセージを表示したりする仕組みとなっている。
この名刺の最大の特徴は、インターネット接続なしにAI処理を完結できることだ。通常のAIチャットボットはクラウドサーバーとの通信が必要だが、この装置では手のひらサイズの基板内ですべての処理を実行する。
ESP32S3は十分なメモリ容量を持ち、26万パラメータという比較的小規模な言語モデルを格納できる。これにより、簡単な文章生成や対話が可能になっている。ただし、モデルのサイズ制約から、複雑な会話よりも短い民話の生成に特化している。
電源はUSB-C端子から供給され、一般的な充電器やモバイルバッテリーで動作する。製作者は電子回路設計ソフトウェア「KiCad」を使用して基板を設計し、PCB製造サービスで基板を製作した。
このプロジェクトはオープンソースとして公開されており、KiCadプロジェクトファイルとファームウェアのソースコードがGitHubで入手できる。これにより、他のエンジニアや愛好家が同様の電子名刺を製作したり、設計を改良したりすることが可能だ。
製作者は従来のLEDマトリクスや金メッキ文字を使った電子名刺とは差別化を図るため、ウィジャボードという独特なデザインを採用した。このアイデアにより、単なる技術デモンストレーションを超えた、印象的なコミュニケーションツールとして機能している。