ブラウザでLLMを動かす:WebGPUで1-bit推論エンジンを作った
サーバー不要、ブラウザだけでBitNet b1.58を動かすTypeScriptライブラリ「0xBitNet」を作った。WebGPU + WGSLカーネルによる1-bit LLM推論の仕組みと、開発で得た知見を共有する。
5 posts
サーバー不要、ブラウザだけでBitNet b1.58を動かすTypeScriptライブラリ「0xBitNet」を作った。WebGPU + WGSLカーネルによる1-bit LLM推論の仕組みと、開発で得た知見を共有する。
Linux Deployを使わず、Termux + chroot でUbuntu 24.04をAndroid上に構築。SSHサーバー化して画面OFFでも24/7運用する方法。ハマりポイント全部書いた。
画面に縦線が走るジャンクのRedMagic 8にOpenClawを入れて、WhatsApp経由AIエージェントを24/7運用する方法。Mac Mini 7万円の代替を0円で。
HTTPステータスコード402を活用したx402プロトコル。アカウント不要・DB不要のAPI課金を実現する次世代Web決済の仕組みを解説
Tailscale + ASUS Merlin + クラウドインスタンスで、世界中どこからでも自宅ネットワークにアクセスできる環境を構築する