こんにちは、KSG Holdings Ltd.の司法書士 熊木です。
いつもブログをお読みいただきありがとうございます。
さて、今回はノートパソコン内に生成AIを構築したというお話しです。最近のテクノロジーの進化は目覚ましいものがあります。特にAIの分野は日進月歩で、私も仕事の効率化のために積極的に活用しています。
皆さんもご存知の通り、ChatGPTやGeminiといったクラウドベースの生成AIは非常に便利です。しかし、便利な一方で、ビジネスで活用する上では大きな課題もあります。それが「情報セキュリティ」です。
クライアントからお預かりする情報や機密性の高い書類を扱う業務において、これらの情報をインターネット上にアップロードする必要があるクラウドAIは、セキュリティの観点から利用することができません。しかし、生成AIの活用はクライアントワークの質と速度を向上させる上で不可欠です。そこで、情報セキュリティを確保しつつAIの恩恵を最大限に受ける方法として、インターネットを介さず、自分のPC内でAIを完結させる「ローカルLLM」という技術に注目するようになりました。
本格的にローカルLLM環境を構築しようとすると、それなりのスペックを持つ高価なPCが必要かと思いますが、ローカルLLM初心者である私としてはローカルLLMなるものがどの程度使い物になるものなのかまだ見えていません。それなりの金額のPCを購入したにもかかわらず、結果的に、私の仕事で使い物になるレベルのLLMが構築できなかった場合は悲惨です。ですので、まずは比較的手頃なPCで感触を掴むことにしました。もし実用性が見えれば、このPCは家族用に譲り、改めて本格的なマシンを購入する、という二段構えの計画です。その最初の試用機として白羽の矢を立てたのが、ブログタイトルにもある「Surface Pro 12」（https://www.microsoft.com/ja-jp/surface）という最近マイクロソフトが発売した2 in 1ノートパソコンです。
■ なぜSurface Pro 12を選んだのか？「一石三鳥」の魅力
今回PCを選ぶにあたって、私の目的は3つありました。
1. NPUを試す：
NPU（Neural Processing Unit）とは、AIの計算処理に特化した半導体のことです。これを搭載しているPCであれば、ローカル環境でもAIを効率的に動かせると期待しました。
2. Snapdragonを試す：
Microsoftが力を入れている新しいARMベースのCPU「Snapdragon X」の実力を体感してみたかった、というのも大きな理由です。ARMベースのCPUは、一部のデスクトップアプリが動作しないといった懸念を聞いていましたが、その一方でスマートフォンのように動作がきびきびとしており、バッテリー持ちが非常に良いという評判も耳にしていました。私の仕事はブラウザ上で動くWebアプリが中心なので、デメリットの影響は少ないと考え、一度そのメリットをトライしてみることにしました。
3. Surface Proを試す：
これまでHP社の「Envy 360」（https://www.hp.com/jp-ja/laptops-and-2-in-1s/envy.html）という、ディスプレイを背面に折りたたんでタブレットのようにも使うことができる2-in-1タイプのPCを愛用してきました。タッチ操作ができるPCは私の仕事やプライベートでの使い方に非常に合っており、この2-in-1という形態をさらに突き詰めたようなSurface Proであれば、タブレットとしてもノートPCとしても、より快適に使えるのではないかと期待がありました。
この3つの目的をすべて満たしてくれるのが、最近発売されたこのSurface Pro 12だったのです。
■ ローカルLLMの前に…Surface Pro 12、実際のところどう？
本題であるローカルLLMの構築の話題に入る前に、Surface Pro 12の購入を検討している方に向けて、おそらく購入を検討している方が気にしている点について少しだけ触れておきます。
画面の小ささ（12インチ）は？
結論としては絶妙なサイズだと感じています。確かに小さめのサイズではありますが、Windows 11では3本指でのスワイプで仮想デスクトップを軽快に切り替えられます。そのため、各アプリをフルスクリーンで表示したデスクトップを複数作成し、それらを瞬時に行き来する、という使い方をすれば、文字の小ささに悩まされることもありません。また、画面自体が高精細なので、1つの画面を左右に分割して2つのウィンドウを並べても、十分に作業可能です。
バッテリー持ちと起動速度は？
以前少しの期間使っていたM1チップ搭載のMacBook Airの異常なほどのバッテリー持ちには及びませんが、従来のIntel製CPUを搭載したノートPCとは比較にならないほど改善されています（ただし、Intel製CPUもIntel Ultraモデルはかなり良いと聞きます）。外出の際にバッテリーの状態を心配することはほとんどなくなりました。
キーボードを閉じると瞬時にスリープし、開けばすぐに復帰。スリープ中のバッテリー消費はごく僅かで、まるでiPadのような感覚で手軽に使えるのも魅力です。
ペンやカメラ、音質は？
付属のペンは、PDFへの注釈やメモ書きには十分な精度です。ただ、本格的に絵を描くにはiPadには及ばないかもしれません（ただ、私は絵を描かないので、厳密にはトライしていません）。
また、インカメラとアウトカメラの両方があるのも意外と便利で、本人確認書類の提出などで重宝します。音質もこのサイズのデバイスとしては驚くほどクリアで、音量も十分です。音がいいのは強調したい点です。
外部ディスプレイとの接続は？
オフィスでは、USB-Cポートにアダプターを経由させて外部ディスプレイに接続し、大画面で快適に作業しています。
SnapdragonのCPUでは動かないアプリがある？
私の仕事はブラウザ上で動くWebアプリが中心なので、全く問題ありませんでした。ただ、一部のデスクトップアプリはまだSnapdragonに対応していないものもあるようです。購入を検討されている方は、ご自身が使いたいアプリが対応しているか事前に確認することをおすすめします。
Google 日本語入力が使えない問題は？
長年「Google日本語入力」を愛用してきた私にとって、これが非対応だったのは少しショックでした。しかし、何年かぶりに使ってみた標準の「MS-IME」が驚くほど進化していて、今では全く不便を感じていません。むしろ、MS IMEの変換候補の方がしっくりくる場面も多いくらいです。
キーボードの使い心地は？
13インチや14インチのノートパソコンを使っていた私にとっては最初は少し違和感がありましたが、慣れれば問題ありません。タイピングの打鍵間はなかなかよいです。ただ、横幅が狭いためか少し肩が凝るような気がします。なお、一つ前の世代であるSurface Pro 11は、キーボードをディスプレイから外した場合でも、Bluetoothでつないで文字入力ができましたが、Surface Pro 12のキーボードは接着していないと使えません。キーボードを離して使うことができれば便利と感じる場面は多々ありますので、この点は価格とのトレードオフです。とはいえ、前世代のモデルはディスプレイが13インチですので、このSurface Pro 12のようにIpadのように気軽にささっと持ち運べる感じがなくなってしまう点がネックです。私はキーボードが取り外して使えない点を差し引いてもこのSurface Pro 12がベターと感じています。
■ 本題：ローカルLLM構築への挑戦と試行錯誤
さて、いよいよ本命のローカルLLM構築です。
ここで、最新のノートパソコン事情に詳しい方の中には「最近話題のCopilot+ PCなら、そもそもAI機能が組み込まれているのでは？」と疑問に思われる方もいるかもしれません。確かに、キーボードに搭載されている「Copilotキー」を押せばマイクロソフトの生成AIが起動しますが、一見ローカルで動いているようにみえて、実はこれはクラウド上のAIに接続するものであり、PC内で処理が完結しているわけではありません。そのため、機密情報を扱う業務には利用できないのです。
だからこそ、自前でPC内にAI環境を構築する必要があります。ここで言う「ローカルLLM」とは、CopilotやChatGPTのようにインターネット上のサーバーに接続するのではなく、自分のパソコンの中（ローカル環境）に大規模言語モデル（LLM）をインストールして動かす技術のことです。これにより、外部に情報を送信することなく、AIの機能を利用できます。
ここからは、このローカルLLMをSurface Pro 12に構築するための、私の試行錯誤の道のりをご紹介します。この話に興味があるのはある程度ITの知識がある人だと思いますので前提条件の説明などは色々と省略致します。
1. LM Studio：簡単だけど、NPUが使えない…
まず試したのが、手軽に始められると評判の「LM Studio」（https://lmstudio.ai/)というソフトウェア。確かに、ソフト内で好きなLLMモデルを選んでダウンロードするだけで、驚くほど簡単にローカルLLMを動かすことができました。
しかし、ここで問題が。LM StudioはまだNPUに対応しておらず、さらにSurface Pro 12に搭載されているSnapdragonのGPUも認識してくれません。つまり、PCの性能を全く引き出せず、CPUだけで動いている状態でした（パソコンがかなり熱くなります）。パラメーターが８Bのモデルは厳しかったです。４BあたりのGemma 3n E4B、Qwen3 4Bなどであればそれなりの速度で動きます。
2. Lemonade Server：NPUへの期待、しかし…
次に挑戦したのが、NPUを使えると聞いた「Lemonade Server」（https://lemonade-server.ai/）です。「Lemonade Server」自体はNPUに対応しており、GGUF形式のLLMモデルを使えばGPUやNPUが作動するはずです。しかし、私の環境ではSnapdragonとの相性が悪いのか、あるいはメモリ不足（16GB）が原因なのか、LM Studioで試した時よりも動作がもっさりしたり（同じ４Bのモデルでも）、生成されるテキストが文字化けしたり、時には全く反応しなくなったりと、残念ながら実用には至りませんでした。
また、Docker経由で「Open WebUI」(https://docs.openwebui.com/)を構築し、Lemonade Serverに接続して利用する方法も試してみましたが、こちらも同様に安定して動作させることはできませんでした。
3. Anything LLM：ついにNPUが動いた！
いくつかの方法がうまくいかず暗礁に乗り上げていたところ、別のソフトウェアでNPUを活用できる可能性を見つけました。それが「Anything LLM」（https://useanything.com/) です。
このソフトの中にある「Anything LLM NPU」というLLMプロバイダーを使うと、Microsoftが開発した「Phi 3.5 Mini Instruct 4K」という軽量LLMモデルをNPU上で動かすことに成功しました。LLMにプロンプトを投げたときに、WindowsのタスクマネージャーでNPUが使用されていることで確認できます。
ただ、残念であったのが、個人的には、NPUを活用すれば8B（80億パラメータ）クラスのモデルも快適に動かせるのではないかと期待していましたが、結果としては4Bクラスのモデルが限界のようです。これはおそらく、16GBというメモリ容量がボトルネックになっているためだと考えられます。
なお、特筆すべきは、LM Studioを使いCPUだけで同規模のモデルを動かした際にはPCがかなり熱を持ったのに対し、NPUを使っている時は発熱も少なく、軽快に動作している感覚があった点です。バッテリーへの負荷も軽減できているように感じました。メモリを増やせば、８Bやそれ以上のパラメーターのLLMモデルも動かせるかもしれません。
■ 現時点での結論と今後の展望
今回、色々と試行錯誤を重ねてみた結果、現時点での結論は以下の通りです。
結論：
Surface Pro 12でもローカルLLMは動かせる。NPUを活用する方法も存在する。
性能の限界：
ただし、快適に動くのは3B〜4B（30〜40億パラメータ）程度の軽量モデルが限界。（これはNPUの性能不足というより、16GBというメモリ容量がボトルネックになっている可能性が高いです）
実用性：
メモリ16GBのSurface Pro 12ではNPUの能力を十分に引き出せず、アイデア出しの壁打ち、文章作成や翻訳、PDFの読み込みなどはある程度可能だが、回答の質はクラウドLLM（ChatGPTなど）に遠く及ばず、クラウドLLMを代替することは不可。オフラインでAIを持てることは夢があるが、ハルシネーションも結構あり、マレーシアの人口を訪ねると3億1000万人との回答があった。
速度：
ローカルLLMのメリットとして、ネットを通さないので、ローカルできびきびと快適に動くということが言われることもありますが、ローカルであることの速度的な優位性は元々あまり期待していませんでした。むしろ、メモリ不足などが影響するのか、モデルによってはクラウドより応答が遅いと感じる場面もありました。そもそも最近のクラウドLLMは非常に高速になっています。
今後の展望
ローカルLLMの試用機として購入したSurface Pro 12ですが、サイズ感やバッテリー持ちが気に入りすぎましたので、しばらくは、このマシンでローカルLLMを最大限引き出す方向で考えています。まずは、LM StudioがNPUに対応するのを待ちつつ、日進月歩のAI業界ですので、さらに軽く動作する有能なLLMモデルが発表されるのも楽しみに待っています。
これまで、DeepseekやQwen、GemmaといったLLMモデルの発表は、自分事というより保有している株式の株価が変動する材料として見ていましたが、今後は自分が実際に使うツールとして、その登場が楽しみになった点も今回の大きな収穫です。
普段使いのPCとしてはこのSurface Pro 12のサイズやバッテリー、取り回しの良さが気に入りすぎているので、マシン自体をグレードアップするのではなく、オフィスに省電力のサーバーを構え、それにローカルLLMを構築してネットワーク経由で使うというような方向性も検討しています。
それではまた。
2025年9月6日
熊木 雄介
