スポンサーリンク

「AI ローカルLLM」は時期尚早なのか?

きっかけ

VisualStudio2026を更新するとサイズも大きくかなり時間がかかりました。
気になったのでAIに聞いてみると前日付でAI機能が大幅に強化され、その中にローカルLLMが使えるとのこと。

ローカルLLMって?

現在の一般的なAIチャットはクラウドサービスです。
これだと色々なコストがかかるのでローカルでやろうということらしいです。
これができるとネット未接続でもAIチャットができます。
ただし、大手のChatGPTやGemini等はできません。(そりゃドル箱だろうし)

それを行うにNPUを実装したPCが必要です。(Copilot+PC等)
私はそのPCを持っているので非常にワクワクしたわけです。

まずOllamaが必要

https://ollama.com

AIモデル(Claude SonnetやChatGPT5のこと)をまとめて実行できるサービスです。
モデルが有償プランなら認証情報が必要です。

しかし、LLMを使うなら無償モデルを使いたい。
それだとノーコストで高速のAIが使えるのでは?

ネットを切断しPowerShellにて使ってみました。
ちゃんと返答がありますが、遅いですね・・・。
これについてはモデルのcontextサイズが4kで小さすぎる可能性があります。
あと、情報が古いようでVisualStudioに2026はまだ存在しないと言われ、最新は2022とい言われてしまいました。

VisualStudio2026では?

数時間に及び格闘しましたが、諦めました。

  • まだネイティブでは動かないようです。
    • チャット設定にOllamaを追加し、モデルも認識されましたがグレーアウトして選択できませんでした。
  • ネットでも情報が錯綜しており、どれが正しいのかわかりません
    • 複数のAIに相談しましたが、提案される設定がまず存在しない・・・。

GithubCopilotProのままで使うことにしました。

VisualStudioCodeでは?

さすがオープンソース、対応はVS2026よりも早いようでした。
ネイティブでも対応しています。

こちらも数時間格闘しましたw。

ただし、AIとの相談結果では、拡張機能を入れるように提案されました。
拡張機能の「continue」を入れましたが、CopilotChatと統括されるわけではなく、独自にcontinueチャットができました。
Agentモードが強いと聞いていましたが、エディット中のファイルを見つけることができなかったり、作成できなかったりとまだ、成長段階なのかもしれません。

ダメ元でCopilotChatの設定に入ると使うことができました。
ただし、標準のOllamaは非推奨になっているので、拡張機能でOllamaを入れる必要がありました。

CopilotChatと競合していないのかが心配ですね。
私は特にAIのコード補完に多大な恩恵を感じているので、この機能がなくなると辛いです。

CopilotChat内でpullしたモデル(qwen3)を使ってみましたが、「コンテキストサイズが4kしかない」と警告がでてレスポンスが非常に遅いです。

こちらもあきらめてGithubCopilotProのままで使うことにしました。

総括

まだ早い・・・。
拡張機能に依存したくないのでできる限りネイティブで使いたいですね。

MicrosoftがなにもしてくんないCopilot+PCが日の目を見れるとワクワクしたのですが肩透かしだったようです。

しかしながら、将来的にメジャーなモデルが有償でも良いのでLLMに対応してくれると、爆速AIエージェントを使えるのを夢見ますね。

ちなみにモデルは一つ当たり5GBほどあります。
多いのか少ないのか微妙なんですが・・・。

期待しています。