ネットがなくてもAIが使えるローカルLLM
私の勘違いは、AIに最新の知識を求めたことでした。
クラウドAIであればそれでも構わないのですが、ローカルにはそれができません。
モデルが知識を更新することはできず、モデルを最新版に置き換えることになります。
そもそも、それがAIの本来の目的ではなく、今の状況や持っている資源を提示し相談したり知恵を借りたりして、より正解へ辿り着くことが目的だと思います。（知識力ではなく推論力）
例として、災害時にインターネットが遮断されても自身の現状を伝えることで、より生存率を高めるというような使い方は最適だと思います。
スマホにローカルLLMが導入されるのが望ましく、将来的にはそうなるでしょうけど現在のスペックでは厳しそうです。（それを見据えての開発は進んでいるようです）
「番外」悲しきかなCopilot + PC
Microsoftがクラウドに配分を置きすぎて放置されている悲しきPC。
現在の最大のメリットがノートPCのバッテリーの長持ちくらいという悲しきPCです。
私も所有しているのですが、一向にNPUの新体験を提供してもらえません・・・。
なので、このローカルLLMには大いに期待しています。
もうしばらくかかりそうですけどね・・・。
Copilot+PCをご検討の方はもうちょっと待った方が良いかもしれませんね。