ローカルLLM– category –

生成AIは、高性能になればなるほど巨大になる。 巨大になるほど、 高価なGPU 大量のVRAM 大量のメモリ クラウドサーバー が必要になる。 少し前までは、これが当たり前でした。 特に動画生成AIとなれば、 「個人PCで動かすのは一部のハイエンドユーザーだ...

LM Studioをインストールした。 ローカルLLMを自分のPCで動かせることも分かった。 しかし、次に出てくるのがこの問題です。 「結局、どのAIモデルを入れればいいの？」 LM Studioのモデル検索画面を開くと、 Qwen Gemma Mistral Phi gpt-oss など大量のモ...

自分のWindows PCでローカルLLMを動かせるようになった。 Wi-Fiを切ってもAIが返事をする。 ここまで来ると、次に試したくなることがあります。 「自分の資料について答えてくれるAIを作れない？」 例えば、自分のPCにはこんなファイルが増えていきます。 ...

ローカルLLMについて調べると、 オフラインで動く 自分のPCでAIを動かせる LM Studioなら初心者でも始められる RAGを作れる AIエージェントにもできる といった情報が出てきます。 でも、そこで一つ疑問が出てきませんか？ 「それで、普通の会社員がローカ...

ローカルLLMの大きな魅力の一つは、 自分のPCの中でAIを動かせること です。 ChatGPTなどのクラウドAIへ資料をアップロードせず、 自分のPDFを読む 過去の記事を検索する 社内資料を整理する RAGで自分専用検索AIを作る といったことができます。 AI Motio...

ChatGPTを使うには、インターネットへ接続してAIサービスへアクセスする。 少し前まで、それが当たり前でした。 しかし現在は、AIモデルそのものを自分のパソコンへダウンロードし、 自宅のPCだけで文章生成AIを動かす ことができます。 インターネットを...

ここまで3章にわたり、REDMAGIC Astra 2を確認してきました。 第1章では外観・デザイン・OS。 第2章ではSnapdragon 8 Elite Gen 5、Game Space、液体冷却。 第3章ではOLEDディスプレイ、スピーカー、バッテリー。 そして最後の第4章では、カメラ性能と、As...

ローカルLLMを始めたいと思ったとき、最初に気になるのがパソコンの性能です。 「普通のノートパソコンでも動くのか」 「GPUがなければ使えないのか」 「メモリとVRAMは何が違うのか」 「何GBあれば実用的なのか」 スペック表にはCPU、GPU、メモリ、VRAM、...

ChatGPTをはじめとする生成AIが、仕事や日常生活で使われるようになりました。 文章作成、資料の要約、アイデア出し、調査、画像分析など、多くの作業をチャット画面から依頼できます。現在のChatGPTはWeb検索、ファイル分析、画像入力、データ分析などに...