まとめ
DeepSeek-R1の蒸留モデルを実際に検証してみた結果、一般的なPCやスマートフォンでも十分に動作することが確認できた。インターネット接続なしでAIを利用できるという点はやはり画期的。動作に多少時間がかかるものの実用的な範囲で利用可能だ。
ローカルで動作するモデルには、「phi-4」や「Qwen2.5 7B」など様々な選択肢があるが、DeepSeekの特筆すべき点はオープンソースであることだ。誰でも自由に改変できるため、今後様々な派生モデルが登場することが期待できる。
今回は3つの実行環境を検証した。LM Studioは直感的なGUIで初心者でも扱いやすく、ollamaはコマンドラインベースながら他のプログラムとの連携が容易だ。PocketPal AIはスマートフォンで場所を選ばずAIを利用できる点が魅力となっている。
ただし、PCでの実行にはある程度のスペックが必要となる。システムメモリは16GB以上を推奨し、モデルファイルの保存には1つあたり4〜5GB程度のストレージ容量が必要だ。GPUについては、NVIDIAのグラフィックスカード(VRAM 8GB以上推奨)があれば高速な処理が可能だ。AMD GPUでも対応ツールによっては動作し、さらにGPUがなくてもApple Silicon搭載のMacで実行できることも確認できた。
利用を検討する場合、まずは手軽にスマートフォンのPocketPal AIから試してみるのがおすすめだ。PCでの利用なら、GUI操作に慣れている人はLM Studio、コマンドラインに抵抗がない人やプログラムとの連携を考えている人はollamaが適している。
蒸留技術による軽量化、量子化による最適化、そしてDeepSeekのようなオープンソースの基盤モデルの登場により、ローカルLLMの実用性は確実に高まっている。オープンソースモデルがさらに充実していくことで、今後も急速な進化が期待できる分野と言えるだろう。
この連載の記事
-
第30回
AI
グーグルAI「Gemini」 無料版と有料版の使い方を徹底解説 -
第29回
AI
動画生成AI、無料プランでも使い倒せば月200本作れます サービス同士の違いも比較しました→Runway、Pika、Hailuo、Kling、Luma、Kaiber、PixVerse -
第28回
AI
あなたの作業を超効率化する、すごいAIサービス10選【2024年最新版】 -
第27回
AI
ChatGPT「canvas」使い方と、Claude「Artifacts」との違いを解説 文章作成やコーディングがスイスイできます -
第26回
AI
プレゼン資料が一発で出せると話題 AIツール「v0」の使い方 -
第25回
AI
チャットAI「Claude」すごい新機能「Artifacts」の使い方、全部教えます -
第24回
AI
めちゃ便利になった 無料版「ChatGPT」新機能の使い方まとめ【最新版】 -
第23回
AI
最新の生成AI使うなら「Perplexity Pro」がお得です -
第22回
AI
AI検索「Perplexity」がかなり便利だったので紹介します -
第21回
AI
ChatGPTのライバル「Claude 3」の使い方 良い点、悪い点まとめ - この連載の一覧へ