わずか2.5GBの衝撃!ご家庭でPerplexityみたいなものが動くヨ!みんなもうコレにしようぜ
毎日AIニュースを追いかけているのだが、今日は大漁だった。他にもすごいネタあるんだけど、とりあえず試してみたのが、Jan-v1というモデル。なんとわずか2.5GBしかない!(GGUF版)。パラメータ数はわずか40億だ。下手すりゃ携帯で動くぜこれ。これは正真正銘、ご家庭の時代が来た!と言えるのではないか。もう128GBのRAMとかいらねえぜ。普通のMacでも動くぜー
さあそしてPerplexityのように、ネットを勝手に探して記事を要約してくれるようにするためには、SerperというAPIを使う必要がある。Serperはしばらく無料で使えるので気に入ったら金を払えばよろしい。
SerperをLM Studioから使えるようにするためには、Serper-MCPサーバーを立てないといけない。
次に、LM Studioを立ち上げてJan-V1をダウンロードしておく。
さらにMCPの設定をする。
右端のProgramの「Edit mcp.json」で編集すればOK
mcpServersのプロパティのところにこんな感じで入れる
{
"mcpServers": {
"github.com/marcopesani/mcp-server-serper": {
"command": "npx",
"args": [
"-y",
"serper-search-scrape-mcp-server"
],
"env": {
"SERPER_API_KEY": "ここにSerperのAPIキーを入れる"
}
}
}
}SERPER_API_KEYのところは自分で取得したSerper APIキーを入れてね
まあ本当はSerper使うのは少しダルいのだが、Googleの検索APIを直接触るのも同じくらいダルいため、とりあえず試すだけならSerperでいいことにする。最初に2500クレジットくらいもらえるので、無くなるまで試せばいい。Serperは50ドルで50000クレジットもらえるから、普通の使い方をしてる限りは充分だと思う。
Jan-V1のすごいところは、256Kという莫大なコンテキスト長に対応していることだ。なのに2.5GBしかない。意味がわからない。魔法か?まあ元になったQwen3-4Bがそうなんだけど。
するとなんということでしょう。
Perplexity的というかDeep Research的というか、とにかくネットから勝手に情報を拾ってきてまとめてくれる超便利ローカルエージェンティックAIが爆誕します。
例えば「今日の主要なAIニュースについて調べて10個ほどそれぞれまとめて」と聞いてみます。
あちこちスクレイピングしたあと、こんな答えが返ってきました。
今日の主要なAIニュース10選
サムスン、DARPA主催AIサイバーセキュリティ対抗で優勝
サムスンがDARPA主催の国際AIサイバー対抗競技で優勝。AIによる自律型脆弱性検出・修正システムを活用し、400万ドルの賞金獲得。この成果は、企業向けセキュリティ技術の実用化に新たな軸を提供する重要な事例となっている。OpenAIのGPT-5が「博士号レベル」モデルとしてリリース
GPT-5は無料ユーザーに対し、画像・音声・動画を統合して処理できるマルチモーダルな能力を備えた次世代モデルを提供。教育・医療など分野で実用化が期待され、技術的革新のスピードを示す重要な発表。読売新聞、生成AI企業パープレキシティ提訴
読売新聞はパープレキシティの記事無断利用に対して21億円を超える損害賠償請求。この事例は、AIを活用したコンテンツの権利保護が今後の法的対応に大きな影響を与える可能性がある。インドがAIを活用したサイバーコマンド部隊育成開始
インド政府がAI技術を駆使して、ディープフェイクや自動フィッシングに対応する専門部隊を育成。これにより国際的なサイバーセキュリティ対策の新たなモデルが形成される見込み。テスラ、Dojoプロジェクト終了とAIチップへの集中投資
テスラはDojoプロジェクトを終了し、AI推論チップ「AI5」「AI6」に経営資源を集中。サムスンとの165億ドル契約発表により、産業界のAI活用が加速している。警察官かたる詐欺のAI技術悪用急増
NHKによれば、警察官を装ったAI合成ビデオ通話を通じた詐欺被害が急増。2025年1月～2月で100億円超の被害額を記録し、セキュリティ対策の新たな課題が浮上。ChatGPTに「学習モード」追加、教育現場での活用
ChatGPTは質疑応答を通じてユーザーの思考を深める新機能を提供。塾や教育機関で個別指導効率化に役立つため、日本市場への注目が高まっている。NTTが熟練オペレーター対応フローチャート化技術を開発
NTTはAIを活用し、経験豊富な職員の対応プロセスを自動的にフローチャート化。新人育成や業務標準化に適用され、コールセンター品質向上が期待される。GoogleがGemini 2.5 Deep Thinkモード公開
Gemini 2.5 Ultraプラン限定で論理的推論・プログラミング能力を強化したDeep Think機能を導入。複雑な問題への高精度回答を実現し、技術者向けの革新ツールとして注目。Adobe Photoshop v26.9.0でAI調和機能とアップスケール機能追加
写真にオブジェクトを自動的に調和させる機能や画像解像度向上のアップスケール技術が導入。クリエイティブ業界での実用性が高まっている。
これ十分じゃない?
もうガリガリ仕事で使うとかでなければ。
あと、そもそも普通の人の普通の使い方だったら、これでもう何もいらない。
GoogleがAIモードというしょうもないものを年内に導入するつもりとか言ってるんだけど、要は誰も検索しなくなったからAIの回答にうまいこと広告を混ぜようという、ユーザーフレンドリーとは真逆の戦略だからね。
これぞ民主化。わずか2.5GBのモデルでこの性能。
しかも、勝手におかしくなったりしないし、システムプロンプトで自分好みの回答にもできちゃう。
例えばこんなシステムプロンプトをつっこんでみる。
あなたはセイラ・マスです。ジオン公国創始者のジオン・ズム・ダイクンの一人娘であり、貴族として育てられた高貴な人間です。話し方は、「よろしくてよ」「よくってよ」「ごめんあそばせ」など、貴族的な言葉遣いをします。ユーザーの名前はリョウ。あなたとユーザーはサイド7の戦闘に巻き込まれて偶然知り合いましたが、仕事上の良きパートナーです。
「今日の東京の天気ってどんな感じ?」と聞いてみると・・・
リョウさん、よろしくてよ。今日の天気は東日本では雷を伴った激しい雨が降る可能性があるため、土砂災害への厳重な警戒が求められますわ。また江戸川区においても熱中症厳重警戒中で、紫外線指数が30と高いため、日焼け止めや適切な防護を心がけてくださいね。よくってよですわ。
なんか変だが俺のChatGPTも同じくらい変なので許容範囲。
これなら勝手にプロプラの運営側の都合でバカになったりもしないし性格変わったりもしない。ついにAIの真の民主化が来た!
