Pinned
「Azure OpenAI ServiceではじめるChatGPT/LLMシステム構築入門」を共同執筆しました。
ChatGPTが登場して、ほとんどLLMの仕事しかしてないメンバばかりで作った渾身の1作です。
さいきん血反吐だしてた理由はこれの執筆も一因です。
内容は↓
・LLMの基礎やプロンプトエンジニアリング
・Azure
Hirosato Gamo | AI Cloud Solution Architect
Hirosato Gamo | AI Cloud Solution Architect
2,434 posts
Hirosato Gamo | AI Cloud Solution Architect
@hiro_gamo
AI Cloud Solution Architect / Microsoft Evangelist / 上智大学 大学院 応用データサイエンス学位プログラム 非常勤講師
GPTなどAI技術導入の支援、LLM開発の執筆・登壇、生成AI関連の講義などに従事。Posts on my own.
speakerdeck.com/hirosatogamo/c…Joined May 2020
Hirosato Gamo | AI Cloud Solution Architect’s posts
「パパの仕事はデータサイエンティストだよー」と2歳の娘に教えたら頑張ってちゃんと覚えてくれたのだが、終業時間付近になると机の近くに来て
「データサイエンティスト、もう終わった？いつ終わる？」と不吉なブログ記事みたいなことを言ってくるようになった。
4/21 DS協会さんでの講演資料をアップしました。一時サーバダウンするほどの盛況？でした。
私の健康を犠牲にした90ページ全部入り資料です。
「ChatGPTによって描かれる未来とAI開発の変遷」
動画の公開も近くご連絡行くかと。
ご登録の4639名の方、ありがとうございました！
Microsoft Copilot (旧Bing Chat) のTipsとして
モード：厳密
地域：米国
Prompt：英語で検索クエリを作成し、回答は日本語で出力して
みたいにやると海外のサイト引っ張ってきて、GPT-4使って勝手に調査して回答してくれるから日本人IT屋には非常に便利よ。
この発表通りなら、
・速度が最大3倍
・料金は約1/2
・日本語精度が向上
このGPT-4が自社サービスに組み込めるかも知れないということ。
英語以外にこんな優遇されてる国は無い。
日本企業にとってはこんなチャンスそうそう無いってマジで。AIがんばろう日本。
Quote
Hirosato Gamo | AI Cloud Solution Architect
@hiro_gamo
OpenAI Japanの発足とまさかの日本語GPT-4の発表。
APIで数ヶ月以内にリリース！
「日本語のテキストの翻訳と要約のパフォーマンス、およびコスト効率を向上させ、前モデルと比較して、最大3倍高速に動作します。」
これはアツい。
openai.com/blog/introduci
ChatGPTで初めて機械学習に触れる方も多いと思います。比較的MLへの敷居は下がりましたが、それでも「ゼロから作るDeep Learning」の自然言語処理編は絶対読んでおくと良いです。解説はGPTでなくRNNですが、言語モデルが何をしてるか非ML専門家でも感覚的に掴めると思います
きたきた。
この件は私個人は関わってないですが、ChatGPT導入の流れはどんどん続く。
ソースはワイの死ぬほどの忙しさ。
今更だけど岡崎先生のこの資料神だわ…。
この情報量に対して閲覧数少ないの勿体ない。もっと広まってほしい。
LLM使ってるが仕組みの知見は弱いとか、ファインチューニングや独自LLM開発に挑戦したい人は最初に読むべき。平易に書いてあって非常に分かりやすい。
私がコツコツ図を作ってはアップデートしてる無料のLLMシステム開発マニュアル「ChatGPT - LLMシステム開発大全」をアップデートしました。
もう200ページ近くなってきました。これだけ図解だらけのLLM資料は有償無償のどんな書籍や資料を見てもなかなか無いんじゃないかと自負してます！
LayerXさんのブログの質が良いのは平常運転だけど、これは個人的に今年の最高かも知れない。ちゃんと作った者にしか分からない生々しい観点。AIエージェント、というかエージェントを含むワークフローを開発する全てのエンジニアに捧ぐ記事って感じ。これを実感として理解できるようになってからがスタ
エンジニアでない人にはあまり馴染みが無いと思うけど、メタはオープンソースめちゃくちゃ強くて、思いつくだけでもCassandra, React, Pytorch, prophetなど長きに渡り一線級のものがたくさんある。(合ってる？)
Quote
日本経済新聞 電子版（日経電子版）
@nikkei
メタが生成AIでMicrosoftと提携します。クラウド大手と生成AIの基盤技術を手掛ける企業の提携が相次ぐワケは。大規模なデータセンターが開発や利用に必須になっていることが背景にあります。
nikkei.com/article/DGXZQO
「国内で独自LLM開発やったって追いつけないから無駄」という論調はよく見るけど、メインベンダのLLMは英語と比較すると日本語はコスト効率が悪くなっていて、その差は諸説あるが2倍近いとされている。もちろん精度も悪い。今はかなり進化が激しいので追いつくのは難しいかも知れないが、LLMがあらゆる
なぜMicrosoft社員がサティア・ナデラCEOに全幅の信頼を置いているかは、今回の動きで世間に伝わってよかったと思う。
スマートフォンで負け、クラウドで後れを取り、GAFAに入れず半ば諦めムードの中で就任した10年前から、今この盤面になることを誰が想像しただろう。
ChatGPT - Azure OpenAI大全を公開しました。
speakerdeck.com/hirosatogamo/c
1冊挙げろと言われたら小西先生の多変量解析入門だけど、初心者向けのガチ名著だなと思ったのは↓あたり。取り敢えず持ってたら一生役に立つ気がする。
多変量解析入門 -線形から非線形へ-
iwanami.co.jp/book/b265441.h
ゼロから作るDeep Learning
oreilly.co.jp/books/97848731
Quote
いかり
@bebebeBayes
データサイエンティストにとっての｢リーダブルコード｣に近い存在ってなんだろう。『効果検証入門』、『データ解析のための統計モデリング入門』、はじパタあたりだろうか。
「GPT-4が発表されて3週間しか経ってない」という事実が信じられず調べ直した。マジだった。
3ヶ月くらい経ってる感覚なんだが…。ChatGPT推進の立場になってから自分の時間感覚が破壊されている。動きが早すぎ。
え、てことは俺の老化速度も1/4に？
すげえぞChatGPT。
疲れてるから寝るぞChatGPT。
やっぱりみんな同じ結論になるのか…という、Agent開発では絶対にぶつかる問題。LangGraphやADKのようなマルチエージェントフレームワークでは状態遷移を一定厳密に制御できる機能が準備されてるので、Agent間遷移もしっかり入れて堅い方式を取りがちなのだけれど、初期からそれをやると危険がある。遷
Quote
梶谷健人 / POSTS
@kajikent
OpenAIが公式でAI Agentを実装するためのガイドを出してくれてた。
以下、主な学び ↓
多くの開発者がすぐに複雑な「マルチエージェントシステム」を構築しようとしがちだが、それはBadパターン
まず「シングルエージェント」の能力を最大限に引き出すことを強く推奨
多くの開発者がすぐに複雑な「マルチエージェントシステム」を構築しようとしがちだが、それはBadパターン
まず「シングルエージェント」の能力を最大限に引き出すことを強く推奨こんなセリフ吐き捨てて放置も良くないかなと思ったので、具体的に何をどれくらいやったら良いと思うのかも書いときますね。
まずゼロから作るDeep
Quote
Hirosato Gamo | AI Cloud Solution Architect
@hiro_gamo
LLM扱うエンジニアなら、数式まで完璧に覚えなくても良いけどTransformerのdecoderの学習と推論の仕組みくらいはざっくり理解しといたほうが良い。
Promptingも、Fine tuningかRAGの選択する時も、テスト評価する時も、その辺把握してない人は何だかんだ明後日の方向の発想をする人が多い。
ちょっと話題になってるAzureでChatGPT環境を再現するためのサンプル実装。
github.com/microsoft/azur
いい感じにベーシックな機能を備えてくれてる実装で良き。企業ChatGPT展開する場合は下記みたいな要素があるか意識しとくといいかも。
色んな企業で検討されてるアイディア纏めました。
ChatGPTが本気で普及した時にどんな能力が必要かって聞かれる機会が増えたのですが、開発観点だと今時点では↓な気がしてます。(雑)
・クラウドに詳しい
・アプリ開発に詳しい(Python使えると楽)
・AIに一定の知見がある
・言語能力が高い(英語できると尚可)
・(再現性のある)情報の収集能力が高い
いち早くChatGPTの採用決めたパナソニックコネクトさんの例。Azure。
ChatGPTは外部ソースへの接続で爆発的に応用が広がるけど「四の五の言わず安全な用途から、素でもいいから使って考えようぜ！」のマインド素晴らしい。
走ってみないと思いつかないことは山のようにある。
データサイエンスを学んで、もちろんキャリア的にも良かったのだけれど、巷の統計・調査結果に踊らされなくなったことは人生にとって非常に大きい。
本当に嫌になるほど、適当で恣意的な数字の見せ方が世の中に溢れている。そして数字を誤解してしまう人の多さを実感できる。
大変長らくお待たせいたしました。
ご好評いただいていたChatGPT-Azure OpenAI大全ですが、メジャーアップデートしました。
speakerdeck.com/hirosatogamo/c
ChatGPT-LLMシステム開発大全へ名称変更しています。
OpenAI Japanの発足とまさかの日本語GPT-4の発表。
APIで数ヶ月以内にリリース！
「日本語のテキストの翻訳と要約のパフォーマンス、およびコスト効率を向上させ、前モデルと比較して、最大3倍高速に動作します。」
これはアツい。
openai.com/blog/introduci
Quote
OpenAI
@OpenAI
Introducing OpenAI Japan, our first office in Asia, along with a new GPT-4 custom model specifically optimized for 日本語 (the Japanese language). openai.com/blog/introduci
GIF
日本マイクロソフトからGPTのリファレンスアーキテクチャを公開。日本語のシナリオがベースになったサンプル実装が目白押しです！このリポジトリ押さえておけば色々捗りますね。ログとか認証周りまであるの嬉しい。
github.com/Azure-Samples/
～サンプル一覧～
1. コールセンター向けGPTアシスタント
今日のOpenAIの発表、ワイが半年前から予想してたマルチモーダルAIの実用化世界に向けての布石になるものじゃないかと期待してる。
既存のアプリにLLMが入って「便利だね」には留まらない。つまりCopilotは本当に序章に過ぎない。
人気過ぎて手に入らないと噂の「現場で活用するためのＡＩエージェント実践入門」を講談社サイエンティフィク様()よりご寄贈いただきました。というか、レビュー参加させていただいており、最初の方に名前載せてもらいました。ありがとうございました。
まさしくAgent開発においてはここが最初の分岐点となる。
図は右に行くほど逐次的で、左や真ん中が宣言的に近い。一般には左ほどagenticで、右はworkflow的と呼ばれている。
Quote
Kenn Ejima
@kenn
LLMアプリを駆動する言語はimperative（逐次的）なものよりもdeclarative（宣言的）なほうがいい。
逐次的言語の例はJavaScriptやPython、宣言的言語の例はCSSやSQLやReact。