逆瀬川

2,899 posts
Opens profile photo
逆瀬川
@gyakuse
NLPとかやってたひと
サモナーズリフトnyosegawa.com

逆瀬川’s posts

日本語で要求される応答速度がメチャクチャ早いという話をします (滑らかな会話においては半ば被せるようにし、遅くても600ms以内に発話開始をしている)。実装においては発話終了や話者交代タイミング予測が本当につらい。
Image
Quote
逆瀬川
@gyakuse
昨日出たこの本読み終わったんですが対話システム考える上で必須くらいにいい話が大量に載ってたので超オススメです books.bunshun.jp/ud/book/num/97
ChatGPTでキャラっぽい返信をさせる方法! 基本的に超賢いマルコフ連鎖なので、どう喋ってほしいかというコンテキストを与えるとうまく返してくれます。根底となる考え方は思考の連鎖プロンプト(chain of thought prompting)とか調べるとよきです。
Image
Image
GPT-3のパラメータ数とでかい丸とでかい数字を並べた図を作りました 特に意味はありません
Image
Rocket Leagueの強化学習botが上位1%のユーザーに勝利したらしい(あえてリンクは貼りません)。これは結構衝撃的で, ゲーム開発者やeスポーツ関係者にとってはチーター以上に頭痛の種になりかねない。なお, Rocket Leagueの略称がReInforcement Learningと同じRLなのはちょっと面白いです。
ChatGPTへの質問の際に、「段階的に考えてください」とつけるzero-shot CoTが有名だけれど、日本語環境だと「段階的に、論理的に考えてください」はさらに便利みたいな話があります(この前軽く使ってみたけど回答がより論理的になってわかりやすくなった)
GPT-4とAIキャラクター: AIのキャラクターを作るのにGPT-4はうってつけ 32k tokens上限になったことで、だいたい2.5万字(文庫50pぶん)使える。会話履歴、記憶要約、性格等の表現空間が8倍に。人間と同じ様な短期記憶はもはや実現された。VQA(画像質問回答)能力も備わり、見ているものを共有できる
皆さんも薄々感づいている通り、Prompt Engineeringは言語モデルが十分に発達すると人間との話し方講座やコーチング術と見分けが付かなくなります
AI VTuberをシンプルに作る方法: Talking Head Anime + GPT-3.5 API (text-davinci-003) + YouTube API + Voicebox
Function callingを応用して、レシート、請求書、発注書、などなど、画像/PDFからどのような要素があるか推測し、自動で情報抽出をしてくれるシステムを作りました! Google Colabで公開しているのでぜひ使ってみてください!!オマケでGoogle Bardでも試しています。 qiita.com/sakasegawa/ite
Image
Quote
逆瀬川
@gyakuse
Image
Function callingを使うと一瞬で請求書等から情報抽出できるよ!って記事上げました!colabも公開しているのでぜひ使ってみてください! gihyo.jp/article/2023/0
GPT-4でcontextが伸びた分、AIキャラクターの説明いっぱい書けて便利という話をしましたが、どんなプロンプトを使ってるか参考までにGistに上げてみました! このプロンプトに過去の会話とか細かな各種設定等を記述すると、より自然な会話ができます qiita.com/sakasegawa/ite gist.github.com/nyosegawa/cb53
Image
Image