![](data:image/svg+xml,<svg xmlns="http://www.w3.org/2000/svg" width="600" height="200"><rect fill-opacity="0"/></svg>)
固定されたツイート
このスレッドを表示
あるふ
あるふ
10.4万 件のツイート
新しいツイートを表示
![プロフィール画像を開きます](data:image/svg+xml,<svg xmlns="http://www.w3.org/2000/svg" width="200" height="200"><rect fill-opacity="0"/></svg>)
フォロー
あるふ
@alfredplpl
企業と大学の研究者。AIいらすとやの開発者。デジタル贋作現象の発見者。クリエイターとエンジニアがWin-Winとなる、Clean DiffusionやPicasso Diffusionを開発中。専門はロボット。東大院→NTT研→今。 強化学習若手の会 ()運営係。 ※発言は私見
あるふさんのツイート
![正方形のプロフィール画像](data:image/svg+xml,<svg xmlns="http://www.w3.org/2000/svg" width="48" height="48"><rect fill-opacity="0"/></svg>)
ドットで描かれたウマ娘たちによる大感謝祭が開催。
『ウマ娘 プリティーダービー 熱血ハチャメチャ大感謝祭！』は2024年配信。
#NintendoDirectJP
G社からの請求が高額になるのは不可避。僕の成果物を放流しておきます。重みは、自分で作ってください。いろいろ溶けます。
![](data:image/svg+xml,<svg xmlns="http://www.w3.org/2000/svg" width="638" height="360"><rect fill-opacity="0"/></svg>)
スーパーファミコンで発売したマリオシリーズ最初のRPGタイトル『スーパーマリオＲＰＧ』が、グラフィックを一新して11月17日（金）に発売。このダイレクト終了後、予約受付を開始。
#スーパーマリオＲＰＧ
#NintendoDirectJP
![](data:image/svg+xml,<svg xmlns="http://www.w3.org/2000/svg" width="680" height="356"><rect fill-opacity="0"/></svg>)
『“権利的にクリーン”だからみんな我々のものを使うのが倫理的な選択だ』と倫理を盾にビッグテック企業がAIサブスクで儲ける未来になるのがすげ〜嫌だから、ホビイストたちが企業より質が高いものを無償でばら撒いてるこの流れを支持したいんだよな
![](data:image/svg+xml,<svg xmlns="http://www.w3.org/2000/svg" width="240" height="240"><rect fill-opacity="0"/></svg>)
T5を公開した縁でLLM勉強会で講演させていただきました。T5の学習の舞台裏とABCIで大規模学習した時に詰まった点とその解決策です。
“権利的にクリーン”なAIのためにサブスクを払うのが当たり前みたいになるのは最悪な流れですよ。著作権法上では現行のAIはほとんど認められているわけだから。利用者側が勝手に理由づけしているに過ぎない。
![画像](data:image/svg+xml,<svg xmlns="http://www.w3.org/2000/svg" width="360" height="360"><rect fill-opacity="0"/></svg>)
生成ＡＩの原理を徹底解剖、国内トップ級の研究者によるグループ発足 : 読売新聞オンライン
PagedAttentionというアルゴリズムがTransformerモデルを~24倍高速化。仮想メモリとページングの考え方に基づいて、文脈中のkeyとvalueのペアをブロックに分割・管理することで、GPUをほぼ100%利用できる
“エンジニアリング”だ
![画像](data:image/svg+xml,<svg xmlns="http://www.w3.org/2000/svg" width="679" height="382"><rect fill-opacity="0"/></svg>)
引用ツイート
![](data:image/svg+xml,<svg xmlns="http://www.w3.org/2000/svg" width="24" height="24"><rect fill-opacity="0"/></svg>)
Zhuohan Li
@zhuohan123
Thrilled to introduce vLLM with @woosuk_k!
vLLM is an open-source LLM inference and serving library that accelerates HuggingFace Transformers by 24x and powers @lmsysorg Vicuna and Chatbot Arena.
Github: github.com/vllm-project/v
Blog: vllm.aiこのスレッドを表示
このスレッドを表示
GMO、社員に「NVIDIA H100」搭載サーバ無償貸し出し RTXノートPCも AI活用を促進
このスレッドを表示
if文がいらないからかなり速くなるやん。知らなかった。(忘れただけかもしれないが。
引用ツイート
数学クライマー(Math Climber)
@mathclimber
地味だけどこれ知っていて得した選手権 入選
![画像](data:image/svg+xml,<svg xmlns="http://www.w3.org/2000/svg" width="680" height="383"><rect fill-opacity="0"/></svg>)
返信先: さん
近年出回ってる一般的な CPU なら、整数でも小数でも素直に max 使った方が速いですね
引用ツイート
百千万億 萬
@TumoiYorozu
abs だと if 文が無いから速い説、別に abs でも愚直だと内部的に if が必要だし、cmov 使えば max でも分岐命令使わないし、
浮動小数なら abs 用の命令は無いけど max 系はあるからどっちみち max を素直に使った方が速い
gcc.godbolt.org/z/8qr4zerP4
このスレッドを表示
![画像](data:image/svg+xml,<svg xmlns="http://www.w3.org/2000/svg" width="679" height="322"><rect fill-opacity="0"/></svg>)
返信先: さん
本当ですね。速度はx86の実装が闇鍋化していると聞いたのでわかりませんが、maxで分岐しないなら気にする必要はなさそうですね
返信先: さん
近年出回ってる一般的な CPU なら、整数でも小数でも素直に max 使った方が速いですね
引用ツイート
百千万億 萬
@TumoiYorozu
abs だと if 文が無いから速い説、別に abs でも愚直だと内部的に if が必要だし、cmov 使えば max でも分岐命令使わないし、
浮動小数なら abs 用の命令は無いけど max 系はあるからどっちみち max を素直に使った方が速い
gcc.godbolt.org/z/8qr4zerP4
このスレッドを表示
実際のところどうだっけと手元の x86-64 でコンパイルしたところ、minsd 命令になりました。ぎゃふん felixcloutier.com/x86/minsd
このスレッドを表示
条件分岐使わないから速いっていうツイをみて、それに対して分岐予測あたれば速いという反論もみたけど、まだ、
「これくらいなら条件判定 + 条件つきmov（cmov）でパイプライン乱れないよ」
という反論は見てない気がする。abs命令があるケースでも加算２回、abs一回と乗算1回はそれなりに重いでしょ
引用ツイート
数学クライマー(Math Climber)
@mathclimber
地味だけどこれ知っていて得した選手権 入選
このスレッドを表示
Adobeしかり大資本で殴るビックテックがAIを総取りするのを回避しようと法改正してまでAI開発の広範な認可をしてクリエイターの選択肢を増やそうとしているところを、「倫理的にアウトだから大企業のお墨付きしか認めません」とクリエイターサイドがやり出したら元も子もないわけで
maxにifを使わなくてもいいのか！(もちろんライブラリの実装はもっと賢いだろうが)と感心していたら、x86ならcmovでいい。というガチ勢からツッコミに私はx86に詳しくない初心者です。の看板を掲げている人になった
![画像](data:image/svg+xml,<svg xmlns="http://www.w3.org/2000/svg" width="240" height="120"><rect fill-opacity="0"/></svg>)
![画像](data:image/svg+xml,<svg xmlns="http://www.w3.org/2000/svg" width="120" height="120"><rect fill-opacity="0"/></svg>)
![画像](data:image/svg+xml,<svg xmlns="http://www.w3.org/2000/svg" width="240" height="180"><rect fill-opacity="0"/></svg>)