ここ2年ほどで出てきました生成AI。
面白い概念ですよね。

私は新しいものが好きで、今のところは AIは「新しい道具」として魅力的と思っています。

しかし、最近、モヤモヤっとしているところがあり、以下に記載してみます。

まず昨今のAIというのは、
本当は…本来は寺沢武一さんの漫画、コブラのアーマロイドレディのようにあってほしかったのですがｗ

「…あら、コブラ。また美人を見て鼻の下伸ばしちゃって、しょうが無いわね」とか言われたかったのですがｗ

今のところはまだ、お子様もお子様レベル。
言語推論モデルで、ディープラーニングってので出来ています。

「ディープラーニング」
こういう一般庶民が知らないキラキラした横文字の言葉は、いかんせん眉唾物のことが多いので、以下ネットチラシのレベルで、「フーン」ぐらいで生暖かい目で流し読みするぐらいがちょうどいいのですが

要は、ネット上に溢れる無数の文字情報、文章情報、文献情報、その関連性を日夜たくさんたくさん集めて集計して、それっぽいつながりを「３次元世界」や「温度」という尺度で配分し、微分積分、いい加減な情報をうまくドロップして解析したデータをためていく行為の事を「ディープラーニング」というようです。

（「ディープラーニングを支える技術」
　けっこう難しい本です。数式があって素人には読めないのですが雰囲気は分かります）

つまり、まとめれば今のAIは、単なる言葉遊び。
例えば、今年、国民全体として小島よしおさんの「そんなの関係ねぇ」がとんでもなく再流行するとして、国民の全員が全員、ネット上で「そんなの関係ねぇ」という言葉の後に「はい、オッパッピー」をつけて書き込むようになることがある場合、生成AIは「そんなの関係ねぇ」という言葉が来ると、オウム返しに「はい、オッパッピー」と返します。

その結果。
とはいえ、そういった考えで文字を返したり、絵を作ったり、音楽を作ったり、前回のユーザーリクエストを覚えていたりして、学習を特化してさせていきますと「なんとなく見る側も、様になって、納得できる結果に見えてきている」のが今のAIの現状となるわけです。

さて、ここから問題なのですが。
AIは昼夜寝ることもなく、台数が多ければ多いほど成長していきますのでどんどん学習して高度化していきます。その傍らで、自分自身の出力した結果も、ユーザーの手を介してネットに公開＝学習元のデータに含まれることになります。

例えば、小説などの文字媒体の場合。
実は「あの人気ライトノベルのストーリーは、実はAIで作られた」としても、文字自体に「AIが書いたよ」という情報は無いわけですので、生成物が①AI製なのか、②AI製で人間がチェック済みのものなのか、③人間製なのか　見分けがつかないのでどんどんネット上にアップされ、それがまた別のAIの学習元データになります。

そうして、それをまた別のAIが反復的に読みますと…
冒頭はAI反対の方のおっしゃる形で、既存の人間の仕事を食いつぶす。
しかしその後は、自分自身の作成したデータに対しての「再帰の呪い」に飲み込まれていくわけです。

これは、マイクとスピーカーでよくある「ハウリング」が分かりやすいでしょう。
もともとは、音を拾う→出力する　だけなのですが、その出力した音をもう一度マイクで拾うと→出力する　を繰り返すと音がハウリングし、もともとの放送自体が聞きづらいものになります。

以下のコントもわかりやすいですね。
それぞれの出力を、チェックする人がいない状態で、それぞれが意味を解釈せずに学習すると、反復しておかしい方向に行くわけです。

（マリマリマリー様　全員カンニングしてるテスト【アニメ】【コント】）

上記コントでは
「先生(人間)：ツッコミができる人＝全体をチェックする人＝全体ルールを変更できる人」
が存在し、そもそもテストというゲームのルールも「先生」が変更できますので、「出題やり直しね＝生徒(AI)『終わった…』」ができる世界です。
そこの前提のギャップで成立している笑いなのですが、ネット上にはその「先生」がいません。

また、肝心のAIは「意味」を知らずに結果を出し続けます。

※AI個々には過学習という、自分発生の学習ノイズを止める仕組みがあるようです。ここではAIとAI間でのそれぞれの学習をブロックする仕組みが無いという意味です。

つまり「ハウリングした音声」のような劣化した情報がネット上に溢れると歯止めを利かせるしくみがないということになります。

まとめます。
AIが成長すると、AIが作ったデータと、人間が作った or チェック済のデータと見分けがつかなくなり、AI間での「再帰の呪い」が発生。
ネット上が「ゴミクズ」のデータに溢れ、今よりもあまり面白くないデータであふれてしまい崩壊するのではないかな？というお話でした。

ただし、AIそのものは否定はしません。
人間を補助する特化型AIはどんどん流行ってほしい気がします。

特に、開発系のツールとして。
例えば、プログラム開発や３D作成において機能が複雑化し、選択メニュー項目が溢れ「本来やりたいこと」が掴みにくくなっているツール類において「もっとスカートを長く」「照明をもっと焚いて」みたいな言葉で指示できると巾は凄く広がります。

ですので、要はAIが作ってもいいのですが、
①もともとAIがある程度信憑性の高いデータを出力する
②最低でも人がチェックする、人がチェック済であればネットで公開できる
仕組がどこまでできるのか？というところと。

ここが資本主義の仕組み、ネットの良心の仕組みでノイズ除去が成り立つかどうかがカギになるのでしょう。

なお。
この文章はAIで作成しました。ｗ