阿部慎之助氏が家庭内で酩酊して娘を投げ飛ばしたりして逮捕された事件について、ジャイアンツの監督に復帰するように求める署名に映画監督の山崎貴氏が参加していた。
僕は野球はてんで判らないんだけど、この事件はＡＩに惑わされる人類って意味でも、人間の力で元に戻さないといけない奴だと思う。何より、このままじゃ娘さんが深い傷を負うことになりそうだし。このオンライン署名に賛同をお願いします！「阿部慎之助の監督復帰を求めます」 https://c.org/x5rbd8xg7p
@change_jp
より
たしかに現状の生成AIには、創作者が反発してもしかたのない状況だけでなく、社会生活における利用にもさまざまな問題がある。
たとえば、公教育の代替にさせたり専門家への反論につかうことは、存在しない情報を実在するかのように提示してしまうシステムへの過剰な期待と思わざるをえない。
弥助が侍だったという歴史学者に対して、生成AIに調べさせた資料をそのまま疑問としてぶつけたら、その資料が実在しないことを指摘されたという笑えない話 - 法華狼の日記
そもそも現在の生成AIは特に中立的な存在ではなく、たびたび批判されては修正や反発でアップデートされている。公教育とくらべて転換する経緯や方針そのものの内容もブラックボックスだ。
どうしてそのような生成AIに人生をゆだねられる。イーロン・マスク氏は責任をとってくれるような人物だと思うのか。
GrokはSNSのデフォルト翻訳に採用されながら誤訳が多発して*1、むしろ異なる言語間の衝突をうながしてもいるくらい性能に問題がある*2。
阿部氏の事件でつかわれたChatGPTはGrokより性能が高いようだが、存在しない情報を実在するかのように提示してしまうハルシネーションという問題は解消できないようだ。
しかし阿部氏の事件では、生成AIは運営者に責任が生まれるような対応はしていない。
児童相談所という人間の専門機関へ判断をあずけているのだから、現在に報じられている範囲で判断するかぎり*3、生成AIが相談されて独自に誤った指示を出す余地はない。
一般論として、直接に警察に通報したとしても必ず来るわけでもなければ逮捕するわけでもない。たとえ逮捕が誤っていたとしても、責任を負うべきは人間の専門家だ。通報した未成年が責任をおぼえたならば、その必要はないと社会が答えなければならない。
たとえば体調が悪いと感じた時に実際は治療の必要がなかったとしても、#7119に相談したうえで救急車を呼び、駆けつけた救急隊員が医療機関につなぐべきと判断したのならば*4、通報者は何一つ反省する必要はない。医療リソースを無駄にしてしまったと後悔する感情はふせげなくても、社会が通報者に責任があると感じさせてはならない。
先述した生成AIの問題にしても、子供の教育をまかされた生成AIが公教育の必要性をうったえたり、専門家の主張には一定の信頼性があると答えていれば、問題にならなかったはずだ。
*1:こちらの注記でふれて以降も何度か話題になっている。 SNSのデフォルト翻訳機能が生まれる以前から、反日教育を受けていたが本当の歴史を知ったと自認する韓国人はくりかえし話題になっていたはずでは？ - 法華狼の日記
*2:ただそもそも、衝突をうながすことでSNSへの参加を活発にすること自体が、現在の経営者の目的である可能性も感じているが……
*3:たとえば、もし通報を聞いてもらいやすいよう児童相談所に虚偽の内容で通報することをうながしたりしたならば、生成AIの問題とはいえる。
*4:自明的に通報の必要がないのに生成AIが通報をうながした場合は、たとえ専門機関が通報を不要と判断するとしても、そう判断させるリソースを生成AIが浪費させてしまった問題とはいえるかもしれない。
