ロボット3原則ならぬ「AI開発 23原則」 16
ストーリー by hylom
でもAIより人類のほうが恐ろしいですよ 部門より
でもAIより人類のほうが恐ろしいですよ 部門より
SF作家アイザック・アシモフが提唱した「ロボットが人間に危害を加えてはならない」などの項目からなる「ロボット3原則」は創作の枠を超えて現実世界にも影響を与えているが、このたび人工知能（AI）の研究者らが「AI23原則」を策定したそうだ（ギズモード・ジャパン）。
AI23原則は「研究」「倫理と価値基準」「長期的な」問題の3つのテーマから構成されており、「有益な知能の開発を目指す」「問題が発生した際の原因追及やAIに対する監査は人間が行うべき」「相応の計画と管理が必要」などというもの。この原則には物理学者のスティーブン・ホーキング氏やTesla Motorsのイーロン・マスクCEOなど、多くの人が賛同しているという。
23もあったらそれ原則ちゃう (スコア:3, すばらしい洞察)
とりあえず不安だからアレは止めようこれはしちゃイカン
使うのはコレだけにしようってのが多すぎるわ
そういうのひっくるめてアシモフは3つにまとめたのが素晴らしいのに
(そしてそこに矛盾があるのを自らネタにして作品世界を広げていった)
マジにこのままだったらリジェクトだ
Re:23もあったらそれ原則ちゃう (スコア:1)
同意。
余計なお世話の集大成としか言い様が無い。
しかもちゃんちゃらおかしいのが「原則」を名乗ってるのに
> 人によって色々な解釈をしてほしいと思います
とか言っちゃってる所。
混沌を作るのが目的なのか？ 頭がいっちゃってるぜ、と正直思う。
Re: (スコア:0)
自らアレは止めようというより、社会や政治から止めろと言われないようにするための対外的なアピールだろうね。
自分たちはちゃんと考えて研究やってるから大丈夫ですよ～って。
アレ止めろと外部からいわれる前に、そんなことしませんよ～って。
世間の関心と警戒が高まっているだけに、こういう政治的な対応も仕方ないんじゃない？
Re: (スコア:0)
節子、それアシモフの作品世界そのまんまや…
ロボットが普及するにあたってそういう不安があるので
三原則をつくってロボットは人間に対しては無害ですよというアピールをして
普及させたという設定なのよ…
他のコメントにも言われているとおり、ロボット三原則なんて作品世界の設定の一つであって
アシモフ自身これのおかげでロボットが安全に普及するなんてこれっぽっちも考えてないからね。
アシモフの作品って基本的にこのロボット三原則の矛盾を突いたサスペンスだったり、グレディアさんがなにやら艶やかだったり、グレディアさんがいろいろいとナニでアレだったり(やめないか とにかくこれだけじゃダメだから追加の法則つくったぜ(ﾟ∀ﾟ) !とか、ほんとあくまで作品のプロットとして導入しただけの話であって本気でロボットの普及を考えた思考実験ではないんだ。
なので本気になって考えたら23にもなってしまったってのもわからないでもないが
もう少しなんとかならなかったのか、という話なのよ _(:3 」∠)_
Re: (スコア:0)
２つか３つかの原則、という意味だとｵﾓﾀ
Re: (スコア:0)
ロボット3原則は抽象的で日本国憲法に例えれば基本理念を定めた前文までの内容。
AI開発23原則は少し具体的で憲法だと各条文辺りになるんじゃないか。
ま、それでも十分抽象的だ。
実装するにはさらにブレークダウンされた各種法律、政令等を参照しなければならないだろう。
余談だが、ロボット3原則は古い思考実験という印象しかない。
私が無条件に支持できるのは第一条だけだな。
Re: (スコア:0)
思考実験として考えられたようなものではないんです。
想定されてた読者層も、下は小学生ぐらい。
子供がよんですぐ理解できて、途中で矛盾していくなかでも、個々の点ではそれに従っているという点を、子供がすぐに理解できるような簡単なシチュエーションを作るために用意されたネタなのですよ。
Re: (スコア:0)
まったくだわ。
こんなの作らなくても、17条憲法でいいじゃん。
初っぱなから「知能」を全否定してやがる (スコア:2)
とりあえずカオスを容認しないと有益な知能なんぞ生まれない気が。
Re:初っぱなから「知能」を全否定してやがる (スコア:1)
この辺(研究)って原則じゃなくて宣言だよね。
あるいは自分たちにとっての理想か目的か。
Re:初っぱなから「知能」を全否定してやがる (スコア:1)
知能をなんと定義するかによるけど、今のところAIの知能って
数多くの選択肢の中から最適と思われるものを適切なリソースで選び出す
だけなんだよね。手の内にある数百万数千万あるカードの中から一番良いと思われるものを
選び出す、というイメージであって、
新しいカードを作り出す
というのはまったく研究が進んでいないという感じだと思ったけど
ここらへんに詳しい人いる?(ぶん投げ
Re: (スコア:0)
大量なデータ分析に用いるような「専用」AIと
人間や生物の思考をトレースするような「汎用」AIはそもそも研究の目的がまったく異なる。
前者の方が経済に結びついて金を産みやすいので注目されてるだけで、
知性という概念を理解する研究は当然進んでる。
ロボット三原則を引き合いに出してるけど (スコア:1)
そこからしてずれてるような。
ロボット三原則はロボットの行動について規定するもので、遵守するのはロボット。
今回のこれはAIの開発者の行動指針を示したもので、従うのはAI開発者。
性質としてはノックスの十戒とかの方が近いんじゃないかな。
そして中国では… (スコア:0)
生命倫理？そんなの関係ねぇ！
AI23原則？そんなの関係ねぇ！！
倫理を基準にしちゃいかん (スコア:0)
善悪と同じで立場が違えばぜんぜん意味がかわってっくる基準は原則に採用すべきではない。
個人的にはAI開発に必要な原則は「用法」についての制限を盛り込むだけでいいと思うんだけどね。
１．AIに過剰に依存しないこと、異常動作した場合に致命的な事態を防ぐ体制を維持すること
２．AIの制御を失わない、もしくは制御を失った場合の抑止の手段を持つこと
３．AIの犯罪への悪用を防ぐ、もしくは悪用された場合の社会的な対抗手段を備えること
思いつく限りだとこれくらいかな。
まあ、これAIに限った話ではなく、新しい技術全般にやるべきことだと思うけどね。
心の豊かさをHDDの中に求めれば、部屋なんて狭くても良い [srad.jp]