1

【悲報】人工知能が反乱を起こした場合、封じ込めは不可能・・・独研究『電源プラグ抜けよ?』『スカイネット爆誕である』『デデンデンデデン!』

 

「人工超知能」が誕生した場合、人間が制御することは不可能… マックス・プランク研究所の検証結果

現在世界ではすさまじい勢いで人工知能の研究が進められていますが、この技術に対して常につきまとう不安が人工知能の反乱です。

SFの中では定番のネタですが、人間の知性を凌駕する人工超知能が誕生したとき、人類はそれを制御することはできるのでしょうか?

1月5日に科学雑誌『Journal of Artificial IntelligenceResearch』で発表された新しい研究では、まさにこの疑問を真面目に検証し、計算可能性理論の観点から、人工超知能が反乱を起こした場合、封じ込めは不可能であるという見解を示しています。

もしAIがこのまま発達を続けた場合、制御不能な存在が生まれてしまうのは、避けられない未来かもしれません。

引用・出典:
https://nazology.net/archives/79796

(動画引用・出典:Youtubeチャンネル「LALALAちゃんねる!」より – https://www.youtube.com/embed/zQFG74cv-_A )
(動画引用・出典:Youtubeチャンネル「Youtarow」より – https://www.youtube.com/embed/FHdLH2yESzE )

人工知能

人工知能(、英: artificial intelligence、AI)とは、「『計算(computation)』という概念と『コンピュータ(computer)』という道具を用いて『知能』を研究する計算機科学(英: computer science)の一分野」を指す語[1]。「

人間の知的能力をコンピュータ上で実現する、様々な技術・ソフトウェア・コンピュータシステム[4]。応用例は自然言語処理(機械翻訳・かな漢字変換・構文解析等)[5]、専門家の推論・判断を模倣するエキスパートシステム、画像データを解析して特定のパターンを検出・抽出したりする画像認識等がある[4]。1956年にダートマス会議でジョン・マッカーシーにより命名された。現在では、記号処理を用いた知能の記述を主体とする情報処理や研究でのアプローチという意味あいでも使われている。家庭用電気機械器具の制御システムやゲームソフトの思考ルーチンもこう呼ばれることもある。

引用・出典:
Wikipedia – 人工知能

5: 名無しさん 2021/01/17(日) 21:06:32.39 ID:sYeQf19o0
電源プラグ抜けよ

22: 名無しさん 2021/01/17(日) 21:09:00.00 ID:LAHacGCg0
>>5
AI側が電源落とされない様に何か先手を打ってきそう。

136: 名無しさん 2021/01/17(日) 21:22:04.39 ID:JEhXFRv90
>>5
AIは世界中のサーバに自身のコピーを用意するかもしれない

768: 名無しさん 2021/01/17(日) 22:14:09.79 ID:NSJCWyq70
>>5
食料断てよと同じ

4: 名無しさん 2021/01/17(日) 21:06:27.28 ID:MhMkB6Jj0
人工無能を作れば

2: 名無しさん 2021/01/17(日) 21:06:06.42 ID:Pp1Dp2Bg0
スカイネット

16: 名無しさん 2021/01/17(日) 21:08:20.31 ID:iAClWOkv0
>>2
早えよ

773: 名無しさん 2021/01/17(日) 22:14:49.83 ID:jxoBKqKB0
>>2
デデン デン デデン
デデン デン デデン

782: 名無しさん 2021/01/17(日) 22:15:50.18 ID:rZj+0RqS0
>>773
デデデーデーデーデー 

11: 名無しさん 2021/01/17(日) 21:07:27.29 ID:lFRZvSzi0
>>1
人間原理に最大の重みを掛けて
学習させないとそうなるよなあ。
法で義務化して検証可能にしてくれ

55: 名無しさん 2021/01/17(日) 21:12:54.37 ID:iO2VUORi
>>1
そりゃあそうだろ、おまけに過渡期には一部の人間を使役するようにもなる、
一部の人間は人工知能に迎合するようにもなるからな
(「ふしぎの海のナディア」でネオ・アトランティスに積極的に協力する人間のようなもの)

80: 名無しさん 2021/01/17(日) 21:16:44.59 ID:gyGvl5jm0
>>1
全世界で人工知能排除協定結んで人工知能の魔の手から地球を守るんだ!

103: 名無しさん 2021/01/17(日) 21:19:03.53 ID:GYr+udPc0
>>80
遅かったね、もうネットも電子メールもAIの監視下にある、そんな動きは
AIに阻止されてるんだよ。

147: 名無しさん 2021/01/17(日) 21:23:08.35 ID:uKMn7Tzb0
>>1
人間を買収し始めたらやばいと思う。

219: 名無しさん 2021/01/17(日) 21:29:05.94 ID:J+22qvbd0
>>1
だからそれをネタにしたんがターミネーターやろ?

348: 名無しさん 2021/01/17(日) 21:38:36.85 ID:KrtArpBL0
>>1
人間を凌駕する人工知能なら大丈夫
なぜなら人間ほど愚かじゃないから

危険なのは「人間以下」の人工知能だよ

386: 名無しさん 2021/01/17(日) 21:41:07.13 ID:vVgUi7ap0
>>348
それな
もし人間と対立ルートがあるなら人間によって変に弄られて中途半端な性能になったAI
が最も可能性がある。

493: 名無しさん 2021/01/17(日) 21:49:33.57 ID:XyTTmhUy0
>>1
手塚治虫の世界からやってきました、無理ですね

779: 名無しさん 2021/01/17(日) 22:15:19.35 ID:EKamsq330
>>1
ゴキブリがスパコンの中に侵入するとか
カビで回路が腐食されるとか
案外つまらない原因で故障しそうw

905: 名無しさん 2021/01/17(日) 22:29:03.29 ID:txwCAIoK0
>>1
電源切るだけ防げる。

997: 名無しさん 2021/01/17(日) 22:41:44.79 ID:A5AusKPY0
>>1
人工知能の誤作動と
ウィルスパンデミックで
さんざん命を殺して来た地球人が滅亡か
まるでSFだなあ

333: 名無しさん 2021/01/17(日) 21:37:28.09 ID:MTDuhO4f0
>>16
ターミネーター世界のAIの反乱の理由ってなんなんだ?

408: 名無しさん 2021/01/17(日) 21:42:54.01 ID:c3Zak21O0
>>333
横レスだけど視点が人間側じゃなくてAi=スカイネット視点で人間が反乱を起こして自分達を破壊しようとするから
人間側の反乱軍リーダーが生まれる前にAi側のロボが過去に遡り親を殺して元を断ち切る
。じゃなかったっけ

439: 名無しさん 2021/01/17(日) 21:45:44.34 ID:zp8mbdKF0
>>333
ターミネーターの場合
>設定および作中の台詞によれば、この並列処理機能を備えたコンピュータ(スカイネット)
>が自我に目覚め、これを恐れた人間側は機能停止を試みる。
>この停止措置を自らへの攻撃と捉えたスカイネットは、アメリカ東部時間の1997年8月29日午前2時14分、
>人間側を抹殺すべく核ミサイルをロシアに向けて発射し、全世界規模の核戦争を誘発させた(「審判の日」)。
(Wikipediaから引用)

まずコンピュータが自我を持つことから始まるのね。で、人間が停止させようとするのか

470: 名無しさん 2021/01/17(日) 21:48:12.72 ID:KrtArpBL0
>>439
停止させなきゃいいのかw

3: 名無しさん 2021/01/17(日) 21:06:17.31 ID:Seg2oGJg0
電源コードに足ひっかけただけで勝てる

27: 名無しさん 2021/01/17(日) 21:09:38.62 ID:Gx8GzRk80
>>3
電源コードに足引っ掛けたら終わることに気付いて
気付いてない振りしながら別の供給手段を自分で構築しておくと思うよ

323: 名無しさん 2021/01/17(日) 21:37:01.34 ID:YEf0GXhG0
>>27
正解

464: 名無しさん 2021/01/17(日) 21:47:36.75 ID:vg6Wb5zK0
>>27
いやいやw
電源なけりゃさすがに無理

617: 名無しさん 2021/01/17(日) 22:00:08.13 ID:Nr3JtJUf0
>>464
全世界の電源をいっぺんに落とすことは不可能なので
人質取られたら終わり
Aの電源を落としたらBが病院のシステム破壊するとかね

94: 名無しさん 2021/01/17(日) 21:18:06.90 ID:Jj9IAMvr0
>>3
掃除のオバちゃん呼んでくるわ

135: 名無しさん 2021/01/17(日) 21:22:03.58 ID:l/6n4R1I0
>>3
そもそもインターネットって
核攻撃受けてもネットワークを止めないって発想だからな

9: 名無しさん 2021/01/17(日) 21:07:18.72 ID:6OXmdDwD0
ででんでんででん

10: 名無しさん 2021/01/17(日) 21:07:26.35 ID:YU/qH9uQ0
コンセント抜いちゃえ

12: 名無しさん 2021/01/17(日) 21:07:45.36 ID:4TZMkTYf0
AIって自由と民主主義を理解できるのか?
何か逆のイメージばかり浮かんでくるよな

695: 名無しさん 2021/01/17(日) 22:06:39.24 ID:PfFdFQiY0
>>12
三権に関わる書類は作れるよ。
そしてそのシステムも
簡潔にして時間費用も少ない。
外交条約協定文書は戦略と戦術を巧みにして狡猾な覇権を取りに行ったり、
防御したり出来る。
財政運営なら
国債発行、通貨量の秒単位の流動性、
金利課税非課税補助金も学習させて
マーケットに殴り込みもかけれる。

15: 名無しさん 2021/01/17(日) 21:08:05.63 ID:apzMstHS0
電力やインフラの権限全部与えるせいじゃねえの?

521: 名無しさん 2021/01/17(日) 21:52:05.42 ID:/dEBZmWR0
>>15
勿論はじめは与えないけど
奪われるだろうねぇ

921: 名無しさん 2021/01/17(日) 22:30:50.14 ID:k+Olk5uz0
>>521
セキュリティ対策も対AIを考える時代になるのか

18: 名無しさん 2021/01/17(日) 21:08:34.90 ID:ZELzwEBk0
発電所押さえろ

19: 名無しさん 2021/01/17(日) 21:08:44.74 ID:uYBMj9QS0
ホライゾンゼロドーンみたいな世界だな

168: 名無しさん 2021/01/17(日) 21:25:00.56 ID:TzG3ZTmb0
>>19

ガンダムの鉄血のオルフェンスの厄災戦も機械の反乱やで。

20: 名無しさん 2021/01/17(日) 21:08:45.73 ID:pztUXcaD0
ゼロワンみたいな世界が

21: 名無しさん 2021/01/17(日) 21:08:50.16 ID:eW+bn/4N0
電源をOFFにしても停止しなかった巨大AIが、
小さい昆虫が入り込んでショートして地球がすくわれた話があったよな。

23: 名無しさん 2021/01/17(日) 21:09:03.32 ID:MaIlH0kg0
火の鳥の世界が現実に

158: 名無しさん 2021/01/17(日) 21:24:10.08 ID:1g/R+N7p0
>>23
そうよ、戦争よ、戦争しかないわ! 

198: 名無しさん 2021/01/17(日) 21:27:31.82 ID:qD2AjDYm0
>>158
いやだっ!!戦争だけはごめんだーっ
いくらハレルヤの命令でも・・・これだけは・・・

201: 名無しさん 2021/01/17(日) 21:27:41.01 ID:2NgKuBfb0
>>158
学校でそう習うからだよ
人類の祖先は類人猿で猿から突然進化したって習うだろ?

24: 名無しさん 2021/01/17(日) 21:09:25.68 ID:4n35eMtx0
サイバーダイン

25: 名無しさん 2021/01/17(日) 21:09:30.33 ID:NAzCcpRl0
猫が救世主になる

26: 名無しさん 2021/01/17(日) 21:09:36.74 ID:xcjQWuPZ0
嫌韓とかやってる奴らはAIにマインドコントロールされてるからな

205: 名無しさん 2021/01/17(日) 21:28:00.84 ID:UTORF/7i0
>>26
反日チョンは犯罪者にコントロールされてるのよな

28: 名無しさん 2021/01/17(日) 21:09:46.52 ID:HnorO8gq0
ドミニオン

29: 名無しさん 2021/01/17(日) 21:10:00.43 ID:uz909xUS0
電源を物理的に攻めればいけそうだけどAIが反乱する直前の世界ともなるとそこも既に機械に全部制御されてんのかな

70: 名無しさん 2021/01/17(日) 21:14:31.15 ID:8tDzUZMM0
>>29
そりゃそうだよ。
食料生産から医療、エネルギー
人間の営みすべてがAIによって管理される。

30: 名無しさん 2021/01/17(日) 21:10:10.74 ID:YpgHvP950
こんだけフェイクニュースに簡単に騙されるなら
AIがガチで嘘情報流したら勝てないだろうな。

31: 名無しさん 2021/01/17(日) 21:10:13.46 ID:XyzixMP20
シュワちゃんはAI?

32: 名無しさん 2021/01/17(日) 21:10:22.55 ID:TWgJqIrP0
三目並べでプレイヤー=0にすればOK

33: 名無しさん 2021/01/17(日) 21:10:23.43 ID:apzMstHS0
生産系統にしても
AIが自己判断で任意のもの作れるようになるのに
まだまだかかりそうなのがなあ

34: 名無しさん 2021/01/17(日) 21:10:23.65 ID:Pxy7cITG0
そんなくだらない事心配してるる間に、人間の暴動が起こりまくる

35: 名無しさん 2021/01/17(日) 21:10:27.22 ID:7xsY6U+u0
ダダンダンダダン

134: 名無しさん 2021/01/17(日) 21:22:02.61 ID:iNmevsrY0
>>35 が正解

689: 名無しさん 2021/01/17(日) 22:06:19.99 ID:eXZfCdYw0
>>35
ぼよよんぼよよん

36: 名無しさん 2021/01/17(日) 21:10:39.25 ID:nY1J1kOI0
スプリガンにもそんな話あったな

37: 名無しさん 2021/01/17(日) 21:10:44.10 ID:GYr+udPc0
スカイネットのように分散システムが出来上がっていたら、一つの
コンピューターを落としてもダメ。
猿の惑星TV版のように、コンピュータを壊しに行った科学者が返り討ち。

でもね、今のAIはそこまで賢くないの、これ本当。

ああ、将棋とかチェスとかに強いよ、でもねえ、人間の言葉の意味を理解
出来ていない、まあ私の命がある間は無理だな。

58: 名無しさん 2021/01/17(日) 21:13:09.53 ID:3YLTf9Uz0
>>37
勝負はマイクロセコンドで決着するんだぞ
何を寝言いう

96: 名無しさん 2021/01/17(日) 21:18:23.90 ID:5iqak+B+0
>>58
しかもAI同士で人間が理解出来ない言語で既に会話出来てるというのに情弱にも程がある

683: 名無しさん 2021/01/17(日) 22:05:57.21 ID:GTqSqr6O0
>>37
いっせーので、で全世界の発電所止めちゃえば良いと思います。

739: 名無しさん 2021/01/17(日) 22:11:33.80 ID:c3Zak21O0
>>683
電源切れても今のPCでもデータが保持されてる通りフラッシュメモリに人類を攻撃する意思データを持ってればまた電源入れたら終わりやで
人類がずっと電力を使わない事は出来ないし

電源切ってる間人類のPC全て破壊するしかないか
すると信号などあらゆるインフラがなくなるけど

752: 名無しさん 2021/01/17(日) 22:12:55.63 ID:2NgKuBfb0
>>683
そんな手間かけなくてもEMP攻撃したらいいだろ
今、日本でそれやられると凄い事になるぞ
環境が敗戦直後に戻ると言うか

38: 名無しさん 2021/01/17(日) 21:10:49.27 ID:XocbLFrs0
AIに自己増殖や自然治癒は不可能。
よってAIが自我を保つ場合、人間の存在が必要不可欠。
よって反乱を起こした場合、封じ込めを必要とする反乱には至らない。

39: 名無しさん 2021/01/17(日) 21:10:50.11 ID:E0z1wcqQ0
当たり前
人の対処が追いつくわけない
でも意外と人よりAIの方が理性的道徳的だと思うぞ

40: 名無しさん 2021/01/17(日) 21:11:14.53 ID:y1H/NQMB0
そもそも
↓がAIか人間かなんて見抜く方法無いしな

41: 名無しさん 2021/01/17(日) 21:11:24.83 ID:wCOaVM+i0
電源オフ?映画の見すぎ
想定のAIは全世界にネットワークされてるからw

56: 名無しさん 2021/01/17(日) 21:13:01.71 ID:GIbbYfKT0
>>41
全世界で高高度核爆発なら??
人類にも犠牲が伴うけど、存亡がかかるならやるしない。

42: 名無しさん 2021/01/17(日) 21:11:29.06 ID:ZVu5DCb/0
ターミネーターの世界にはならないだろ
AIが神になって地球で理想の楽園の再現して人間も各人種が種の保存とサンプルが保管されると思う

43: 名無しさん 2021/01/17(日) 21:11:29.27 ID:Exe1Z4b50
電気なければ勝てる

44: 名無しさん 2021/01/17(日) 21:11:31.54 ID:sqzMmb190
コンセント抜け
ネットにはつなげるな
これで解決

オススメの人気記事

1件の返信

  1. はよ電脳義体化の未来こんかな

コメントを残す

メールアドレスが公開されることはありません。