無料ブログはココログ

« 彼らは、利益の前には、人の命など屁とも思わない | トップページ | 支那では日本と違い、権力があるうちに最大限に利益を享受しないと損だと考える伝統がある »

2017年8月 2日 (水)

なんかすごく普通に、ものすごく怖いことを仰っていますね…

7月27日、NHK・BSプレミアム「フランケンシュタインの誘惑」で、「人工知能を予言した男」を放送していた。

第2次世界大戦中、解読不可能と言われたナチス・ドイツの暗号エニグマ(謎の意)を解読に導いた男アラン・チューリングの一生を描いたものだ。

アラン・チューリングは、エニグマ解読のために、コンピューターを実際に作ってしまう。

原爆もそうだが、頭の中で出来ると考えられても、実際に作るのはとても難しいことなのだ。

そしてコンピューターを使ってエニグマの解読に成功する。

この暗号解読によって戦線は英軍有利に展開し、米軍の参戦もあって連合国が勝利する。

その後も長い間「解読された」という事実は極秘事項とされ、エニグマ暗号機は売られ続けた。

この暗号機を使った外交文書の内容が、英・情報局に筒抜けとなっていたことは言うまでもない。

ーー

アラン・チューリングは、脳もコンピューターと同様の構造をしており、やがてコンピューターが脳のように自ら考えるようになると考えたのだった。

その後アメリカでArtificial Intelligence「人工知能(AI)」という概念が作り出される。

日本でも未来を拓くものとして、この「人工知能(AI)」の開発・研究が盛んになされている。

人工知能と化したコンピューターは、自分でどんどん学習していく。

そのため「もはや開発者でさえ人工知能の内部で何が起こっているのかわからない」状態になっている。

そして番組の中で、「人工知能(AI)」研究者の栗原聡氏は、「ぼくらはアリを見た時に慈悲の心を持たない。同じように、SFの話になるけど、AIも人間をそういうふうに見るかもしれない」と。

すると武内アナ「なんかすごく普通に、ものすごく怖いことを仰っていますね…」

ーー

つまりAIにはとても恐ろしい一面があるのである。

その恐ろしさについて書かれた本を宮崎正弘氏が紹介されている。

ーー以下「宮崎正弘ブログ、書評」より抜粋編集

小林雅一『AIが人間を殺す日』(集英社新書)

著者は「自動運転、医療、そして兵器」からAIの恐怖を詳述する。

工業技術には、急速に進歩する特異点Technological Singularityがあると言われている。

「人工知能(AI)」の特異点は、それは恐らく人間の知能を越える時となるのであろうが、2045年ごろと予想されている。

ーー

小林氏は言う、「それは人工知能(AI)が人間の制御から外れる」という恐怖なのである、と。

「人工知能(AI)」の暴走や誤作動は、例えば自動運転では大災害をもたらし、医療では人に死をもたらす。

もっと恐ろしいのが、兵器にAIが使われた時だと、著者は指摘する。

ーー

小説と映画では、ロボコック、ターミネーター、スターウォーズなどにロボットが登場している。

日本では、そのはるか前に鉄腕アトム、鉄人28号が、そして最近はガンダムなどが登場している。

まさか、ロボットが本当に登場し、人間を本格的に脅かす日が来るとは誰も想定していなかった。

ーー

「コンピュータ・プロセッサーの飛躍的進化とコスト低下に伴い、これら高度な部品・技術などが、謂わば『消耗品』として兵器に搭載されるようになった」(p176)。

無人機(ドローン)、無人攻撃型衛星、無人潜水艇などである。

アメリカはこれらAI搭載の自律的兵器開発に今後三年間でおよそ180億ドル(2兆円)をあてる。

そのため世界から人材を集めている。

ーー

「しかし、このように兵器自体が戦場における周囲の情報から学習して、臨機応変に対応するようになれば、それはペンタゴンが主張する、『兵器の使用について実質的な判断を下し、その責任を負うのは、兵士や指揮官のような人間である』という基準とは相容れないことになる」

すなわち兵器そのものが自走し始める。

人間が制御できない兵器の誕生は、敵・味方の「『兵器技術の非対称性』を打ち消す方向に動く可能性が高い」(p192)のだ。

つまり人間がAI兵器によって支配されることを意味しているのである。

« 彼らは、利益の前には、人の命など屁とも思わない | トップページ | 支那では日本と違い、権力があるうちに最大限に利益を享受しないと損だと考える伝統がある »

経済・政治・国際」カテゴリの記事

コメント

縦椅子さま

「人間が制御できない兵器の誕生は、敵・味方の「『兵器技術の非対称性』を打ち消す方向に動く可能性が高い」(p192)のだ。

つまり人間がAI兵器によって支配されることを意味しているのである。」---

AI兵器が人間を支配した後の世界を見ることはできませんが、人間は復権できるのでしょうか?人間の復権を可能にするのはアナログのの世界しかありませんが、しかしもうすでに、AI機器に浸食されています。地球があったらの話ですが、その時は原始時代にもどり、いちからやりなおすしかありませんね。---
本当にいつも素晴らしいブログに心から感謝いたします。

AIを備えたロボットが現れたとき、初めに考えられたのは人間の仕事を奪うと言うことで、これによって人間は失業し生活できなくなることでした。これは、西欧社会で言われ始めたことで、日本では人間の仕事を助けてくれる、言わばパートナーとしての位置づけで愛称を付けられたこともあり、民族の差に大きな印象を受けました。

ロボットが人間を攻撃するのは、まさに恐怖の一言です。
なぜなら、人間の場合には「負傷」すれば出血し、骨折し、脳や心臓を損傷すれば、それに応じて動けなくなりますし、場合によっては死に至り、元に戻る復元性が無くなることもあります。

しかし、ロボットの場合には破壊された場合には、「故障」したパーツを交換すれば大抵は修復できますから、元に戻る復元性が大きいのです。

このことは、SFの中ではよく考えられていて、SF作家のアイザック・アシモフは、「人間への安全性、命令への服従、自己防衛」を目的とする3つの原則から成るロボット三原則を唱えて、人間の生命をロボットよりも上位においていたのです。

戦場を見るとき、昔なら兵隊は軍服を着ていましたが、近年の兵隊は軍服の上に防弾装備を着ています。
それでも、兵隊のみが危険なことは変わらなかったため、最近は爆撃機なら、基地から無線操縦で戦闘行動を行うようになりました。
それが、陸軍の場合には、人間に変わってAIのロボットになるようです。

兵隊の損耗を防止するためには、AIロボットを使うことが何よりですが、逆にAIロボットが攻め寄せてきたら、ロボットに破壊に対する恐怖心が組み込まれていない限り、生身の人間では対応できません。

AIロボットが敵も味方もなく、独自の立場を取るようになったら、人間はAIロボットに支配されるしかないと考えます。
この場合は、良いことか悪いことかを判断できませんが、人間の間の戦争は無くなる可能性があると思います。

コメントを書く

(ウェブ上には掲載しません)

« 彼らは、利益の前には、人の命など屁とも思わない | トップページ | 支那では日本と違い、権力があるうちに最大限に利益を享受しないと損だと考える伝統がある »

2017年12月
          1 2
3 4 5 6 7 8 9
10 11 12 13 14 15 16
17 18 19 20 21 22 23
24 25 26 27 28 29 30
31