ID:54909
堀井On-Line
by horii86
[386378hit]
■7385,閑話小題 〜女性社会の話題は尽きず！
・・・・・・
6622,閑話小題 〜AIについて
2019年05月03日(金)
＜「AIが人間を殺す日〜車、医療、兵器に組み込まれる人工知能」
小林雅一(著) ＞
最近の情報機器の進化には目をみなることが多々ある。数年前に、居間
から寝室に移住空間の主体を移動してきたことは、何度もテーマにしてきた。
廊下を挟んで対角にある仏間の書斎コーナーのパソコン前の空間を加えると、
一日の三分二に近い15時間は「奥の院」に在住している。そこでネットTVと、
録画した映画・ドラマと、旅紀行、各種の講演や、YouTubeで動画サーフィン
などに没頭する。そこは現実社会とデジタル映像の世界が交差する不思議な
空間でもある。AIが人間をコントロールする可能性がある「2045年問題」
奥の院では睡眠以外の時間は情報端末で、コントロールされている。
〜Amazonの内容紹介より〜
≪ ◉ 誰も言わない「一番の脅威」 ◉
飛躍的な進化を遂げる人工知能(AI)。明るい未来が語られる一方で、
「AIに雇用が奪われる」という見方や、超越的な進化を遂げたAIが人類を支配する
「二〇四五年問題」などのAI脅威論も少なくない。しかし著者はむしろ、目前に
迫る危機として、車、医療、兵器の三つを挙げる。共通するのは、私達の命に直結
する分野であること。ここに今、最先端のAIが導入されようとしているが、中身の
見えないブラックボックスであるうえに、ときに暴走の危険性をはらむ。
世界の制御権が人間からAIへと移譲されたとき、その先に見えるのは自ら判断
する機械・システムが人の命を奪う衝撃の未来。AIの真の脅威が明らかに! ≫
〜読者、感想より〜
・本書でキーワードとなるのは、「Human in the Loop」「Human out of the Loop」。
すなわち制御の輪の中に人間を含めるか、それとも人間を除外するかということで、
自動運転車でいうと、Googleなどが目指しているような完全自動運転車は
「Human out of the Loop」の思想に基づくものになる。今やAIの主流となる
ディープラーニングではビッグデータに基づきAI自身がある法則性の下でアウト
プット（判断や命令など）を出すが、その過程はブラックボックスでAIの開発者
でさえなぜそういう判断になったのかを理解することができない。AIの判断が
統計・確率に基づくものである限り、現実世界との微妙な誤差により誤った判断
をする危険性があることを著者は指摘しており、自動車や医療分野など判断が
人の生死に関わる分野では「Human out of the Loop」は危険であると論じている。
一方、半自動運転車のように人間の関与も含める形の場合は、どこまで人間が
運転に注意を払わなければならないか曖昧な点が問題、実際に実用化されている
半自動運転車の死傷事故の分析では「ドライバーの混乱」が事故の主な原因と
されている。ということで、AIの判断にどこまで人間が関与するかは難しい問題
であるが、急速な勢いでAIの開発と応用が進んでいる今こそ社会全体で考えて
いかなくてはならないことは間違いないであろう。
・本書では、主にAIの技術的な面に焦点を当てて論じているが、基本的にAIの
判断過程がブラックボックスでしかもIoTで様々なAI搭載機器がネットにつながる
時代では、悪意を持った個人やテロリスト、国などによる脅威もどんどん高まって
いるだろう。自動運転車搭載のAIに外部からの操作で誤作動をさせて事故を起こす、
医療分野で治療を支援するAIのプログラムを操作して誤った治療方針を提示させ
結果患者を死亡させるといったケースがまったくあり得ないことではない時代に
なりつつある。AI搭載の兵器がテロリストなどの手に渡った際の脅威は言うまでない。
こういったケースも想定した上で、AIの信頼性を更に高め、悪用を防ぐ方策を
考えていくことが特に人間の生死に直結する分野への応用においては重要であろう。
―
▼ AIといえば、最近、コマーリャル等で、見かける『ポケトーク』。
翻訳は、端末ではなくクラウド上のエンジンを用いている。そのため、言語
[5]続きを読む
05月04日(火)
[1]過去を読む
[2]未来を読む
[3]目次へ
[4]ｴﾝﾋﾟﾂに戻る