神山監督や冲方丁氏、研究者や教授陣が「攻殻機動隊」の実現可能性を語る。攻殻シンポジウム「テーマ3:サイバーセキュリティ」

2016/07/17 22:00

theawardsymposium

2016年2月11日(木)に開催された「攻殻機動隊 REALIZE PROJECT the AWARD」。本記事では、同イベントのなかでレポートの要望が多かった「攻殻シンポジウム」について書き起こしを掲載します。

 

登壇者は、『攻殻機動隊S.A.C(STAND ALONE COMPLX)』シリーズ監督・脚本を担当した映画監督の神山健治氏、「攻殻機動隊ARISE」シリーズ構成・脚本を担当した小説家の冲方丁氏、国立研究開発法人情報通信研究機構の井上大介室長、産業技術組合研究所の梶田秀司氏、東京大学教授の稲見昌彦先生、筑波大学教授の岩田洋夫先生、神戸大学教授の塚本昌彦先生、九州大学名誉教授の村上和彰先生、はこだて未来大学教授の松原仁先生。モデレーターは、A.T.カーニー日本法人会長の梅澤高明氏。

攻殻シンポジウム「テーマ1:義体・ロボット」の記事へ
攻殻シンポジウム「テーマ2:電脳」前編の記事へ
攻殻シンポジウム「テーマ2:電脳」後編の記事へ

IMG_0487

 

梅澤:次のテーマにいきたいと思います。サイバーセキュリティですね。井上さん、お願いします。

 

井上:情報通信研究機構の井上と申します。今日はnicter(ニクター)という我々のサイバー攻撃の観測分析システムを介して、実際に今起こってるサイバー攻撃というのをご覧いただきます。また、そういったサイバー攻撃の対策と、CTFというサイバー攻防戦というのがありますので、そのご紹介をさせていただきたいと思います。

 

まずNICT、情報通信研究機構という組織を簡単にご説明いたします。一番有名なところで言いますと、日本標準時をつくっているのが我々NICTです。東京の小金井というところでつくっています。光学系の光通信ネット、あるいは、衛生の通信部分ですね。

 

衛生でいうとJAXAさんが有名なんですけども、我々は打ち上がっている衛生の通信部分をつくっていたりします。バイオ、ナノICT、など未来をめがけたICT技術の研究開発だったり、まさに攻殻機動隊の世界ですけども、BMI、ブレインマシンインターフェイスの研究開発、サイバーセキュリティの技術の研究開発をしてます。

 

全体でいいますと、「攻殻機動隊の技術をつくっている組織」だとご理解いただければと思います。

IMG_0325

 

–中略—
ここから先の井上室長のプレゼンは、映像とスライドの解説のため、こちらでは省略いたします。詳細については、こちらの記事をご覧ください。

IoTデバイスの普及によりサイバー攻撃が増加!? NICTのサイバーセキュリティ研究室 井上室長に聞いたサイバー攻撃の可視化で見えてくるもの

 

梅澤:さっき冲方さんから、ARISEシリーズで社会とのつながり、あるいはAIがコントロールした社会みたいなお話をされてました。村上さんは、社会のOSの話について、オープンデータが大事ですとおっしゃっていました。

 

それによってどうやって社会の利便性を高めて、色んなシステムがより進化をしていくのかのお話もありました。一方、セキュリティの観点からすると、リスクも冒しているってことだと思います。課題はどのあたりにとくに感じてらっしゃいますか?

 

村上:サイバーセキュリティ、サイバーアタックでいいますと、少なくとも3つ我々は考えなくちゃいけないなと。スマートシティというあたりで。

IMG_0510

 

ひとつは、サイバーアタックの狙いはデータを盗む、あるいはコンピュータを誤動作させるということ。「データはクローズにできないもの」だと逆に開き直るというのがひとつあるのかなと思います。それで今日、データをオープン化するという話をさせてもらいました。オープンにできるようなデータというふうな形にしておくというのが、考え方、発想の転換です。

 

梅澤:最初からオープンにできるようなデータだけしかストックをしないということですね。

IMG_0127

 

村上:二つ目がセキュリティ。どんなにがんばっても100%完ぺきなものはないと思うと、コンピュータは誤動作する可能性が高い。当然ながら100%正しいフィードバックが実社会にきているわけではないと開き直って、そのための設計をどうしたらいいですか? という点が2点目だと思います。

 

3番目はけっこうむずかしいんですけども、サイバーで終わんないんです。要するに、フィードバックをするから、リアルな世界にもなんらかの影響を与える。

 

最近ショックな話を聞いたんですけども、サイバーセキュリティと同様に今非常に日本が危ないのは、フードセキュリティ。食べもののセキュリティが非常に危ない。フードテロというのも十分起こりえます。

 

とくに、2020年のオリンピック、パラリンピック、選手村あたりのフードテロは十分起こりえるんだ、というような話を聞きました。どんどん物事が集積化されています。

 

流通にしろ生産にしろ、そういう集積化がされて、そこをコンピュータ制御とかAI制御でやったときの、リアルなものをどう守るかが非常に重要です。これについてはまだ答えがよくわからないですけども、そういう3つの観点で今後のスマートシティということを考えていく必要があるのかなと思ってます。

 

梅澤:冲方さんいかがでしょうか。

 

冲方:僕もフードテロに関して、攻殻の世界でやろうと思ったんです。ただ、あまりにも課題がたくさんあったのと、あまりにもシャレにならないっていうので、エンターテインメントとしては不適切だろうという話になったんです。

IMG_0304

 

流通を操作することによって、1国を滅ぼせるぐらいの攻撃がそのうち可能になってしまうんですよね。それを先ほど、攻撃が今リアルタイムで行われてるって言いますけれど、攻撃の定義がたくさんありすぎて、一般人は何が攻撃なのかよくわからなかったりしますよね。

 

データを読み取られることは攻撃なのか、データを挿しこまれることは攻撃なのか、勝手に使われることは攻撃なのか。そういった攻撃の定義っていうのは、これは全員が共有しないと、何が起こってるのか、世界全体がブラックボックスになってしまうような感じがすごくしていて。それがまず今の一番の、課題なのかなと。

 

梅澤:あと、さっき電脳化の話がありました。電脳化に対しての攻撃。これをどう保全するのか。これもそろそろ真剣に考えとかなきゃいけないタイミングですよね。

 

井上:どんな攻撃がありうるんですかね? 電脳攻撃。今までは、勝手に義体が操作されちゃうとか、死んじゃうとかってありましたけれど。まず、攻撃の定義というか、そこをみんなでコンセンサスをとらないといけないって、おっしゃるとおりだと思うんですね。

 

今、攻撃の種類ってほんとに多岐にわたっていまして。たとえば、先ほどご覧いただいた世界地図上で、地球儀上で攻撃が出て。あれはもう無差別型の攻撃で、とにかく誰彼なしに感染を広げて手先にするっていう攻撃なんですね。一方で特定の組織をピンポイントで狙うような標的型攻撃というようなのもありまして。

 

いろんな手法、攻撃手法があるんですけども、そこの中で一番重要なのは目的なんですよね。情報を盗もうとしているのが目的なのか、あるいは破壊行為が目的なのか、あるいは愉快犯なのか。そこの目的にまでしっかりとリーチできるというか、原因追及ができるというような研究開発というのが、今非常に重要になっているんです。

 

神山:以前お話を伺ったときに、セキュリティもAIにできないのかっていうお話の中で、そこはまだ人間がやらなければいけないというお話をされてたんですけど、そこをもう一度説明していただけますか。

IMG_0290

 

井上:今多くのセキュリティを守るための人々は、セキュリティオペレーターと呼ばれています。たとえば、テキストがものすごくたくさん流れている中で、それを日々ずっと見ているわけなんですよね。達人の域になっていくと、それを見ていると、「あれ、今日は何かおかしいぞとか」って言いながら。

 

神山:あのガーッと流れているやつを見ているだけで。

 

井上:そういった、おかしいぞって気づきの部分をどんどん自動化していってアルゴリズム化のがストレートフォワードな手法なんですけども、どうしても超えられない。

 

「あれ、今日はおかしい」って感覚は、今の我々がもっている技術ではなかなかできない部分なんですよね。そういう人間がふと気づく気づきの部分であるとか、そのあたりがAIでサポートできるような世界になれば、また少し時代は変わってくる。

 

神山:人材の問題も多少解決する。

 

梅澤:でもそれってある種エキスパートシステムっていわれたころからの課題で、何十年もトライをしてきたんだと思うんですよね。松原さん、さっきからずっとニヤニヤされてるんで、ぜひここでひと言いただきたいんですけど。

 

松原:それこそ、ディープラーニングとは言いませんけど、機械学習で学ばせる。人間もそうなように、失敗を重ねた上で、人間のセキュリティの専門家が専門家になってくように、AIセキュリティ専門家を育てていく。それこそ、教育というのは重要になってくるんじゃないかと。

IMG_0514

 

井上:実はいわゆるデータマイニングだったり、マシンラーニングをサイバーセキュリティに適用するっていうのも、過去10年ぐらいずっとやってきていて、なかなか大変なんですよね。チューニングの問題だったり、あとリアルタイム性の問題があったり。

 

あと一番重要なのが、たとえばマイニングエンジンだったりラーニングエンジンが、これはセキュリティの事故ですよというふうに教えてくれたときに、じゃあ原因はなんですかって聞いたときに、その原因の遡及というか、そこまで今辿れないという問題があって。

 

実際のセキュリティオペレーションをするためには、その原因までちゃんと特定できないと人が走っていけない問題があるんですね。つまり、そういったいろんな問題をクリア、ブレイクスルーしていけば、おそらく長期的にいえば自動化というのは非常に重要だと思っているんです。

 

神山:これだけ日々起きてると、これは人材不足とかでは、人材を補完するってことではたぶん間に合わないですもんね。

 

井上:なかなか草薙素子を発見するというのはむずかしいですから。

 

神山:彼女もエスパー並みに珍しい人間だと思いますね。

 

冲方:さっき草薙素子候補生みたいな人たちに囲まれてましたけど、大丈夫ですか? 携帯電話とか。侵入されてたりとか。

 

神山:今朝、僕のメールが全部消えてて。もしかしたら狙われてる笑

(つづく)