「サイバー攻撃による重要インフラサービス障害等の深刻度評価基準(試案)」に関する意見の募集について

内閣官房内閣サイバーセキュリティセンター(NISC)から「サイバー攻撃による重要インフラサービス障害等の深刻度評価基準(試案)」に関する意見の募集がでています。

これは、「サイバー攻撃によりシステムの不具合が発生し、それが「重要インフラサービス障害」(以下、「サービス障害」といいます。)にまで至ってしまった場合に、そのサービス障害が国民社会に与えた影響の深刻さを表す」ものになります。

「重要インフラサービス障害」とは、「システムの不具合により、重要インフラサービスの安全かつ持続的な提供に支障が生じること。」と定義されています。

「重要インフラサービスの安全かつ持続的な提供に支障」という要件に該当した場合に、どのような効果が発生するのか、というのが、気になります。

もともととしては、「重要インフラの情報セキュリティ対策に係る第4次行動計画」に基づいており、この計画は、「サイバーセキュリティ基本法」(平成26年法律第104号)の基本理念にのっとっているので、この要件に該当する場合は、「国民生活及び経済活動の基盤であって、その機能が停止し、又は低下した場合」(サイバーセキュリティ基本法附則2条)ということになるかと思います。

この場合の法的な効果としては、「国民の生命、身体又は財産に重大な被害が生じ、又は生じるおそれがある緊急の事態への対処及び当該事態の発生の防止」(内閣法15条1項の内閣危機管理監の職務)に該当することになる、というのか組織法上の効果になるかと思います。

具体的な政府の対応手法を発動させるのか、という点についていえば、「我が国の平和と独立並びに国及び国民の安全の確保に関する法律(以下、事態対処法という)」についていえば、同法21条の「国及び国民の安全に重大な影響を及ぼす緊急事態」と上の「システムの不具合により、重要インフラサービスの安全かつ持続的な提供に支障が生じること。」が、同一であるのか、という解釈上の論点が発生します。

もし、この重要インフラ支障事態(?)が、上の「国及び国民の安全に重大な影響を及ぼす緊急事態」と同一であるならば、法的には、同法21条2項の
「一 情勢の集約並びに事態の分析及び評価を行うための態勢の充実
二 各種の事態に応じた対処方針の策定の準備
三 警察、海上保安庁等と自衛隊の連携の強化」
の措置をとることができることになります。

国際法的には、このサイバー攻撃が、主権の侵害をおよぼす(干渉)ものであれば、国際的違法行為として対抗措置を許容するということになりそうです。主権の絶対性の対象となる物に関する干渉(interference)は、国際法の侵害になるとされているわけです。ここで、干渉とは、そのものに損傷(damage)を与えるか、もしくは、その機能を重大に損なわせることをいいます。

でもって、この深刻度評価基準ですが、何の効果をもたらすのか、というのが、私のレベルでは分析できないので、基準として、妥当なのか、どうかというのもコメントできないですね。

(ちなみに、脆弱性に関しては、脆弱性自体の深刻度と、社会に対する影響度というのを分けています。用語も統一されていないというのも微妙な感じがしますね)

情報処理 2017年11号「IoT時代のセーフティとセキュリティ」

タイトル通りですが、情報処理 2017年11号は、特集が「IoT時代のセーフティとセキュリティ」になります。

この問題については、私は、「IoT の脆弱性と安全基準との法的な関係」という論文を記していた(InfoCOM Review 第69号(2017年7月31日発行) )こともあり、興味深く読ませていただきました。

それらしき記述はありますが、「セーフティとは○○である」これに対して「セキュリティは、××である」という定義に該当する記載がないので、締まりが悪く感じてしまいます。また、保安基準、安全基準とセキュリティの関係についての議論もありません。

情報処理学会だからといって、社会的なアプローチが軽視されているのではないでしょうか、というちょっとした感想をもってしまいました。

IoTのロスト・イン・トランスレーション

ロスト・イン・トランスレーションというのは、ある言語からある言語に翻訳する際に失われる意味で使われることが多いようです。

Communicationが「通信」と訳されたばかりに、遠隔通信に限られると解されたり、意思内容に限られないということも、この一つのようです。

でもって、IoTにもこの論点が関わってくるのです。というのは、ドイツ語に、「安全」と「セキュリティ」を区別する単語がないというのは、わかっていたのですが、フランス語にも、この区別がないということだそうです。これは、大使館の人に確認しました。

カタカナで、外国語をそのまま、もってくる日本語は、実は便利なのかもしれません。

 

2045 IT Odyssey

ITと社会の話を、できるかぎり分かりやすく説明するというアプローチとして、Star Warsを題材に、Security Warsをつくったのですが、次は、2001年宇宙の旅をもとに、人工知能とサイバーフィジカルシステムの進化において起きる問題をSF映画をとりあげようかと思います。

授業や講演で紹介した映画のリストは、以下のとおりです。

(1)弱いAI対強いAI

イミテーションゲーム

ブレードランナー

(2)自動運転自動車/手術ロボット

ナイトライダー

プロメテウス

Da Vinciは、こちら。

(3)人工知能の主体性

her/世界でひとつの彼女

チャッピー

(4)致死性自律型兵器の法律問題

ターミネイター

(5)シンギュラリティを超えて

2001年 宇宙の旅(スターゲート以降)

で、生徒さんから

マイノリティレポート

未来世紀ブラジル

のおすすめがありました。

日経新聞の2ケ所に名前が

載りました。前にも何回か:コメントででたことはありますが、一日に2箇所は、珍しいので、貼っておきます。一つは自動運転に関する問題でのコメントです。今、一つは、仮想通貨の共著者として名前がでています。

両方ともに、現在、きわめて注目されているテーマで、そこで名前が載るのは、光栄なことです。

IMG_1369
自動運転に詳しい
IMG_1368
「仮想通貨」の共著者として

Cyber Physical System

ちょっとした話で、“Cyber Physical System”という言葉が筋がいいのか、わるいのか(わかりにくい)のか、ということになりました。

業界的には、IoTというのもなんなので、このような用語を目にすることにもなっています。

我が国的には、
産業構造審議会 商務流通情報分科会 情報経済小委員会
中間取りまとめ
~CPSによるデータ駆動型社会の到来を見据えた変革~

米国的には、NIST
“Framework for Cyber Physical Systems Release 0.8”
があったりします。

私としては、Physicalがはいることによって、どのような相違が生じるのか、ということを考えると、IoTとか、Industrie4.0などよりも、その相違を直接的にあらわしているのじゃないの、「よく分からない」というのは、「リテラシー」というか、アンテナがピンと張られていないのじゃないの、と考えています。要は、社会のなかで、実際の存在としてある、ということは、何かことがおきると、生命、身体傷害、財産の損失(安全)に直接に関わってくるのです。その意味で、情報の世界のみで完結している従来のネットワーク革命とは、また、別の事件の問題が起きてくるということかと思っています。まさに、その安全の問題を惹起するのが、Physicalというキーワードのような気がします。

もっとも、NISTの報告書は、さらに広い問題を念頭においているような気がします。ロボット法のところでもふれた三つのドメインによる考察というアプローチと比較してみたいと思います。

ロボット法って何

ロボット法学会設立準備会に出席してきました。報道は、こちら

非常に熱意のある参加者・事務局で、いろいろと面白かったです。

ただ、ロボットとして、何をテーマに論じるの、土俵は何にするの、という議論が、あまりされなかったのは、残念でした。法律家が議論するのであれば、アルファなり、オメガとしての、「定義」は、きちんと意識して論じるのが、当たり前の礼儀ではないでしょうか。(まあ、自分が、あまりにも古い流儀にこだわりすぎるのかもしれませんが)

そんなことをいっても仕方がないので、体系について、考えていることを以下にメモします。たぶん、ロボット法としての論点は、IoTの問題と人工知能による制御の問題で、「ほぼ」足りるのだろうと思います。(何が足りないかは、考えていません)

すると、問題となる各論点は、「自律性」「物理的存在」「存在と社会との関わり」の分野で論じられるはずです。

(1)自律性

人工知能による制御の問題で、人間の具体的な指示によらないで事前の抽象的な指示によって制御されることでしょうね。すると、人間との役割分担、特に緊急時の人間の具体的な指示によるコントロールの可能性を残さないといけないのか、というのが重大な問題になるはずですね。これは、準備会で指摘されていなかった問題と認識します。

(2)物理的存在

これは、ロボットが、実際に駆動系をそなえたりして、実際に社会のなかで、物理的な作用をなす(その意味で、データのみに作用する金融系の自律システムは、とりあえず、考えない)ということでしょう。これによって、この駆動によって現実の問題が惹起されることになります。

この場合にかんがえるべきことは、安心感などというものではなく、「安全」です。ここでいう安全は、テクニカルタームで、「安全とは、受容できないリスクから免れている状態」(JIS Z 8051:2004 の定義 3.1)をいいます。また、安全とは、「安全、死、傷害、職業病、備品・財産に対する損傷・消失、または、環境に対する損傷を惹起しうる状況から免れていること」(MILSTD882E)ということができるでしょう。
IoTを論じるときに、「安全」を論じないで、情報セキュリティの観点だけを論じるのは、研究不足というのが、私の説なのですが、昨日も、この意味での安全の定義がでなかったのは、残念です。

この安全を守るための仕組みが、監督官庁による安全基準の策定とその基準の執行体制ということになります。この基準が守られない場合には、リコールにもなりうるので、その場合のレベル感(特にロボットシステムとしてみた場合のネットワークからの攻撃が想定される場合)・仕組みがポイントです。昨日は、製造物責任ばっかり議論されていました。個人的には、どうかな、というのが感想です。

(3)存在と社会との関わり

ロボットシステムは、その対象の情報取得・駆動に関する情報など、すべてが、データとして存在します。このデータが、まさに、動作の原動力になるわけです。これが特定の個人を識別しうると、personal dataとなって規制の対象になります。この場合に、現在、世界的にもっとも「進んでいる」(?)とされるPersonal Data Protectionの仕組みが、対応できるのか、有効利用という観点を考えたときに、identifiableかどうかのみで考える仕組みでいいのか、というのは、論点でしょうね。

また、ロボットが一定のとじた仕組みで、ある分野を独占してしまうと、このようなデータについても、独占が発生してしまいます。二面市場の制覇の問題点も将来でてきそうです。

というのが、私的にみたロボット法の体系というところです。これらの問題は、今の枠組みでも検討できるのは、当然です。ただ、新しい名前でお祭りは楽しいですし、新しい見方も提供してくれます。活動が盛んになって刺激をもらえるといいかもしれません。

ただ、シンギュラリティの時代に何がおきるのか、元気に、頭もボケずに、キャッチアップできるのを第一目標にするべきかもです。

 

IoTの法律問題

IoTは、今年のテーマとしてバズるのは、間違いないでしょうね。

ただ、具体的には、個別の話(飛行機、自動車、ドローン、スマホ、医療ロボットとか)でないと、議論しにくいところもあります。

その一方で、一般的な理論展開という観点からみていくと、Thing自体の問題(安全性とかね)、Thingの自律性の問題(ロボットってそういうものだし)、Thingと外界との関係(データ保護や他市場の乱用)当たりにわけられるのかと思います。

Medical × Security Hackathon 2015での「医療ロボット」もそういった切り口で話してみました。いかがだったでしょうか。