CyConX travel report Day Two keynote &AI Panel

Day Two Key Noteです。

Mr. Thomas Dullien氏(Staff Software Engineer, Google Project 0)は、「セキュリティ 、ムーアの法則、安価の複雑性のアノマリ」です。
コンピュータを取り巻く情勢は、複雑性が増していること、セキュリティの問題がエスカレーティングしていることがあげられます。トランジスターの密度が、上がっています。
セキュリティは、向上しているものの、コンピューティングがよく早急に発展しています。
ここで、「安価の複雑性のアノマリー」を考えることができます。
単純さをシミュレートして、アノマリーを引き起こすのは、何かということになります。ここで、安価というのは、コンピューターが安価になったということです。4つの課題があります。
ソフトウエア、ソフトウエアのサプライチェーン、ハードウエアのセキュリティ・サプライチェーン、デバイスの検査の欠如です。
ソフトウエアのセキュリティは、見えない複雑性を示しています。ソフトウエアは、安価になっており、小さなミスが、大きな結末につながります

問題は、信頼のならないソフトウエアを含むこと、どのようにシステムを構築するか-利用しうる技術、システムを検査しうるシステムとして構築すること、課題になるでしょう。
なお、このスライドも公開されています。

Mr. Eugenio Santagata氏は、CY4GATEの CEOです。 “Electronic Warfare meets Cyber” (電子戦は、サイバーと出会う)です。
電子戦は、敵側の攻撃を利用できなくするものである、といいます。
電子戦の攻撃は、サイバー戦のアプローチと並びたつものです。
その課題としては、CEMA(サイバーおよび電磁気環境攻撃-cyber and electromagnetic environment attack)になります。
ここでの作戦のサイクルを考える必要がある。
作戦のサイクルは、インテリジェンス&分析、ミッション準備、ミッション実行(受動攻撃、スマートジャミング、情報レイヤー攻撃)でできています。
CMEAを可能にする3つのものは、知識・技術・サイバーレジリエンスです。

あのMr. Bruce Schneier氏(現在は、 Harvard Kennedy School)です。「高度に接続された世界におけるセキュリティとプライバシ」です。
スマートフォーンは、コンピュータに電話がついたものであって、すべてが変わってしまった。
市場は、セキュリティにお金を払わない、セキュリティのテストは、また、困難である。
その一方で、Miralマルウエアの事件があり、カジノがハッキングされた事件もあった。PGPの脆弱性の事件もあった。コンピュータの進歩のなかで、どんどん速くなってきている。また、ホテルのキーがハックされたこともあった。パッチで対応するものの、どのようにしてセキュリティを確保するかという問題がある。
歴史をさかのぼってみれば、1976年の段階では、消費者は、何もわからなかった。消費者の機器は、10年単位で、変化してきた。スマートフォンは、デケァクトのコントローラーになっている。また、サプライチェーンの問題は、重大である。
法執行機関は、ISMSキャッチャーを利用し、すべての情報を取得することができる。状況は悪化しているのではないか。

(ちょっと、集中力がきれたので、メモがきちんとしていないので飛ばします)

Mt.John Frank氏(Microsoft’s Vice President, EU Government Affairs.)は、「サイバースペースでのトラストを最大化する」というスピーチです。

彼によると2017年は、技術発展とサイバーセキュリティ上の脅威においてパラダイムシフトがおきました。

民間人、インフラおよび民主党を標的にした軍拡競争が行われました。WannaCryとNotPetyaがその例です。
今、動きを変えなければいけません。存在している国際法を構築し、低強度紛争においては、法がないので、サイバー規範を進歩させなければなりません。
民主主義のプログラムを守らなければなりません。私たちのデモクラシーを防衛するパートナーシップを構築し、選挙のインテグリティ(完整性)についての大西洋委員会をつくるのです。

サイバーセキュリティの技術の調和を図らなければならないです。デジタル・ジュネーブ条約です。

  •  より強い防御
  •  攻撃なし
  •  能力向上
  • 集団行動
    です。
    サイバー攻撃に対する説明責任を向上させるべきです。
    政府が攻撃的なサイバー攻撃をする場合には、国民に対して説明責任を追います。

昨年の12月19日に、WannaCryは、北朝鮮であるとアメリカ合衆国、Facebookその他が攻撃者決定をしました。
NotPetyaは、ロシアであると米国政府は、決定をしました。

(高橋)デジダル・ジュネーブ条約ですが、すこし宛、明確になってきています。特に、低強度紛争をも念頭においていることが明確になって、意味がはっきりしたような気がします。インテリジェンスは、国際法としては、原則として、放置されているわけですが、それを条約によってコントロールするというのは、興味深いものだと思います。攻撃者認定が、抑止もしくは説明責任の観点から、重視されてきているのも興味深いです。

ここで、AIパネルです。

R.E. Burnett教授(National Defense University)
戦時におけるAIであり、これは、狭いAIとなります。自律型ロボットであり、人間の反応時間を凌駕することになります。
(1)人間の兵士 対 機械兵士
社会的なインパクトが大きいことになる。高度にストレスのかかる状況で、だれもみていない状態での活動ということになる。
(2)AIタイプ 偵察
新しいタイプの作戦セットが存在しており、リモートコントロールで、ヒューマン・オン・ザ・ループ型の活動になる。
実際には、高解像度で、大容量の記憶容量を誇る機会が存在している。どのようにして展開するのかということで、新しい抑止力になっている。
自律型兵器システムは、AIによる将来であり、そのデモンストレーションが行われる。
また、ソーシャルメディアのツールも、その範疇に入ることになる。

Dr. Sandro Gaycken(Short CV – Founder & Director, Digital Society Institute, ESMT Berlin – Directorなど)は、”AI Dominance”についての話です。
AIは、攻撃についての多大な潜在能力を秘めている。
AIは、AIによって予測しうるし対処しうる。
戦略レベルでは、AI対AIになる。
自律型兵器システム(AWS)は、大量なデータを分析し、情報のドミナンスがある。技術的AIを独占することは勝利を確実にする。
金融市場の操作をも可能にずく。
戦略レベルでは、フルスペクトラムでの独占、戦略的AIの概念的利用は、勝利につながる。標的の操縦もなしうる。
AIの独占力は、敵側を弱体化することによってなしうる。
作戦のデザイン、訓練における監督、きわめて高い複雑性、オープンシステムの必然性、セキュリティは、確認が困難になる。改竄がAIによってなされた場合には、奇妙なことが起こりうる。

Mr. Jaan Tallinn( founding engineer of Skype and Kazaa)です。
狭いAIと一般AIの混乱について語ります。また、AIとモラルについての話です。

このあと、AWSは、禁止されるべきか、死亡者数を減少させるのか、ということについて議論が戦わされました。

(高橋)世界の現実は、AWSをめぐって、きわめて高度かつ現実的なレベルでAIの利用について議論をしています。日本においては、研究さえも禁止されている状態(それも、根拠として、きわめて曖昧なものによって)で、それが結局において安全保障を弱める結果になってしまうのではないか、とか思いながら、聞いていました。

10th Anniversary of IT Research Art

当社 ITリサーチ・アートは、平成19年11月の設立以来、10年をすぎることができました。

脆弱性調査のためのリバースエンジニアリングの合法性の議論から始まり、プライバシーのコンジョイント調査、セキュリティインシデントと法の調査、通信の秘密、営業秘密、忘れられる権利、IoTのセキュリティと安全などについての国際調査など、本当にたくさんの調査に従事できたことを本当にうれしく、また、そのいずれのテーマも、わが国にとって先進的でチャレンジであったことを、我ながら、誇りにおもいます。

(ということで、調査実績をアップデートしました)

本年も

GDPR

といった最先端の国際調査を手がけることができます。

設立のときは、こんなに続けて、先進的な調査、それも、入札をへての調査(実感こもっているでしょ)ができるとは思ってもみませんでした。

今後は、さらに、先端的な分野(宇宙までいくか)や、実際のテクノロジーそのものへの挑戦をしたいとおもいます。

みなさま、今後ともご指導、ご鞭撻よろしくお願いします(あと、若い先生方は、一緒に遊んでね)。

平成29年11月 高橋郁夫

 

「人工知能の発展と企業法務の未来(1)」NBL角田論文を読んで

NBL 1107号 24頁に 角田篤泰「人工知能の発展と企業法務の未来」(1)が掲載されています。

まず、この論文は、人工知能技術とは何か、ということをきちんと理解していることを前提に、具体的な企業法務への展開にふれてようとしている点で、他にない論考かとおもいます。高橋が、今年の11月29日に「人工知能は法務を変える?」としてシンポジウムで問いかけようとしている論点とまさにシンクロするものといえるでしょう。

(なお、同様のテーマに自由と正義(2017年9月号) 「AI時代における知的職業-弁護士業務の行方-」がありますが、技術的な背景との分析に勝る点で、角田論文のほうが分析する価値は高いというのが私の意見です)

1107号の内容は

はじめに

(1)AIの今昔

「「昔のAI」については、論理式などによる関連知識の情報を与えることで解いていた」としています。これは、前にふれた私のチャットボットって人工知能なの、という話ででてくる、昔ながらのエキスパートシステムということになるかとおもいます。

これに対して、「今のAIでは、ルール不要である。つもり、専門知識を参照しない。大量のデータを統計的に観測することで、問題に対する解のパターンを導く(モデルを学習する)のである」としています。

この違いについて、角田は「ルールを考案する速度に比べて、驚異的な速度でデータ量は増えてしまうので、人間がルールを作成して解を得るより、コンピュータがデータから直接に解を導いたり、自動でルールを作成した
りするほうが得策という時代に入ったのである」と述べています。

(2)法律AIの問題点

昔のAIに基づいた研究・活動を「レガシー法律AI」と読んで、問題点を列挙しています。具体的には

データ不足

構成主義的傾向

司法偏重の応用領域

高度な対象法令

オープンテクスチャア

例外・関連性

高階表現

説明がないと困る

法律学はそもそも統計的・定量的ではない。

データ自体に解釈を含む

大量データの修習

言語・記号との連動

分野ごとのパラメータの調整が必須

ホスピタリティや責任は人の担当

AI法務自体の法的問題

となっていて、そのあとの続編となっています。

ちなみに、脚注も充実しています。

個人的には、チャットボットの経験から、離婚・相続・債務・交通事故(あと不動産)あたりに限って、例外を無視して、とりあえず、人間の補助として「昔のAI」を使う仕組みを発展させていくのが合理的ではないか、と考えています。

(アカデミアでなければ、将来の根本的革新より、今日の効率化のほうが価値があるという判断かもしれません)

角田教授のあげる問題のうち、データ不足、構成主義的傾向、司法偏重の応用領域(だって、裁判所に行く前を「法務」というので)、高度な対象法令(離婚だと条文は、「破綻」くらいしかないでしょ)、例外・関連性(例外は、弁護士が説明すればいいです)、 高階表現(これも他の条文を引っ張ってくるような面倒なのは、弁護士が説明すればいいです)、 説明がないと困る(伝統的な解法は、人間が考えるので問題なし)などの問題は、無視できるようになります。

法律学はそもそも統計的・定量的ではない、データ自体に解釈を含む、オープンテクスチャア、言語・記号との連動 とかは、「言葉」をつかったコミュニケーションから切り離せないので、宿命ですけど、人間の生活のなかで、言葉のかかわるものってそんなものなので、そんなもののレベルでもいいかとおもいます。

なので、どうせ、AIの基礎となっている統計学だって、20年に1回は、収穫の予測がはずれるので、そんな年は、許してね、という話で始まっているはずなので、それに比べれば、分野を絞って、古典的なAIをリファインするというのは、おもしろいのではないかと考えています。(たとえば、破綻という言葉の解釈に、いろいろな事例をぶち込んで、データを分析すると、その判断に影響を与えている特徴量がわかるよねなんてのもおもしろいような気がします。)

 

 

 

 

 

チャットボットを作るときに気を付けるべき唯一つのこと

マイクロソフト  みんなのAIブログで「チャットボットを作るときに気を付けるべき唯一つのこと」という記事がでています。

非常に勉強になる記事です。

「あなたがアプリ、ウェブサイト、電話、その他の特定のニーズに対処する他の方法よりもユーザーにボットを選んでほしいと願っている」すなわち、ボットが望ましいと思っているのは、なぜですか、ということになるかと思います。ボットというのは、ユーザが、システム提供者よりも、情報をあまり有していないときに、ユーザみずからが、情報を検索するのが困難なときに、システム側で、決定木に基づいて選択を与えて、一定の結論を提供するのに適したシステムだと考えます。

法律相談支援ボットというのは、まさに、このような目的にフィットしています。たとえば、交通事故の過失割合がいくらになるか、これは、弁護士であれば、赤本という本を見ていけば、過失割合が出てくるのは、だれでも知っているのです。

ところが、ユーザは、どこに、どう書いてあるかは、わからないということになります。その間をつなぐのにもっとも適した手段ということがいえるかと思います。

htmlで、イエス か、ノーかで、クリックさせていってもかまわないわけですが、自分の答えをいれていくと回答にたどり着くのは、自然だし、ユーザにとっては、容易であると考えることになると思います。

また、スマート度合い・自然言語の量・ボイスが成功を保証するものではないというのもそのとおりです。これは、人工知能対人工無能(脳)?でふれました。自然言語対ボタン式でもいいです。上の目的に達するのに、何が合理的なものなのか、という判断になります。

ユーザエクスピリエンスが重要であるというのは、そのとおりですね。詳しくは、「人工知能が法務を変える?」の会議で報告しますが、人間は、ボットが相手になると、我慢できなくなりそうです。その意味で、短い受け答えが必要になります。しかし、法律相談だと少ない情報で、法律相談の示唆までたどり着くことはできないので、このバランスというのは、一つの課題になりそうです。

人工知能に教える手間は、誰のもの?

人工知能というのは、なんなのですが、法律相談支援チャットボットとか、法律論文調査チャットボットとかは、自然言語処理とかの手法を使いますね。

MicrosoftのAzureのマーケットプレースというところで、いろいろなサービスがあるのですが、「Academic Knowledge API (preview)」というのがあります。これは、マイクロソフトアカデミックグラフというのを使って知識探索サービスを提供しているそうです。

多分、実際は、このAPIを使って検索して、検索の候補から、検索者の行動をグラフ化して、その結果をフィードバックして、検索の正確性を高めているのでしょうね(実際、使ってみれば、わかるので、わかったら、あとで分析します)

それは、さておき、興味深いのは、このような行動の原理よりも、具体的なサービスの紹介ページのなかで、大きく出ているLegal Noticeの文字です。
具体的には、
マイクロソフトは、マイクロソフトの製品とサービスの改善のために、コグニティブサービスに送信するデータを使用します。 たとえば、コグニティブ・サービスに提供されるコンテンツを使用して、基礎となるアルゴリズムとモデルを絶え間なく改善します。 コグニティブサービスに個人情報を送信する場合、データ主体から十分な同意を得る責任があります。 オンラインサービス規約の一般的なプライバシーとセキュリティの条件は、コグニティブサービスには適用されません。

という「法的注意」が記載されています。(この点については、「MS、プライバシーポリシーに「Cognitive Services」の例外を追記」の記事も参照ください)

要は、この法的注意によるときは、MSのLUIS君(Language Understanding Intelligent Service )に、教育してくれた場合には、その教育の成果は、MSが持っていくからね、ということなのかなあと思います。

もっとも、利用関係については、一般的な約款も準備されていて、いろいろな派生サービスもあるので、教育の成果を自分の占有的な成果として保持しながら、人工知能を使うというのもできるのかもしれません。この点は、さらに調査研究をしなければならない点ですし、現実の人工知能の法的問題のなかで、ふれられていないが、大きな問題の一つのような気がします。

 

 

Line Developer’s Day

Line Developer’s Dayが、今度の28日、渋谷のヒカリエで開催されます。
HPは、こちら

Line Chatbotの開発者としては、ちょっと覗いてこようかとおもっています。

repl-AIは、どうすべきなのか、なんて情報がうまく聞けるといいなあ。

法律用チャットボットの作り方(5) repl-aiでLINEボットに挑戦 その1

6月以降は、ラトビア・エストニア訪問やら、ネット中立性のエントリをまとめたりして、なかなか、チャットボット関係をいじることができなかったのですが、ネット中立性の分析も一段落したので、チャットボットに戻りましょう。

戻るといっても、実際は、5月にいろいろといじっていたものですが、今回は、repl-aiで、LINEチャットボットを構築した経験をメモしていきましょう。

Messengerチャットボットは、Chatfuelというツールで作りました。前にもふれましたが、ボタン式で、どんどん進めていける点、プログラミングをしないで済むというので、本当に、便利なツールでした。

ただ、なんといっても、チャットボットといえば、LINEでしょう。国内アクティブユーザー数が、7000万人以上(?)というほとんどプラットフォーム・アプリになります(独禁法上は、どういう市場画定するんだろ?とか考えているのはさておき)。ところが、Chatfuelは、LINEに対応していません。

プログラミングでもって、Messaging APIでもって、組んでいくのであれば、それはそれでいいのですが、実際にやりたいのは、法律相談を、ダイアログ式の応対に組み込むことなので、どう考えても、単純な仕組みの繰り返しが増えるのは、目に見えているので、ツールを使わざるを得ません。

ちなみに、「LINE BOTを作ろう! Messaging APIを使ったチャットボットの基礎と利用例 」という本を購入して、いろいろと遊ばせていただきました。ちゃんとHerokuも使ったし、ライン公式アカウントを作成して、いろいろとやりとりをできるレベルまでには、持っていきました。
おすすめの本かと思います。

その前に、LINEのアカウントを作成して、APIを利用するのを登録して、設定を行わないといけません。このあたりの設定については、「わずか5分。新LINE Messaging APIでbotを作ってみた手順全公開」と上の本を参照しながら、作成していきました。

ツールの選択が、一番の課題になります。で、具体的に、「チャットボット作成ツールまとめ(国内海外)」などをみながら、LINE対応しているツールを洗い出してみました。

国内だと、repl-ai、hachidori 国外だと reply-ai、smoochくらいしかないようです。

その一方で、
Chatfuel
Botsify
Microsoft Bot Framework
motion.ai
chatbots.io
wit.ai(FBの子会社でしたよね)
gupshup
converse
meya.ai
は、LINEへのエクスポートができません。
Messengerチャットボットを作ったときに、チャットボット(というか、ダイアログの仕組み)については、非常な可能性を感じたのですが、もっとも重要なのは、開発のためのいいツールがあることことと感じました。その意味では、LINEは、位置づけとしては、微妙なのではないのと感じたりする結果ですね。

さて、具体的なツールの評価になります。

hachidoriについては、ドキュメント不足ですので、パスということは前に書きました。

reply-aiですが、

英語サイトでもって、アカウントの作り方を探したのですが、見つかりません。ボットで、アカウントを作りたいけどというと、個人では、アカウントを作るのには、対応していませんと回答してきたので、これまたパスすることにしました。

smoochは、まだ試していません。ということで、日本におけるチャットボット導入ツールの代表的な存在?であるrepl.aiを試してみることにしましょう。詳しくは、次のエントリで。

 

 

 

最後の講義「石黒浩教授」とホモ・デウス

17日は、最後の講義「石黒浩教授」を見て、今日(23日)は、ハラリ教授のホモ・デウスのDVDを見ました。

ちなみにホモ・デウスは、いろいろいなところで話題に登っています。

【さよなら人類】ホモ・サピエンスからホモ・デウスへ – Homo Deus by Yuval Noah Harari
とか、
人類が神にとって代わるとき。次世代の成長産業は人間を神にアップグレードするビジネス
ですね。いままで、聞いていたこと、自分で、ボットを作って感じたこと、などが、整理されつつあるようにおもいます。内容は、両教授ともに基本的に、同じ将来のビジョンを持っているように思えます。自分も、そのようなビジョンを感じつつあるようにおもいます。(今年の11月29日に自分なりのビジョンを公表する予定です)

まさに、マスター・アルゴリズムを構築する側とそれ以外の用なし(useless class)クラスに分かれていくでしょうという話。人類は、何をするのか、ゲームとドラッグで引きこもり化するのでしょうか。

でも、もし、この未来が見えていくのであれば、自分は、何をするべきなのか、センスのある人たちで、そのような未来を作る側に回るべく、一刻の猶予も許されないということになるののでしょうね。

(でも、暑すぎて、ギアが入らないで、南の島にでも避暑にいきたいくらいです?)

 

 

2045 IT Odyssey

ITと社会の話を、できるかぎり分かりやすく説明するというアプローチとして、Star Warsを題材に、Security Warsをつくったのですが、次は、2001年宇宙の旅をもとに、人工知能とサイバーフィジカルシステムの進化において起きる問題をSF映画をとりあげようかと思います。

授業や講演で紹介した映画のリストは、以下のとおりです。

(1)弱いAI対強いAI

イミテーションゲーム

ブレードランナー

(2)自動運転自動車/手術ロボット

ナイトライダー

プロメテウス

Da Vinciは、こちら。

(3)人工知能の主体性

her/世界でひとつの彼女

チャッピー

(4)致死性自律型兵器の法律問題

ターミネイター

(5)シンギュラリティを超えて

2001年 宇宙の旅(スターゲート以降)

で、生徒さんから

マイノリティレポート

未来世紀ブラジル

のおすすめがありました。