アルゴリズム

algorithm
計算手続き

アルゴリズムとは、計算し、問題を解決し、決定に至るまでに利用できる手順のことを言う。
"AI"は、人間が与えたアルゴリズムに従って情報を処理し、分析結果に基づき行動を導き出す。

問題にしたいのは、"big data"の解析が事実上"AI"にしかできないということになれば、"AI"が下した決定に責任を持つのは誰か、ということだ。

アルゴリズムを考え、"AI"を設計したのは人間なのだから、責任をとるのは人間に決まっている、というのは正論である。
しかし、人間が"AI"に与えたのは、外部の情報の取り込み方と学習に必要な「相互作用して発達できる疑似神経回路網（ニューラルネットワークとディープラーニング）」だけであって、多量の情報から特徴を見つけ出し、分類し、判断するのは"AI"自身であって、人間が教えたものではない、となればどうしますか？

アルゴリズムに拘れば、所詮人間の脳だってそれなりのアルゴリズムで状況を認識し、分析し、問題を抽出し、行動の決定を行っている（はずだ）。
そして、人間の判断で行ったことには、当然人間が責任を取ってきた。

"AI"に判断のアルゴリズムを与えたのは確かに人間であるが、そのアルゴリズムは、人間の脳を模したとはいえ、数理工学が導き出した理論を用いて、大量のデータを認識し、その個々のデータから「共通の特徴量を導き出す」という特性を利用したため、データが膨大になるに伴い、中間の過程を人間が知ることが（必然的に）無理となる。
（なぜなら、人間がそれをやっていたら、"AI"に大量のデータ処理をやらせている意味そのものがなくなる。）

人間が"AI"のやったことに責任を取れないと投げ出すということは、これは「人間と"AI"は対等である」と言ったも同然だ。
だって、"AI"自身に責任を取ってもらえと言っているに等しいから。

"AI"が分析したことを実際に実行するか否かは人間が判断すればいい、と開き直ってはいけない。
「自動運転」技術は、もう実用化に入りかけている。（判断すら"AI"に任せようとしているのだよ。）

過去、人間は、人間の行ったことの正否を判断するために「法」を作った。
万引きから、戦争責任に至るまで、人間のすることには白黒付けてきた。
同じように、"AI"のやったことは、"AI"に責任を取ってもらえばよいのだろうか？

"AI"のやることが理解できない人間に、"AI"を裁く「法」は作れるのか、作ってもいいのか、その「法」が、人間や"AI"の間違いに対する抑止力になり得るのか？

困ったもんだなぁ。。。　では済まない事態がもう目の前にあるのである。