人工知能は人の命を奪うか - ランダムなメモランダム

　ビッグデータと歩調を合わせ、人工知能が脚光を浴び出した。別な言い方をすれば、キューブリックの『2001年宇宙の旅（2001: A Space Odyssey）』的な時代はもうすぐやってくる。
　ご承知のように、この映画では、木星探査のため、HALは搭乗員のかわりに宇宙船ディスカバリー号を操縦し、システム全体をコントロー＆故障診断し、搭乗員の生命維持するだけでなく、チェスの相手も会話も務める。こうしたHAL的な人工知能はあと数年で生活に無くてはならないものとなりそうだ。
　事実、会話するロボットや自動運転などで社会にでる機会が増えてきた。
　音声認識ヒューマン・インタフェースを持つ人工知能が専門家の仕事を奪うかどうかの議論は始まっている。病気の診断や薬剤の処方などの高度で複雑な知識を人工知能に任せる日も遠くはない。
　そうした専門家筋の仕事は人工知能にまかせて、セカンド・オピニオンにするのでいいだろう。
　別に反対する筋合いはない。
　しかしながら、公道を走る自動運転はかなりヤバイと自分は確信している。
　あの映画ではHALが人間に反抗しついには宇宙船を乗っ取る。セキュリティ上の問題ではない。HAL自身が内部ロジックが原因で搭乗員が不必要であり、自己防衛のために抹殺する方策を実施したというストーリーになっている。

　それは極端であるにせよ、自動運転は高度な判断を要する場合に故障（フォールト）が発生することを考えてみよう。
　その状況とは、故障が生じて学生の列に突っ込むか、電柱に激突させて自己犠牲を選ぶ局面である。
学生５人と運転者１名としておく。
　「５人と１人の命の比較」などは人工知能ごときには出来はしない。人工知能には道徳的判断など出来はしない。どのようなソフトウェア工学でも価値判断能力を実装する手順は説いていない。
　極端なベンサム的功利主義者でも計算できるだけのアルゴリズムを提示できるかどうか、怪しいものだ。

　「そんなケースは稀だ。考えるのも馬鹿らしい」という反論も聞こえてくる。
　しかし、公道を走る自動運転車が数千万台という桁になれば、自ずと希少な状況での故障が年に何回も起きうるのだ。
　マイケル・サンデルの『白熱授業』はグーグルカーの巨大な歯止めになるんじゃないだろうか。それでも自動運転への研究開発は止まらないだろうけどね。

　『HAL伝説』で人工知能の未来はあらかた示されたか。
この書籍では「自分自身の故障を正しく診断できない複雑なシステムの、エラーの一例」と解釈している。映画の解釈については自分は違う考えをもつ。
高信頼性計算システムについての考察は技術倫理の観点でも参考になる。