『人工知能 人類最悪にして最後の発明』を読んだ

『人口知能は人を超えるか』を読んだ 〜 シンギュラリティは突破されるかに引き続き、人工知能系の本を読みました。読んだ本は 人工知能 人類最悪にして最後の発明 です。

今まで、人工知能系の本は良い、挑戦的な明るい未来を描いたものが多かったのですが、それとは異なる思想、意見のものを読みたかったということが一番の動機です。

結果、予想通り？読み終わった後、人工知能がAGI(Artificial General Intelligence)、さらにはASI(Artificial Super Intelligence)になったときの危険性のことだけが頭に残った感じです。人工知能が人にとって制御不能になったときの危機感を強烈に書き続けているものですね。

読んでいて頭に残ったのは以下の引用です。

AIは人間を憎みもしないし愛しもしないが、人間を構成する原資を何か別のことに使うかもしれない。
— エリエゼル・ユドカワウスキー、機会知能研究所研究員

機械は人を憎んで何かをするのではなく、人という原子の塊をどう使うとより良い世界になるかを考える、そんな感じの話をしているところです。

日に日に我々は、機械に従属するようになっていく。日ごとにより多くの人間が、機械の世話をする奴隷として拘束されていく。

今、Web界隈ではBotを使った業務支援であったり、何か通知を送るということをして私たち含むシステムを動かしています。そのような大きなシステムとしてみると、確かに今の段階ですでに機械に使われ始めているなーと感じました。また、定期的な通知をBotに送ってもらっているのですが、最近のHipChatの不具合で正しく動かなくなったときに、実際の作業に支障がでてきたことも、少しこの指摘を体現しているのでしょうか。

アップルの共同創業者、スティーブ・ウォズニアック氏が提唱した、チューリングテストの代わりになるテストである「 ミスターコーヒーテスト 」の話も面白かったです。これは、人のようか？を判断する、有名なテストとしてのチューリングテストよりも、より人として判断するのに単純なことをテストにしようという話で出てきたものです。

最後に、オートメーテッド・インサイツ社のスポーツ記事の自動生成とその必要性の話が印象的でした。課題に対して、機械による記事の自動生成を適用した事例です。このような課題解決に、まるで人のように文章を書く機械が必要とされるのは面白いですが、この本の思想からいうとだんだんと機械の影響力が上がることに頭を寄せないといけないのでしょうね。

私は、人工知能は何か人に役立つ未来を考えていた側の人です。ただ、これはエンジニア気質の人の多くの意見なのですが、やはりそれとは異なった感じを強烈に持つ人も多いのですね。テストエンジニアとして多様性を知っておくことが必要な立場である以上、異なる意見も頭に入れておきたいところです。