読者です 読者をやめる 読者になる 読者になる

一経営者の四方山話

個人的に関心を持っているイシューについて考えたことを書いています。経営、経済、文化、学問など多岐に渡ります。

人工知能考:いかに悪人がAIを使って悪さをさせないかが大切。

先日、人工知能(AI)の勉強会に参加した。私の問題意識は簡単に書くと:
・AIという技術そのものは善でも悪でもない。包丁や核兵器そのものが善でも悪でもないの同じ。使う人によって善にも悪にもなりうる。
・つまりAIを使って悪事をなそうとする人々(ISとかアルカイダとか)がいかにしてAIを使って悪事をなそうとするのを阻止するか、というのが問題だ。
核兵器の場合は、作り方の情報とかは簡単にネット上で入手できる(らしい)が、実際に核兵器をテロリストらが作れないのは、濃縮ウランを入手するのが極めて困難だからだ。
・AIの場合は、何がこの「濃縮ウラン」に相当するものなのか、分かりにくい。
・AIのアルゴリズム自体はおそらく簡単に入手できると思われる。ネット経由で入手できるか、ISがAI研究者を誘拐するか勧誘するかすれば、彼らの頭の中のアルゴリズムを入手することも比較的容易だろう。
・しかし現状入手が難しいのは、AIを実用的なレベルで動かすこと(計算できること)ができるほどのcomputing powerを持つスーパーコンピューターというハードだろう。これはとてつもなく高価だし、輸出規制とか色々厳しい。
・それでもムーアの法則通りに計算能力が高まり続けて行ったら、10年後とかには今のスパコン並みの計算能力がノートパソコンレベルでも可能になっているかもしれない。
・となると、悪人にとってアルゴリズムだけでなくハードウェアも比較的入手が容易になってしまっていると思われる。
・悪人がAIを使って悪さをするのを抑止するには、善人が持つAIが、悪人が持つAIを常に圧倒的に上回るソフトとハードを持ち続ける、ということなのかもしれない。