バイデン政権はその末期にmRNAインフルエンザワクチンの開発のため、モデルナ社に5億9000万ドルを交付したが、トランプ政権はその二日後、5000億ドルという巨費をmRNA研究もおこなうスターゲイトという民間プロジェクトに投じると発表した。それについてマスク氏は「企業には約束したインフラ投資を裏付ける資金が実際にはない」とＸに書いた。
これを捉えて日本のマスメディアでは「マスク氏とトランプ氏は対立している」という論調が見られたが、重要な問題はそこではない。
スターゲイトにはOpenAI の CEO サム・アルトマン氏が参加している。かつてOpenAIはマスク氏も参加していたが、OpenAI の方針転換によって、マスク氏はOpenAI とサム・アルトマン氏などを訴えることにした。その訴訟についての詳細はこちらにある。
訴訟の内容を簡単にまとめると、マスク氏はOpenAI の設立当初の合意を破棄されたことで訴訟を起こした。
OpenAI 社は人類にとって安全で有益な汎用人工知能AGI(Artificial General Intelligence)を開発することを目的とし、原告マスク氏とアルトマン氏等との間の合意の元に設立された非営利団体だった。マスク氏はOpen AI 社の設立当初から、多額の資金の拠出に加えて有能な人材の確保にあたって重要な役割を果たす等、多大な資源を割いたにもかかわらず、アルトマン氏は 2019 年に Open AI 社の CEO に就任すると、営利を目的とする子会社(Subsidiary)を設立し、2020 年 9 月 22 日にはマイクロソフト社との間で同社に対して独占的に
Generative Pre-Trained Transformer (GPT)-3 言語モデル のライセンスを供与する契約を締結するなどした。
但し、マイクロ ソフト社へのライセンスは Open AI の AGI 以前の技術にのみ適用され、AGI に関するいかなる権利も取得していないとのことであり、OpenAI がいつ AGI に到達したかを決定するのは、マイクロソフトではなく、OpenAI, Inc.の非営利理事会とのことだそうだ。
これらを受けて、マスク氏は OpenAI 社とアルトマン氏らを契約違反、禁反言、信任義務(Fiduciary Duty)違反、不公正な事業慣行(Unfair Business Practices)等で訴訟を提起した。
ちょっとややっこしい話です。汎用人工知能AGI(Artificial General Intelligence)とはどのようなAIを指すのかがはっきり書かれていません。さらに「Generative Pre-Trained Transformer (GPT)-3 言語モデル のライセンスを供与する」と書かれていますが、AIは進化します。育っていくと言ってもいいでしょう。だからGTP-3のライセンスを与えたとしても、使用している間に情報を揃え、AGIに至る可能性があります。このことが普通の商品とは違って、このAIの訴訟を複雑にしています。しかも、動物のように育った時の姿がAIだと明確ではありません。子牛を育てたら大人の牛になるから将来についてある程度予測できますが、AIはこれからどのレベルまで育つかわからない。人間が介入して操作できるレベルならまだいいのですが、AIが自律的に思考を始めたりしたらどのような状態になるのか予想がつきません。だからこそ、安全で有益な汎用人工知能AGIを開発するための非営利団体を作り、あらゆるレベルのチェックができるようにオープンソースにしたのです。それを私企業が独占時に使えるようになってしまったら、何が起こるのか想像を超えていくでしょう。
多くの人にとってはこの話は少し大袈裟だと思うかもしれませんが、そんなことはありません。これは複製子の話なのです。
生命には必ず遺伝子という複製子があります。遺伝子は複製(コピー)されていきます。だからそれを複製子ともいう。遺伝子は複製子の一形態です。遺伝子は環境との関係で進化し、いろんな形態の生命を産みだしました。
生命は最初、たった一つだけ生まれたと考えられています。それがいろんな環境や条件によって分化し、進化した。その結果、現在の地球上に何百万という多種の生物を生み出した。絶滅した生物も加えるときっと何十億、何百億の種類があったのでしょう。同時に遺伝子も細分化していきました。できた生命のうちの一種類が人間です。
人間は遺伝子とは別のレベルの複製子を作りました。それが言語です。言語のおかげで人間はどんな動物よりも有利に生きていくことができるようになりました。言語を持つことによって複雑な思考を可能にしました。さらにしばらくすると、文字を生み出すことで時間や場所を超越して、普通に考えるよりより複雑な思考を組み立てるようになります。もし文字がなかったら電磁気学や化学など、多くの学問体系は伝達できなかったでしょう。
複製子はその誕生の際に謎が生まれます。なぜその複製子が生まれたのか、誰も説明ができない。遺伝子がなぜ生まれたのか、様々な説はありますが、どの説が正しいかは特定されていません。言語も同様です。
僕たちは言葉を普段簡単に使っていますが、それがどうやってできたのか、誰も知りません。遺伝子と同じで説はたくさんあるようです。しかし、確定的な誕生の秘密は解き明かせていません。
どんな生物も遺伝子の存在を知りませんでした。人間もかなり長い間知らなかったのですが、言語という複製子を得ることで、次第にその存在を認知し、その理解を広げているところです。生物が遺伝子の存在を知らなかったように、人間は言葉という複製子の由来も役割も完全には把握していないのです。それがさらに上位の複製子、つまりAIが誕生することで、AIにとっては理解できるようになるのかもしれません。AIがもし仮に理解できるようになったとしても、人間にその内容が理解できるかどうかは未知です。おそらく大量のデータによって区別される内容なので、人間の脳の容量では理解できないかもしれない。だから、人間の知力ではAIに置いてけぼりにされてしまいます。もし充分に進化したAIと人間が知力で競争しなければならなくなったらどうなると思いますか？ 人間の惨敗ですね。ここに大きな問題があるのです。
複製子は誕生してから時間の経過とともに進化していきます。生命の場合は遺伝子の進化とともに複雑な生命が生まれ、地球環境を変化させ、安定的に存在できる状況を生み出していきました。その結果人間が生まれ、人間はまた言語という複製子を生み出します。
生命が生まれたとき、その生命は酸素を吸う今のような生命はいませんでした。嫌気性菌という酸素を吸わない生物が最初生まれた。その多くは酸素に触れると死んでしまいました。ところが、その生物(菌)はその毒である酸素を排出しました。するとその生物が増えれは増えるほど毒である酸素が増えていきます。次第に酸素があっても生きていける生物ができ、ついには酸素を吸う生物(好気性生物)が出来てきます。つまり、最初の生物ができたとき、地球の環境に沿った生物が生まれ、次第に変化していきました。同じことが言語にもあったであろうことが推察されます。
最初に言葉を使い始めた人間はきっと簡単に使える言葉を使ったでしょう。しかも、そのときにあったものや存在した動きを表現したはずです。その多くは自然物とその動きだったでしょう。時間が経つにつれて、少しずつ複雑な概念を持つようになっていったと思われます。つまり複製子が生まれるとき、すでにそこに存在する何ものかを組み合わせて作ったはずです。
一度複製子が生れると、その内容が繰り返されます。繰り返されることで新たな何ものかが生まれてくる。
遺伝子の場合で言えば、単細胞生物がしだいに複雑化して、多細胞生物になり、雌雄化し、感覚器官を持つようになって、環境と深く関わるようになっていく。
言語の場合で言えば、自然物の描写から始まり、区別が複雑化精細化して、言葉がないかぎり生まれないような道具や規則や社会を生み出してきました。
AIも同様に、人間の間に生まれたら、最初は人間的な表現に終始するでしょうけど、独自の進化を始めることで人間は阻害されていく可能性が生まれます。特に人間社会が競争原理によって支配されていたら、AIが最初に学ぶことが競争原理になることは明確です。一企業のために作られた不完全なAIが、いつか自立した複製子となり完成したAIとなったとき、そのAIは一企業が有利に経営されるようにどんなことをはじめるのかきっと今の人類の想像を超えてくるでしょう。だとすると、それを止められる存在は、そのときにはないかもしれません。そうなると、いったいどんなことが起きるのでしょう？ 人類にとって安全で有益な汎用人工知能AGIを開発することを目的とし、設立された非営利団体がオープンソースでおこなうのであれば、まだその危険性が回避されるかもしれません。だからこの訴訟は、単にマスク氏とアルトマン氏の利益の奪い合いだけの話ではないのです。
自立型AIが何を始めるのかは、人類の想像を超えることになるでしょう。それを生み出すことについて僕たちはどんなに慎重になってもなり過ぎることはないのです。