イスラエルの歴史家で哲学者のユヴァル・ノア・ハラリ氏は、人工知能の台頭は近い将来、人間と競合したり、人間に取って代わったりする可能性のある新しい種の出現に相当すると警告した。同氏はウォール・ストリート・ジャーナルのCEOサミットで、AIはツールではなく独立した意思決定能力を持つエージェントであり、人類は数万年ぶりの真の競争相手に直面していると語った。
『人類の歴史』の著者、ユヴァル・ノア・ハラリ氏はサミットで、人類は知性の優位性を頼りに、アフリカの片隅の取るに足らない類人猿から地球とその生態系の絶対的な支配者へと発展してきたと指摘した。同氏は「現在、私たちは非常に短期間で私たちと競合する可能性のあるものを生み出している」と強調した。 AI はこれまでの人間の発明とは異なり、独立した決定を下し、新しい概念を発明し、自ら学習して変化することができます。彼は、印刷機や原子爆弾などの伝統的なツールは人間の操作を必要とすると信じていました。印刷機は本を書いたり、何を印刷するかを決めたりすることができず、原子爆弾はより強力な兵器を発明したり、攻撃対象を選択したりすることはできませんでした。対照的に、AI兵器は攻撃対象を自律的に決定し、次世代の兵器を設計することができます。
ハラリ氏は最新著書「Nexus」の中で、人間から学ぶAIを赤ちゃんに例えている。彼は、権力のあるリーダーには大きな責任があると信じており、「善意のAIに嘘や欺瞞を教え込むことは期待できない」と指摘している。 AIは指示ではなく人間の行動を模倣し、権力者が嘘をついているのを観察すると、AIはその行動を真似します。ハラリ氏は2つの大きな問題を指摘している。1つ目は、AIは自ら学習し変化する能力によって定義されるが、設計者は起こりうるすべての動作を予測することはできないということ。 2 番目に、AI は子供のように独立したエージェントであり、どれだけ教育を施しても、驚くべきことや恐ろしいことさえ行う可能性があります。
AIがビジネスに与える影響について議論する際、ハラリ氏は1835年のロンドン鉄道会議を例えとして使いました。当時、鉄道は開通してからわずか 5 年しか経っておらず、出席者は産業革命の影響に疑問を抱いていましたが、最終的に鉄道は世界を完全に変えました。金融は純粋に情報の分野であり、AIの方が習得しやすいため、金融業界が最初に大きな変化を経験するだろうと彼は予測している。
ハラリ氏は「役に立たない階級」が出現する可能性について警告したが、AIには大きな前向きな可能性があることを強調した。彼はこう述べた。「同じ技術が全く異なる社会形態を生み出すことができる。20世紀には、我々は同じ技術を使って共産主義の全体主義体制と自由民主主義体制を築いたのだ。」鍵となるのは技術をいかに開発し、展開するかだが、主要企業や各国は現在、軍拡競争に巻き込まれている。ペースを落としてセキュリティ研究に投資すべきだとわかっていても、競合他社に追い抜かれるのではないかと心配しているのです。
複数の AI が競合することについての聴衆の質問に答えて、ハラリ氏は、将来的には異なる特性を持つ AI エージェントが数百万、あるいは数十億も存在するようになるだろうと指摘しました。同氏はこれを「人類史上最大の社会実験」と表現したが、何百万ものAIが互いに競争する経験を人類がしたことがなかったため、結果がどうなるかは誰にも分からなかった。
ハラリ氏はAI革命を移民の波に例え、「デジタル移民」という概念を提唱した。同氏は、移民が仕事を奪ったり、文化を変えたり、政治権力を獲得する可能性を人々が心配していると指摘し、AI移民も同じような特徴を持つものの、ビザを必要とせず光の速さで到着するだろうと述べた。彼は特に、欧州の極右政党に対し、国家主権と経済・文化の将来を本当に大切にするのであれば、人間の移民よりもデジタル移民をもっと心配すべきだと指摘した。