AIツールは目もくらむような結果を生むが、本当に「知性」を持っているのか？

ChatGPTメーカーのOpenAIの最高経営責任者であるSam Altman氏は、人工知能（AI）システムを動かすために世界が必要と考える大量のコンピューターチップを製造するために、最大7兆米ドルの投資を見つけようとしていると報じられている。Altman氏はまた最近、彼が思い描くAIが飽和状態になる未来では、世界はより多くのエネルギーを必要とするだろう、核融合のようなある種の技術的ブレークスルーが必要になるかもしれないほど、と語ってもいる。

Altman氏は明らかに自社の技術に大きな計画を持っているが、AIの未来は本当にバラ色なのだろうか？長年 “人工知能”を研究してきた者として、私は疑問を抱いている。

今日のAIシステム、特にChatGPTのような生成型AIツールは、真の知性ではない。しかも、根本的な働き方を変えない限り、そうなれるという証拠もない。

AIとは何か？

AIの定義のひとつは、「一般的に知的生物に関連するタスクを実行できる」コンピューターシステムである。

他の多くの定義と同様、この定義も少し曖昧である。かつて人間の高度な作業であったはずの計算を実行できる表計算ソフトをAIと呼ぶべきか？人間に取って代わるだけでなく、多くの場合、複雑で繊細な作業をこなす能力において人間を凌駕している工場ロボットはどうだろうか？

表計算ソフトやロボットは、かつて人間の領域であったことを実際に行うことができるが、それはアルゴリズム、つまりタスクに取り組み、それをやり遂げるためのプロセスや一連のルールに従って行う。

ひとつ言えることは、人間のようにさまざまな知的行動を実行できるシステムという意味での「AI」は存在しないということだ。むしろ、まったく異なることができるさまざまなAI技術が存在する。

意思決定とアウトプットの生成

おそらく最も重要な違いは、「判別型AI」と「生成型AI」の違いだろう。

判別型AIは、銀行が中小企業に融資すべきかどうか、あるいは医者が患者を病気Xと病気Yのどちらと診断するかといった意思決定を支援する。この種のAI技術は何十年も前から存在し、より大きく優れたものが常に登場している。

一方、生成AIシステム（ChatGPT、Midjourney、およびその関連システム）は、入力に応答して出力を生成する。要するに、彼らは何十億ものデータ（文章など）に触れており、それを使ってプロンプトに対する可能性の高い反応を推測する。ソースデータによっては、その回答が「真実」であることも多いが、保証はない。

生成AIにとって、「幻覚」（システムによって作り出された偽の回答）と、人間が真実と判断する回答との間に違いはない。これは、Transformerと呼ばれるニューラルネットワークの一種を使用するこの技術固有の欠陥のようだ。

AIだが知的ではない

もうひとつの例は、「AI」のゴールポストが常に動いていることを示している。1980年代、私は、検査結果について専門的な医療アドバイスを提供するために設計されたコンピューター・システムに携わっていた。このシステムは、臨床で使用されている最初の4つの医療「エキスパート・システム」の1つとして米国の研究文献に記載され、1986年にはオーストラリア政府の報告書に、オーストラリアで開発された最も成功したエキスパート・システムとして紹介された。

私はこのことを誇りに思っていた。それはAIの画期的な成果であり、通常は高度な訓練を受けた医療専門家を必要とするタスクを実行した。しかし、このシステムはまったく知的ではなかった。検査結果を高レベルの診断や患者管理のアドバイスにマッチングさせるルックアップテーブルのようなものだったのだ。

現在では、このようなシステムを非常に簡単に構築できる技術が開発され、世界中で何千ものシステムが使用されている。(この技術は、私と同僚の研究に基づいており、Beamtree というオーストラリアの会社が提供している)

高度な訓練を受けた専門家が行うタスクをこなすという点では、それらは確かに「AI」だが、それでもまだまったく知的ではない（より複雑なものでは、答えを調べるためのルールを何千何万と持っているかもしれないが）。

生成的AIシステムで使われるTransformerネットワークは、数百万から数十億のルールがあるかもしれないが、それでもルールのセットで動いており、人間の言葉で簡単に説明することはできない。

本当の知性とは何か？

もしアルゴリズムが知的でなくてもChatGPTのような目を見張るような結果を生み出せるとしたら、本当の知性とは何だろうか？

私たちは、知性とは洞察力であると言えるかもしれない。アルキメデスが風呂から飛び上がって「ユーレカ」と叫んだのは、浮力の原理を洞察したからだ。

生成AIには洞察力はない。ChatGPTは、ある質問に対する答えがGeminiよりも優れているかどうかを伝えることはできない（Geminiは最近までBardとして知られていたが、OpenAIのGPTファミリーのAIツールに対するGoogleの競合である）。

別の言い方をすれば、生成AIはClaude Monetの作風のような素晴らしい絵を描くかもしれないが、ルネサンス美術の訓練しか受けていなければ、印象派を発明することはできないだろう。

生成AIは並外れたものであり、人々は間違いなく広く、非常に価値のある使い方を見つけるだろう。すでに、情報の変換や提示（発見ではない）のための非常に便利なツールが提供されており、仕様をコードに変換するツールはすでに日常的に使われている。

これらはますます良くなっていくだろう：例えば、GoogleがリリースしたばかりのGeminiは、検索を使い、検索結果を再表現することで、幻覚の問題を最小限に抑えようとしているようだ。

とはいえ、生成AIシステムに慣れ親しむにつれ、それが真の知性ではないこと、洞察力がないことがよりはっきりとわかるようになるだろう。それはマジックではなく、非常に巧妙なマジシャンのトリックであり、人間の並外れた創意工夫の産物であるアルゴリズムなのだ。

本記事は、Paul Compton氏によって執筆され、The Conversationに掲載された記事「AI tools produce dazzling results – but do they really have ‘intelligence’?」について、Creative Commonsのライセンスおよび執筆者の翻訳許諾の下、翻訳・転載しています。