汎用人工知能（Artificial General Intelligence: AGI）とは、人間ができるあらゆるタスク、あるいはそれ以上のタスクを実行できるAIシステムを指す言葉だ。AGIの実現は、まさに「シンギュラリティ」の訪れであり、人類の未来に大きな影響を与える可能性があるため、AIの分野では最も野心的な目標の1つであり、議論を呼んでいる。ChatGPTを開発したOpenAIは、最近、AGIの作成と管理のため、同社がどう考えているのか、課題をどのように引き出していくかを示すブログ記事を発表している。

OpenAIの望むAGIは、「人類が宇宙を最大限に繁栄させるための力を与える」ものとのことだ。AGIには、誤用や事故、さらには社会の混乱など、潜在的なリスクや不確実性が存在する可能性がある。これに対処するため、OpenAIは、短期的なことを意図して、AGIに関する作業の指針となる一連の原則を提案している。曰く、

• 実世界にあまり強力でないAIシステムを配備し、そこから学び、経験とフィードバックを得ること。
• AIの利益とガバナンスへのアクセスを民主化する。
• AIシステムが人間の価値観や好みに沿って行動するための新しいアライメント技術の開発。
• AIの使用と規制に関する幅広い範囲に合意するための世界の制度を強化する。
• AIの進歩に関する情報を一般市民と共有し、多様なステークホルダーから意見を求める。

AGIの発展が人類にどのような影響を与えるかを形成する要因は、他にもあることは確かだ。これらの要素には、タイムライン（AGIを作るのにかかる時間）、離陸速度（AGIが自己改良する速度）、調整（AGI開発において異なる主体がどれだけ協力または競争するか）、安全性（AGIが人間の目標とどれだけ整合するか）などが含まれる。OpenAIは、タイムラインを短くし、離陸速度を遅くすることで、政府、企業、一般市民が学習、適応、調整を行い、徐々に何が起こっているかを理解し、技術の長所と短所の両方を経験する時間を増やすことができると述べている。

とはいえ、OpenAIは、物事は予測不可能であり、特にAGIが主流となった後、将来起こりうる問題に対するすべての答えや解決策を同社自身が持っているわけではないという事実についても警告を発している。同社は、長期的には、これらのシステムをどのように管理するか、その利益をどのように公正に分配するか、アクセスをどのように公正に共有するかについての会話が必要であると期待している。

また、OpenAIは、会社の体制とミッションがどのように一致しているかについても強調した。AGI開発の理念と目標を憲章に掲げている。また、株主が得られる利益には上限があり、実際には非営利の理事会がその活動を監督している。理事会は、営利目的の利益が会社のミッションと相反する場合、それを無効化することも出来るとしている。

Source

• OpenAI: Planning for AGI and beyond