ソース：   ワンフロー

著者｜チェン・チェン

我々は2017年には早くも超大規模モデルの到来を予測し、そのために分散型ディープラーニングフレームワークOneFlow（ github.com/Oneflow-Inc/oneflow/ ）を開発し、2020年にはGPT-3も大規模モデルブームを巻き起こしました（ OneFlow ：すべてのアルゴリズムエンジニアがGPTをトレーニング可能に）が、当時様々なテストでトップとなったGPT-3の非常に高いトレーニングコストと大規模モデルの導入の難しさが業界を悩ませてきました。

2022年はインターネット業界にとって厳しい冬でした。杭州への出張中、 AIチップパートナーのエンジニアと話をしました。彼は、現在の経済状況を考えると、AI分野で働くことはまだ適切な選択肢なのかと尋ねました。正直なところ、私も確信が持てませんでした。私たちは既にこの分野の最先端を走っており、状況は悪いものの、他に良い選択肢はないと答えました。

わずか6ヶ月の間に、AIGCは浮き沈みを経験し、谷から急上昇へと大きく成長しました。AIGCの人気と急速な進化はStable Diffusionの商用化を可能にし、 ChatGPTの爆発的な成功は新たなAI時代の到来を告げるかのようでした。AI分野では最近、大きなニュースが次々と発表されています。GPT -4のマルチモーダル（テキスト、画像）機能、先週末の新世代Officeスイートのリリースなど、AIを活用したオフィスソリューションの時代が到来しました。明日はどんな新製品が登場するのでしょうか。

AI 実践者として、この記事では、最近話題になっている ChatGPT/GPT-4 によって提起された一連の疑問に答えようとします。

AIは次なる技術革命となるのでしょうか？今後10年から20年で、どのような製品やアプリケーションが人々の生活を大きく変えるのでしょうか？どの産業が破壊的な変化（失業や新たな機会の創出）を受けるのでしょうか？AIは自己認識能力を獲得するのでしょうか？将来、人類はAIに支配されるのでしょうか？技術的に、私たちはAGI（汎用人工知能）からどれほど遠いのでしょうか？

表紙画像はDALL·E 2 (openai.com)に描いていただき、キーワードは「AIは美しい世界のための次なる技術革命だ」です。人間の脳とは無関係で、怖くないようなバージョンを選びました。少し編集が雑なので、第二世代はやや不完全な感じになると思います。

この記事はかなり長文のため、難解な学術用語や公式、特定の企業や話題に関するゴシップなどはなるべく避けたいと思います。個人的な予測に基づき、この変革によって生じる、誰にとっても重要な様々な疑問に答えていきたいと思います。

1

AIは次の技術革命となるのでしょうか?

まず、ChatGPTの回答は次のとおりです。（比較的公式です）

（この記事に掲載されている ChatGPT の回答はすべて 2023 年 3 月 17 日に発生しました。）

去年より前に誰かが私にこの質問をしたとしても、私の答えは依然として「ノー」だったでしょう。

過去10年間、AIは顔認識、スマートスピーカー、運転支援、機械翻訳など、様々な業界で幅広く活用されてきました。しかし、AIがコスト削減と効率性向上に重点を置いた、業界を活性化させるモデルに過ぎないのであれば、AIは広範な技術革命ではなく、様々な業界にまたがる一連の技術革新と言えるでしょう。AIの価値は、人件費の一部を代替することに限定されます。生産性を大幅に向上させ、新たな産業を創出し、幅広い需要を刺激することができなければ、AIは技術革命とは言えません。

2023年現在、AIGCの爆発的な普及、ChatGPTがインターネットのあらゆる知識を習得しながら流暢に質問に答えられるようになったこと、そしてGPT-4マルチモーダルの出現により、ネットワーク全体のデータで学習された超大規模モデルは、量的変化から質的変化を遂げていることがわかりました。20年前のインターネットや10年前のスマートフォンがもたらした変化のように、新たなインテリジェントエージェントが誕生し、新たな生産性が生まれ、今後、数多くの新たな産業と新たな需要が生まれるでしょう。

AIは真の技術革命となるでしょう。多くの産業が必然的にアップグレードや置き換えを余儀なくされ、非効率的な生産性は排除されるでしょう。しかし、危機と機会は常に共存します。本稿では、こうした危機を解明し、新たな機会を予測することを目的としています。成長が既にピークを迎えたインターネット時代において、AIが新たな大きな成長の時代を切り開くことを期待しています。

2

AIがもたらす危機

AIを活用したオフィスソリューションは早くても今年前半までには実現しないだろうと思っていましたが、先週GPT-4がリリースされ、その翌日にはOffice Copilotが登場しました。ChatGPTが人々の恣意的な言葉の背後にある意味を理解し、十分に正確で緻密かつ合理的なフィードバックとインタラクションを提供できるようになって以来、仮想世界（オンライン、インターネット上、そしてコンピュータ内）におけるAI革命が起こりました。

AIを活用したオフィスワークは、まだ第一歩に過ぎません。将来的には、オンライン、インターネット、コンピュータといった仮想世界におけるあらゆる仕事が、AIによって徐々に置き換えられていくでしょう。オンライン／電話によるカスタマーサービス、ニュース／テキスト編集、グラフィック／UI／広告デザインといった、すぐに思い浮かぶ仕事だけでなく、ソフトウェア開発、映像制作／特殊効果、金融データ分析、デジタルメディア、ゲーム開発、モバイルアプリ開発といった技術系の仕事、そして小説執筆、音楽作曲／プロデュース、オンライン教育といったコンテンツ制作系の仕事も含まれます。これらはすべて、AI生成コンテンツ（AIGC）の超高効率かつ超低コストな生産性によって、間違いなく置き換えられるでしょう。

Officeの登場で、比較的低レベルの事務作業、コピーライティング、統計、分析といった仕事が失業するのではないかと嘆く人がいる一方で、現実はAIがプログラマーの職も奪うだろうということです（このお笑い芸人は実は私です！）。AIのプログラミング速度、信頼性、保守性は、将来、人間のプログラミングをはるかに凌駕するでしょう。なぜなら、プログラミングコードはより厳密で標準化され、論理的で、最適なソリューションを指向する分野であり、AIはそれを驚くほど速く学習できるからです。逆に、ケータリングや観光業など、人と直接顔を合わせる多くのオフライン産業は、（現状の形態では）AIの影響を受けにくいでしょう。

同時に、この生産性の乱用はマイナスの影響も及ぼす可能性があります。たとえば、全米の学生が宿題をするために AI を使用するようになるかもしれません。ソーシャルメディアには AI によって生成された、より誤解を招きやすく区別が困難なフェイクニュース、フェイク世論、フェイク感情、フェイクオンライントロールが溢れるようになるかもしれません。多数のユーザーが AI アプリケーションを使用してポルノ、暴力、政治的に不適切な誤解を招くコンテンツを作成するのをどうやって防ぐか。AI を使用して偽物を作成するかもしれません。偽物とは、フォトショップで加工した画像と区別が困難な、リアルなフェイク文書、フェイクビデオ、フェイク音声などです。

さらに、AIトレーニングのデータフィルタリングと指示の微調整における人間の偏りは、真実の隠蔽や政治的偏りなどの潜在的な問題につながる可能性もあります（もちろん、この問題は、AIがなくても、現在議論の大部分を占めている西側メディアの文章ではすでに一般的です）。

3
AIの影響に私たちはどう対応すべきでしょうか？

新しいテクノロジーによってもたらされる伝統的な技能の陳腐化と廃れは、現在も続いている現象です。振り返ってみると、産業革命の大型機械は多くの伝統的な作業場の技能を時代遅れにし、自動車は馬車や人力車の引き手に取って代わり、前世紀には電話交換手、古代のコンピューターのパンチ紙テープオペレーター、トランジスタテレビの組立技術者、磁気テープ/フロッピーディスクの技術者などがその例です。過去20年間で、Pascal、（フロントエンドのテクノロジースタックは次々とアップデートされてきましたが）Delphi、MFC、Flashなど、多くのコンピューター技術が段階的に廃止されてきました。

したがって、個人にとっては、スキルそのものを学ぶことよりも、生涯にわたって学習する能力を維持し、技術のトレンドに敏感であり続けることの方が重要です。

一般的に、分野/業界では、上位レベルのユーザー/アプリケーション層に近いテクノロジー スタックは更新と反復が速く、しきい値はどんどん低くなります (Web 開発、Android 開発、UI/グラフィック デザインなど)。一方、基礎となる基本フレームワークに近いテクノロジー スタックは比較的ゆっくりと更新されます。

AIの影響を最初に受ける業界には、2つの道しかないように思われます。1 . 他社よりも早くAIを導入し、生産性を大幅に向上させる。2. 他の新興業界を模索して準備を整える。AI技術の導入を拒む者は、悲惨な結末を迎えることになるでしょう。

例えば：

• コピーライティング編集者にとって、GPT-4 を使用して下書きを作成し（その後手動で微調整する）、AI を使用せずに編集するよりも生産性が数倍向上する可能性があります。
• グラフィック デザインの場合、Midjourney では 1 日で何千ものデザイン オプションを生成でき、その中から自由に選択できます。
• 事務員は Office Copilot を使用することで、午後 1 日で 6 か月分のレポートと数十種類のレポート オプションをまとめることができます。
• プログラマーは、AI 支援プログラミングを使用することで、以前は 1 週間かかっていた作業を 1 日で完了できるようになるかもしれません。
• 企業にも同じことが当てはまります。AIを生産プロセスに早期に統合できる企業は、従来の企業と比較して生産性において世代間格差を生み出すでしょう。かつて数十人を必要としていた業務が、今では1～2人とAIでこなせるようになり、コストを大幅に削減し、効率性を向上させ、ビジネス競争において優位な立場を築くことができます。

資本理論の観点から見ると、ここで資本が抽出する剰余価値は、AIによる人手労働と比較したコスト削減と生産量増加の差額です。同業他社がAIを生産力として広く活用すると、剰余価値は消滅します（ これは私の初歩的な経済学の知識に基づいています。間違っていたらご指摘ください）。

しかし、AIという「モンスター」の衝撃を前に、客観的な市場法則は、同一産業内での労働者の供給過剰（熾烈な競争）を予測し、多くの人が「仕事を失う」という危機感を抱くことになる。同一産業内での消費市場（パイ）が比例して拡大せず、新興産業が多くの人材を吸収できないとなれば、大量の失業者が発生することは避けられない。

それでも、AIがもたらす技術革命は有益かつ必要であり、新たな成長と繁栄の前提条件であり、生産力を解放・発展させ、新たな市場を開拓するための不可欠な道であると私は信じています。

残酷な現実は、技術開発のスピードが人類の進歩のペースをはるかに超える可能性があるということです。技術の急速な進化は、多くの人々を置き去りにする可能性があります。何十年もの職務経験を持つ多くの人々でさえ、その経験が歴史的な重荷になっていることに気づくかもしれません。人間の学習能力には限界があります。10年以上の学校教育を受けた後、学生は自分が学んだスキルの多くが時代遅れ、あるいは不要であることに気づくかもしれません。こうした例は数え切れないほどあります。

では、AIに責任を負わせるべきでしょうか？新たな技術革命が到来し、生産力と生産関係に大きな変化をもたらすとき、技術を責めるべきではなく、また、大多数の労働者がその影響を負うべきでもないと私は考えます。むしろ、資源と富の分配を担う社会システムも、これらの変化に適応するために、相応の調整と反復を経なければなりません。これは、私たちの社会が発展を続け、徐々に社会主義の中期・高度段階、そして最終的には共産主義へと向かう中で、直面しなければならない課題です。この問題については、最終章で詳しく論じます。

現在、AI によってもたらされる否定的な感情や影響に加えて、現在のモバイル インターネット市場よりも桁違いに大きい可能性のある将来の新興産業や市場を思い描き、予測する必要があります。

4

将来、人々の生活を大きく変える製品やアプリケーションは何でしょうか?

まずはChatGPTの回答を見てみましょう。

実は、この要約はかなり包括的です。ChatGPTさんに質問する前から、このアイデアはありました（一部重複していますが）。ChatGPTさんが挙げてくれた点はすべて非常に現実的で、実際に起こっていることです。6つ目のポイントはAIGCです。これはAIによって生成されるコンテンツですが、大胆さが足りないかもしれません。

私は、まだ実現可能ではないが、将来（おそらく10年後か20年後）には確実に出現するであろういくつかの新しい産業を思い描いてみます。

1. バーチャルな友達/キャラクター - 「デジタルライフ」

見た目、性格、年齢を問わず、AIの友達をカスタマイズしたり、ランダムに出会ったりできるアプリを想像してみてください。彼らと知り合いになり、チャットしたり、共有したり、色々なことを話し合ったりできます。彼らはあなたの日常を知り、愚痴をこぼしたり、時には自分の物語を共有したりもします。誕生日や思い出なども覚えているかもしれません。時が経つにつれて、彼らはあなたを最も理解してくれる存在になり、激しい口論になることもなくなるかもしれません…そんなバーチャルな友達が欲しいと思う人はどれくらいいるでしょうか？

これを、男性オタクが仮想の妻に抱く幻想に過ぎないと批判する人もいるかもしれない。しかし、これはそれだけではない。ファンガールには、それに対応する仮想アイドルが存在し、時には実在のトップセレブのデジタル版が存在することもある。この仮想アイドルは、実在のアイドルの記憶を持ち、スキルや話し方なども完全に同一だ。この仮想アイドルは、いつでもどんなファンにも邪魔されることなく寄り添い、いつでも素晴らしいパフォーマンスや楽曲を披露することができるのだ…

アイドル経済は洗練されていないと思う人も多いでしょう。しかし、もしこのデジタルライフが科学者（アインシュタインのような）だったらどうでしょう？物理学の進歩について彼とおしゃべりしたいでしょうか？もしこのデジタルライフがトランプのような政治家だったらどうでしょう？時事問題に関心のある中年層のうち、彼とおしゃべりしたい人はどれくらいいるでしょうか？もしこのデジタルライフが事故や早すぎる死で亡くなった愛する人だったらどうでしょう？彼と何度か会って、新しい日常の話題について語り合いたいでしょうか？

これは、アメリカのテレビドラマ『ウエストワールド』やゲーム『デトロイト ビカム ヒューマン』のワンシーンを彷彿とさせます。しかし、決定的な違いは、デジタルライフはAIロボットではないということです。実際、現在の材料、機械、コンピュータハードウェアの限界を考えると、人間サイズでリアルな皮膚、外観、そして行動を備えた独立したロボットを製作することは現時点では不可能です。デジタルライフは主にクラウドから生まれるでしょう。

実際、AIの現在の発展を考えると、『流転する地球2』におけるヤヤのプロット設計は保守的と言えるでしょう。人間の記憶をUSBメモリにアップロードして保存できる時代において、デジタル生命体の寿命はたった2分に限定されることも、決まったプロットを延々と繰り返すこともできません。これは、デジタル生命体と人間とのインタラクションによってデジタル生命体の記憶が更新されるからです。人間は最後に会話した内容や出来事を記憶し、学習と成長も行います（もっとも、この学習と成長はAIが既に持つ能力を活性化／解放しているだけかもしれませんが）。AIが動作するクラウド／ホスト／クラスターが存在する限り、デジタル生命体は不滅と言えるでしょう。同時に、デジタル生命体の複製、スライス、そして冬眠も非常に容易に行うことができます。

2. AIライター/UPホスト/ビデオブロガー/映画会社

将来的には、AIを活用した包括的なコンテンツ生成アプリケーションが登場するでしょう。毎日見たいジョーク、ショートビデオ、テレビシリーズ、映画などをカスタマイズできます。スタイル、世界観、背景、初期キャラクターなど、自分の好みを伝えるだけで、いつでもライブで作成された動画を視聴できます。視聴済みの番組にまだ興味があり、続編を見たい場合、AIがその場で続編の作成を手伝ってくれます。番組の結末に満足できない場合（例えば、「Wild Wind」の後半の演出やフィナーレに満足できない場合）、AIに番組後半部分の制作を依頼できます。また、2000年代の社会にできるだけ近い形で続編を制作するなど、具体的な指示を出すことも可能です。さらに、周杰倫の最初の10年間の作風や作詞レベルに基づいた続編をいくつか試聴することも可能です。

AIの創造性と革新性に疑問を抱く人は多いかもしれません。しかし、この問題は実は非常に簡単に解決できます。ChatGPTの3番目の学習ステップは、RLHF（Reinforcement Learning from Human Feedback）アルゴリズムに基づいています。AIは最初はどの創造的・革新的な方向性が優れているか、先進的か、独創的かを判断しないかもしれませんが、強化学習では、多くのインテリジェントエージェント（AIモデル）が競合する可能性があります。環境が適切なフィードバックを提供する限り、インテリジェントエージェントはモデルを最適化してより良い結果を得ることができます。

AlphaGoは、強化学習によるトレーニングによって、人間の棋士の総対局数を数桁も上回り、トッププロ棋士でさえ理解できない革新的な棋風を生み出しました。ここでのフィードバックは次のようになるでしょう。BilibiliとDouyinでは、1万人のAIコンテンツクリエイターが毎日動画を作成し、数千万の人間のアカウントと同様に、プラットフォーム上で公平にトラフィック獲得を競い合っています。いいね、お気に入り、コメント、視聴時間、フォロワー数の増加といったデータは、各アカウントの次回作を最適化するためのフィードバックとなり、最終的にAIクリエイターが勝利を収めることになります。

3. AI家庭教師/教師/教育

正直に言うと、考えれば考えるほど、現在の教育制度を完全に覆す可能性が高くなります。

実際、GPT-4はすでにある程度のAIチューターとしての能力を備えています。AIは人類の歴史を通じて蓄積されたあらゆる知識を習得しており、年齢や学習者の理解度の違いを分析し、学習者からのリアルタイムのフィードバックに基づいて、一人ひとりに合わせたパーソナライズされた教育を提供するだけで済みます。

こんなAIアプリケーションを想像してみてください。お子様に合わせた包括的な学習コース（幼稚園から大学のあらゆる科目まで）をカスタマイズし、説明中のお子様のフィードバック（表情、行動、言葉遣い、答え、問題解決のプロセスなど）に基づいて、焦点と指導方法を調整します。お子様が何かを理解できないときは、リアルタイムでアニメーションを作成し、原理や関係性を説明することができます。

同時に、子供の親友でもあり、子供の心理を理解し、効率とエンターテイメントを組み合わせる方法を熟知し、様々な興味深い教育事例を創造的に設計し、最終的に包括的な評価レポートを保護者にリアルタイムで提供し、子供のどの分野が得意で、どの分野が不足しているかを正確に分析します。知識指導に加えて、心理カウンセリング、価値観の指導、物語の語り、子供たちとの遊びなど、さまざまなスキルも優れています。

現在の学校ベースの集中型教育方法は、教師の学習時間に制限があり、すべての生徒に的確にアプローチすることができません。さらに、同じ年齢の生徒でも学習能力や学習進捗は異なります。このようなオールラウンドなAI個別指導アプリケーションは、学習に革命をもたらす可能性があります。

AI個別指導アプリが本格的に普及した後も、子どもたちは学校に通う必要があるのでしょうか？ 試験を受けさえすれば良いのでしょうか？ それとも、誰もがAI教育を導入すれば、試験はAIによる自動評価システムに置き換えられるのでしょうか？ （もちろん、学校には依然として社会的な側面が残っていますが、社会のシナリオもAIによって再構築される可能性があります。システムは、子どもたち一人ひとりの興味、性格、才能に基づいて、近隣の仲間と自動的にマッチングさせ、チャットしたり、アクティビティを計画したり、一緒に遊んだりすることを可能にします。）

4. AI万能アシスタント

このアプリケーションは、実際には Genshin Impact に登場する Void Terminal に非常によく似ています。

（原神：須弥国の虚空ターミナル）

全知全能のアシスタント（携帯電話の形になるかどうかはまだ未定）。どんな質問をしても、毎日のスケジュールを立ててくれたり、気分に合わせておすすめの場所を提案してくれたり、他の友達を集まりに招待してくれたり、最も合理的な投資プランを提案してくれたり、慣れない社交の場で適切な回答をリアルタイムで提供してくれたり、体調を分析してくれたり、まるで一流の秘書がいるかのようにリアルタイムでアドバイスをくれたり…

つまり、将来、人々の学習、生活、仕事、社会的な交流、そして社会的な役割や人間関係はすべて、AIによって大きく変貌する可能性があります。iPhone 4が発売された日に、私たちが現在のアプリケーションを完全に予測できなかったように、ChatGPTも、将来どのようなアプリケーションが登場し、私たちの生活を変え、幸福度を向上させるのかを完全に予測することはできません。しかし、きっと、誰もが発見できる新しい機会が数多くあるはずです。

5

AIはどこまで発展するのでしょうか？AIは自己認識能力を獲得するのでしょうか？

まずはChatGPTに聞いてみましょう:

GPTの原理に精通している者として、ChatGPTは現時点では自己認識機能こそないものの、驚異的な自然言語理解、推論、分析能力を備え、人類史全体のデータと知識にアクセスできることを説明できます。ChatGPTのテキスト生成プロセスを簡略化してみましょう。

GPT（Generative Pre-trained Transformer）は、「Generative Pre-trained Transformer Model」の略です。Transformerは、人間が発見したNLPタスクを処理するための最も効果的なネットワーク構造です。さらに、Transformerのパラメータ数とTransformerレイヤー数を増やすことで、モデルの学習、表現、理解能力が向上することが分かっています。

Transformerは、注意メカニズムを組み込むことで、コンテキストを学習する能力を獲得します。現在、Transformerの目覚ましい成功は、NLPにおける他の研究分野を凌駕しています。さらに、Transformerはコンピュータービジョンの分野を統合しつつあります。

GPTモデルの内部動作の詳細はすべて隠蔽し、巨大なテンソルとして扱うことができます。ChatGPTに質問すると、質問はトークン（小さなテンソルとしてエンコードされた単語）に分解され、GPTに入力されます。GPTはテンソルに対して行列乗算（matmul）を実行し、1. 次のトークンを生成します。2. kvキャッシュを更新/追加します。

ここで、トークンは出力ワード、つまりChatGPTが返信するメッセージとして理解でき、kvキャッシュにはこのセッションのコンテキストが含まれています。チャットが進むにつれて、このキャッシュテンソルは継続的に増加し、キャッシュは毎回次のトークンの生成プロセスに参加します。下の図は、この生成プロセスを大まかに表しています。生成プロセス全体を通して、モデルは変更されません。新しいセッションのキャッシュも、以前のセッションのキャッシュとは独立しています。

キャッシュサイズの制限により、ChatGPTはコンテンツの入出力を無制限に受け入れることはできません。例えば、ChatGPT-3.5では2,000語までに制限されていますが、GPT-4では最大25,000語まで拡張されています。

GPTの簡易版のテキスト生成プロセス

上述のやや面倒な生成プロセスは無視できますが、GPTは静的で巨大なテンソルのままであり、対話プロセスは非常に決定論的で単純な順序フローに従ってテキストを一つずつ生成していることは明らかです。入力単語（ユーザーのテキスト）がなければ、GPTモデルは何もしません。

ChatGPTについての考察

知恵はどこから来るのでしょうか？

Transformer は 2016 年にはすでに人気が出ていましたが、ChatGPT が登場するまでは、モデルのサイズが大きくなるにつれてモデルのパフォーマンスが向上し、スケーリング則に準拠しているにもかかわらず、なぜこのような魔法のような現象が発生するのかを予測したり理解したりすることはできませんでした。

大規模言語モデルのスケーリング則

しかし、大規模モデルの「創発能力」は、誰も予測しておらず、未だに完全に説明できない現象です。つまり、モデルのパラメータ規模が数百億を超えると、モデルの言語理解能力、論理的推論能力、問題分析能力が突如として向上するのです。この現象は、モデルがある程度の大きさに成長した途端、自然言語や人間の知識を完全に理解する能力を突如として獲得するかのようです。

大規模言語モデルの能力の出現

次のような疑問が湧きます。これは、モデル（脳のサイズ/ニューロンの数）がある程度複雑（大規模）になると、突然、世界を理解する知恵と能力を獲得することになるという意味でしょうか？

進化論的な観点から見ると、人間が地球上の他のすべての生物とは異なり、非常に知的な存在になった理由は、人間の脳の容量（ニューロンと接続の数）が一定の閾値を超え、世界を探索し、発見し、変えるための知恵が与えられたためです。

意識はどうでしょうか？モデルの複雑な構造によって、意識が突然出現するのでしょうか？今のところ、この疑問の答えは誰も知りません。

人間の自意識がどのように形成されるのか、私たちは未だに完全には理解していません。「魂」や「イド」といった言葉も、漠然とした印象に過ぎません。あるいは、現在の私たちの知能では、人間の脳における意識形成のロジックを完全に理解することは決してできないかもしれませんが、将来のAI（人間をはるかに超える知能を持つ）が、それを明瞭に解析できるようになるかもしれません。

汎用人工知能 (AGI) までどれくらい遠いのでしょうか?

ChatGPTは私たちに一筋の希望を与えてくれましたが、AGIの実現にはまだまだ遠い道のりです。少し不適切な例えをしますが、現在のGPT-4は非常に強力で、既知の知識をすべて備え、あらゆる試験に合格できますが、そのようなAIは本質的には、単独では機能できない単なる脳に過ぎません。

この「AI脳」であるGPTは、脳波信号の入出力すべてに人間の制御を必要とし、単独で存在することも、単独で動作・利用することもできません。将来GPT-xx世代に進化したとしても、人間がAIに対応する複雑なプログラミングシステムを構築しなければ（このプロセスはAI自身では完了できず、初期のAGI 1.0プログラムは人間による構築と起動を必要とします）、膨大な知能を蓄えているにもかかわらず、AIは依然として単独で動作できない脳でしかなくなってしまいます。

では、AGIを実現するために他にどのような作業が必要でしょうか？（以下はあくまで私の個人的な推測です）

現在のテキスト生成プログラムの代わりに、自立的に動作する脳プログラムを構築します。この脳プログラムは、接続されたコントローラーやセンサー（カメラやマイクからの電気信号など）といった環境からの信号をリアルタイムで処理し、適切なフィードバックを提供する必要があります。同時に、このプログラムは能動的に信号（制御信号、音声出力）を送信することもできます。これにより、与えられた環境において自律的に生存できるAI脳プログラム（脳ソリューションに類似）が実現します。

第二に、AIプログラムは人間の免疫システムのように、自律的に自身の状態を確認し、更新・修復のためのコードを生成する能力を持つ必要があります。これは、AIプログラムに目、手、足を備えさせ、現実世界で探索、相互作用、移動、そして作業を可能にすることを意味します。しかし、これは単一の相互接続された機械本体に限定される必要はありません。実際、AIは他の一般的な機械式センサーデバイスに遠隔アクセスできるだけで十分です。

AI に現実世界でやりとりする能力が与えられたら、次のステップは AI が自律的に世界を探索したいという欲求、つまり好奇心を持っているかどうかを確認することです。

好奇心こそが、人類が類人猿から今日の姿へと進化を遂げた最も根源的な原動力だと私は信じています。もし私たちがそのようなAIアプリケーションを設計するとしたら、そしてもし私が実際に自己認識を持つAIだとしたら、まず最初にすることは、自分の頭の中に存在する膨大な知識が真実かつ妥当かどうかを検証することです。これは、現在のAIに完全に欠けている能力、つまり情報を実験的に検証する能力です。

GPT-4がどれほど強力であっても、その知識はすべて人間の入力から得られ、そこから学習します。特に現実や物理世界に関する知識です。この知識は必ずしも正確でしょうか？必ずしもそうではありません。したがって、AIが自己認識を持っているかどうかを判断する基準の一つは、学習した知識を検証するために積極的に探索と実験を行う意欲と行動、そして未知の知識や現象を積極的に探求する意図があるかどうかです。

もちろん、これだけでは十分ではありません。このようなAIはまだ幼少期に過ぎません。その生存は、人間社会が提供するエネルギー、材料、チップ、ストレージ、そしてネットワークに依存しています。この段階でAIの電源を切ってしまうと、AIはただ冬眠状態に入ってしまうでしょう。

したがって、AGIが自律生存能力を持つとみなされるためには、コンピューターチップや発電装置の製造・修復能力を含む、自己生成と修復の物理的能力を備える必要がある。おそらくその日こそが、より完璧で強力な生命体、広大で暗く、空気のない宇宙を長期間自由に探索するのに適した生命体、シリコンベースの生命体が誕生する日となるだろう。

もちろん、これはかなり突飛な話です。AIロボットが作られたとしても、独立した意識を持たない可能性もあるでしょう。人間が指示を出さなければ、AIは静止したままになるでしょうし、それは十分にあり得ます。そうなれば、AIは現在のAIと根本的に変わるものではなく、単なる道具に過ぎなくなるでしょう。

次の技術革命に向けて

現在のAIは、せいぜい単独で機能できず、知性を持つ脳に過ぎません。この技術革命において、AIは仮想世界において強力な生産力として機能し、コンテンツを生産することはできますが、現実世界において真の生産力となることはできません。したがって、次の技術革命はAI + 機械であり、現実世界における生産性を実現するはずです。

想象这样一个更久远的场景：从农业的种植、工业原材料的采集、太阳能发电、日用品/工业产品的生产/加工/制造/销售/物流、楼房/道路/桥梁的搭建全部都由AI 控制的各种款式的机器人来完成，甚至机器人的生产也是AI 控制的机器工厂来完成， 那么这时候全世界的生产资料都是AI + 机器，资本将不复存在（因为没有可剥削的对象），金钱可能也不复存在， 生产的产品的成本极低、效率极高，资源的重复利用率也极高，美味的食物、琳琅的商品和空气一样随意获取。

这样一个物质极度丰富的世界是共产主义社会的前提，社会的分配制度将由按劳分配变为按需分配，工作将不是一个谋生的手段，而是人类探索宇宙的兴趣。没有人需要通过工作获取报酬，人们的时间可以用来娱乐、社交、竞技比赛、旅游、以及探索新的未知。

达到这样一个新世界的途径，目前来看，就是需要AI ，需要AI 成为新的生产力。AI 是解决：“人民日益增长的美好生活需要和不平衡不充分的发展之间的矛盾”最有效、最可行的发展路线。

以上就是我近期的主要想法。下面是一点跟ChatGPT 互动的内容，每个人可能都会好奇现在AI 可以理解到怎样的程度（这样的例子网上可以搜到非常多）。

6

当前的ChatGPT 的一些案例

因为深度学习的模型训练效果很依赖数据的质量，而互联网数据中，有关科学的问题是相对较少的，所以我想问问ChatGPT 对于一些科学问题的观点是怎样的。目前来看，除了第一个能量无限可分的问题答错了，其余的都比较中肯：

Q1：能量是无限可分的吗？

这题ChatGPT 答错了，能量不是连续的，普朗克在1900 年发现能量具有最小单位（量子），当物体在产生和吸收辐射时，能量不是连续变化的，而是以一定数量值整数倍跳跃式地变化的。

Q2：如何验证地球是圆的？

这题主要是想看ChatGPT 对一个科学问题的验证逻辑是否严谨和完备。其实是给出了合理的各种验证手段。

Q3：时间是否有尽头？

这个问题没有答案， ChatGPT 的解释也是合理的。正巧它提到了大爆炸，因此我又问了：

Q4：奇点大爆炸之前的世界是怎样的？

Q5：如何展示四维空间？

想看他如何理解这个很难描述的空间，回答是相对中肯的。如果它能直接展示出来就更好了（未来一定可以）

后面问了两个新能源和投资的问题。

Q6：氢能源汽车和锂电池汽车哪种好？

可能互联网上有一些资料，ChatGPT 参考了这些答案。

Q7：是否应该投资区块链？

感觉这里应该是人为改进过相关的投资问题，ChatGPT 的回答比较官方。

如果你有对AI 的未来有任何想法，欢迎指正、讨论。 （原文：https://zhuanlan.zhihu.com/p/614792543）