|
侯宇著 編集者：羅青 2023年は大規模モデル開発の元年と言えるでしょう。2月には、革新的な企業OpenAIとそのChatGPTが一夜にして注目を集めました。その後も、テクノロジー企業による大規模モデルが次々と登場し始めました。 一般的に、インダストリー1.0は蒸気機関時代、インダストリー2.0は電化時代、インダストリー3.0は情報化時代、そしてインダストリー4.0は情報技術を用いて産業変革を推進する時代とされています。大型モデルの出現は、テクノロジー業界全体を4.0プロ時代へと押し進めています。この新たなテクノロジー時代の到来は、実体企業が大型モデル技術を積極的に導入し、設計、販売、サービスのインテリジェント化を推進し、生産、運営、管理の効率を向上させています。 その結果、当初はコンピューティング能力と規模に重点を置いていた大規模コンピューティングは、徐々に細分化、垂直化、専門化が進んできました。クラウドベンダーも、大規模コンピューティングの利用コストを削減し、物理技術との統合を強化することで、コスト管理を維持しながら効率性を高めようと努めています。 先日開催された世界人工知能会議（WAIC2023）は、再び大手企業が自社の強みを披露し、業界への洞察を披露する場となりました。大手企業やビッグモデルのプロモーターがそれぞれの見解を共有しました。以下は、会議におけるスピーチの一部です。 テンセントクラウドおよびスマートインダストリーグループCEOの唐道勝氏：テンセントのデジタル人材は130以上の業界に「参加」しています。 実際、汎用ビッグモデルは強力ですが、必ずしも企業の多くの具体的な問題を解決できるとは限りません。ビッグモデルは産業シナリオにおいて真に信頼性が高く、使用可能なのでしょうか？企業のデータの所有権とプライバシーはどのように保護できるのでしょうか？ビッグモデルの利用コストはどのように削減できるのでしょうか？これらはすべて、企業が検討すべき実用的な課題です。 大規模な業界モデルをベースに独自のカスタムモデルを構築することは、企業にとってより良い選択肢となるかもしれません。同時に、ビジネスと市場の絶え間なく変化するニーズに対応するために、効率的な専門ツールを活用してモデルを継続的に最適化し、反復的に改良していくことが不可欠です。 汎用ビッグモデルの全体的な技術レベルは継続的に向上していますが、焦点が定まっていません。汎用ビッグモデルは100のシナリオにおける問題の70%～80%を解決できますが、特定のエンタープライズシナリオのニーズを100%満たすことはできない可能性があります。 各企業は、専門知識とデータでトレーニングされた大規模な業界モデルを微調整することで独自の「カスタムモデル」を構築し、より効率的に使用可能なインテリジェントサービスを作成できます。 実際、過去5年間で、人工知能（AI）技術と製品は様々な業界に浸透しています。例えば、テンセントのAI人材は130以上の業界に「参加」し、金融カスタマーサービス担当者やバーチャルアンカーなどの「AI人材」として活躍し、ユーザーにパーソナライズされたサービスを提供しています。 Tencent Cloud TIプラットフォーム上に構築された業界モデルキュレーションストアは、金融、文化・観光、政府関係、ヘルスケア、メディア、教育など、10の主要業界にわたる50以上のソリューションを提供しています。これらのケイパビリティモデルに基づき、パートナーは独自のシナリオデータを追加するだけで、独自の「カスタマイズモデル」を迅速に生成できます。 Baidu CTO 王海鋒氏：文心ビッグモデル 3.5 により、知識ポイントがより具体的かつ詳細になります。 百度の最高技術責任者である王海鋒氏は、百度の文心ビッグモデルが文心ビッグモデル3.5にアップグレードされたと述べました。このモデルでは、基本モデルのアップグレード、微調整技術の革新、知識ポイントの強化、論理的推論の強化が実現しました。モデルの性能は50%向上し、トレーニング速度は2倍、推論速度は30倍向上しました。 王海鋒氏によると、文心ビッグモデル3.5は、基本的なモデルトレーニングにおいて、 PaddlePaddle適応型ハイブリッド並列トレーニング技術とハイブリッド高精度計算戦略を採用し、複数の戦略を用いてデータソースとデータ配分を最適化することで、モデルの反復速度を加速し、モデル性能とセキュリティを大幅に向上させたという。同時に、多段式多段階教師ありファインチューニング、多階層多粒度報酬モデル、マルチ損失関数ハイブリッド最適化戦略、デュアルフライホイール複合モデル最適化などの技術革新も実現し、モデル性能とシーン適応性をさらに向上させている。 文心ビッグモデル3.5は、知識強化と検索強化を基盤として、「知識ポイント強化技術」を導入しました。これは、ユーザーが入力したクエリや質問を分析・理解し、より具体的で詳細かつ専門的な知識ポイントをビッグモデルに注入することで、世界知識の習得と応用を大幅に向上させます。さらに、文心ビッグモデル3.5にはプラグインメカニズムが追加されており、文心易燕はすでに百度検索とChatFile向けの公式プラグインをリリースしています。 クアルコムのホウ・ジレイ氏：フルスタックAIの革新と最適化によりアプリケーションの展開を加速 クアルコムのグローバルバイスプレジデント兼クアルコムAIリサーチ責任者であるホウ・ジレイ氏は、次のように説明しています。「コスト面では、生成AIは通常、膨大な数のパラメータを必要とします。エッジに導入することで、コストを大幅に削減できます。AIデジタルアシスタントに関しては、携帯電話、コックピット、PCなどの利用シナリオにおいて、エッジAIはプライバシーとパーソナライゼーションのニーズに効果的に対応できます。」 侯継雷氏によると、クアルコムは10年以上前からAIの研究開発に着手しており、その主要な研究分野の一つは高性能AIである。同社はハードウェア、アルゴリズム、ソフトウェアなどの分野で広範な研究とイノベーションを行ってきた。 高性能ハードウェアに関しては、クアルコムはモバイルプラットフォームにおいてCPU、GPU、NPUといった様々なユニットを最適化し、AIがタスクごとに適切なコンピューティングモジュールを選択できるようにしています。侯吉雷氏は、これがクアルコムのエッジAIの非常に重要な特徴だと考えています。アルゴリズムレベルでは、クアルコムは数々の独自の研究成果を持つトップクラスのディープニューラルネットワークアルゴリズムチームを擁しています。ソフトウェア面では、ディープラーニングに特化したソフトウェアアクセラレーションランタイムやSDK／開発フレームワークを通じて、顧客と開発者の両方に優れたサポートを提供しています。 「そのため、クアルコムのAI研究における非常に重要な原則は、フルスタックAIのイノベーションと最適化です。レイヤー間のモデル、ハードウェア、ソフトウェアのイノベーションを通じてAIアプリケーションを加速させることは、エコシステムの発展をリードする上で不可欠です。最終的には、この技術がビジネスチームに提供され、導入プロセスから得られる成果が将来の研究に影響を与え、好循環を生み出します」と侯継雷氏は述べています。 Hou Jilei氏によると、Qualcommの高性能AI研究の重要な部分は、全体的なモデル効率の研究であり、ハードウェア上で効率的に実行できるようにAIモデルのサイズを複数の方向で削減することを目指しています。 たとえば、量子化では必要な精度を維持しながらビット精度を下げることを学習します。条件付き計算では、入力に基づいて大規模なモデルグラフの一部のコンポーネントのみを実行することを学習します。ニューラル ネットワーク アーキテクチャの検索では、実際のハードウェア上で手動で設計されたアーキテクチャに匹敵するかそれを上回る、より小さなニューラル ネットワークを設計することを学習します。コンパイルでは、AI モデルをコンパイルして効率的なハードウェア実行を実現することを学習します。 クアルコムは量子化の分野において、学術研究と業界における実用化を牽引してきました。安定拡散やChatGPTといった、最終的にはエッジ実装が必要となる技術にとって、量子化は極めて重要な手法です。また、高性能推論においては、整数小数点演算が極めて重要な方向性です。クアルコムは、トップクラスの学術会議での論文発表や、オープンソースツールキットAIMETへの定期的な貢献など、この分野における関連する学術研究を積極的に推進しています。AI研究の先導と迅速な商用化を通じて、業界を整数推論と高効率AIへと導いていきます」と侯継雷氏は述べています。 イーロン・マスク：ロボット主導の生産効率は人間のそれをはるかに上回ります。 将来、人工知能は人類の世界で極めて重要な役割を果たし、文明に深遠な影響を与えるでしょう。同時に、私たちはデジタルコンピューティング能力の爆発的な成長を目の当たりにしており、特に考慮すべき重要な指標の一つは、デジタルコンピューティング、機械コンピューティング能力、そして生物コンピューティング能力の比率、すなわち比例関係です。 具体的には、人間が実行できる計算タスクの複雑さ、コンピュータや機械が処理できる計算タスクの強度、そしてコンピュータの計算能力と人間の計算能力の比率を考慮する必要があります。この比率は時間の経過とともに増加し続けており、機械と生物の間の計算能力の差はさらに広がっていることを意味します。 したがって、近い将来、人工知能が知能全体の中で果たす役割は徐々に低下し、機械知能と比較して根本的かつ広範囲にわたる変革を象徴することになるだろう。この変革の影響の全容を現時点で把握することは困難だが、これが人類史上最も重要な時期の一つとなることは間違いない。 テスラのオプティマスロボットはまだ開発の初期段階にあります。しかし、将来的にはロボットが大量に登場してくるでしょう。そのため、ロボットと人間の比率はどうあるべきかという、比率の問題を早急に検討する必要があります。 現在の傾向から判断すると、いずれロボットの数が人間の人口を上回ると予想されます。さらに、ロボットの計算能力は人間のそれをはるかに上回っているようで、これは将来的な傾向として考えられます。 この傾向は、プラスの影響とマイナスの影響の両方をもたらすでしょう。プラスの影響は、資源不足のない時代が到来することです。それは、欲しいものは何でも容易に手に入る、豊かな時代です。未来の世界では、ロボットの数が膨大になり、その生産性は人間中心の生産をはるかに上回り、大きな変化を象徴しています。したがって、最終的な結果が人類にとって有益なものとなるよう、私たちは慎重に進めなければなりません。 深層・包括的な人工知能にも注意が必要です。限定的なAIと汎用人工知能（AGI）は全く異なるものです。AGIを正確に定義することは困難ですが、あらゆる分野において人間よりもはるかに知能の高いAIの一種です。この深層AIが人類に脅威を与えないよう、規制当局による監督が必要です。 ファーウェイ輪番会長胡厚坤氏：「人工知能の発展の鍵は『より深く、より実用的になること』だ」 ファーウェイにとって、次の段階は人工知能の深化と実用化を全面的に推進することです。この目標を達成するために、私たちは2つの主要な取り組みを進めています。1つ目は、中国の人工知能産業の発展を支える強力なコンピューティング基盤を構築すること。2つ目は、汎用的な大規模モデルから業界固有の大規模モデルへと移行し、人工知能が真にあらゆる生活分野と科学研究に役立つようにすることです。 コンピューティング能力は人工知能の発展の基盤です。しかしながら、中国の現状では、コンピューティング能力は入手性とコストの両面で大きな課題に直面しています。皆様の努力により、コンピューティング能力が人工知能の発展のボトルネックとならなくなることを願っています。 エコシステムはコンピューティング業界の持続的な発展に不可欠であり、しばしばボトルネックとなります。過去4年間、業界全体のパートナーの共同の努力により、コンピューティング業界の包括的なエコシステムが初期段階から構築されてきました。 私たちは、コンピューティング能力に注力すると同時に、人工知能を様々な産業に真に統合し、科学研究に貢献することを目指しています。そのためには、堅固な基盤を築き、汎用大規模モデルの機能を継続的に向上させる必要があると考えています。同時に、この基盤に基づいて、業界固有の知識と経験を大規模モデルの機能と完全に統合した業界特化型モデルを構築し、最終的にはより専門的で正確なソリューションをお客様に提供していく必要があります。 AI for Science が科学者や科学従事者に新たなアイデア、方法、ツールをもたらし、業界に新たな刺激を与えることを願っています。 |
