新知源報道 【Zhiyuan新情報】最近、ChatGPTに対抗するための世界的な取り組みが開始され、業界リーダー、EU諸国、そしてホワイトハウスが行動を起こしています。しかし、懸念されるのは、GPT-4がひそかに自己進化能力を獲得しているということです。GPT-5 の脅威は大きく迫っています。 GPT-4 の誕生以来、AI が人間社会に及ぼす破壊的な影響は、すでに多くの業界リーダーを不安にさせています。 最近、世界中でChatGPTが取り締まられているようです。 マスク氏、チューリング賞受賞者のベンジオ氏、その他の著名人らが、高度なAIの研究開発の停止を求めて出した公開書簡には、現在9,000以上の署名が集まっている。 これに続き、米国の非営利団体である人工知能・デジタル政策センター（CAIDP）も連邦取引委員会（FTC）に対し、OpenAIが消費者保護規則に違反したかどうかを調査し、GPT-4のさらなるリリースを禁止するよう要請した。 一方、イタリアはChatGPTを全国的に禁止し、OpenAIにわずか20日間の調整と適応期間を与えました。OpenAIが満足のいく解決策を見つけられなかった場合、最大2,000万ユーロの罰金を科せられることになります。 ChatGPTに対する取り締まりは世界中に広がっています。 フランスとアイルランドのプライバシー規制当局はイタリアの当局に連絡を取り、調査に関する詳細を求めている。 ドイツ連邦データ保護コミッショナーのウルリッヒ・ケルバー氏は「原則としてドイツも同様の手続きを採用できる」と述べた。 さらに、EUはChatGPTを高リスクAIシステムとして規制する法案草案も提案している。 ロイター通信によると、バイデン大統領は大統領科学技術諮問委員会（PCAST）の会合で、「私の見解では、テクノロジー企業は製品を一般に公開する前にその安全性を確保する責任がある」と強調した。 AIが危険かどうかとの質問に対し、同氏は「まだ分からないが、可能性はある」と答えた。 バイデン氏は、強力なテクノロジーが保護措置なしに引き起こす危害はすでにソーシャルメディア上で明らかであると述べた。 「安全策が不足しているため、テクノロジーは人々の精神的健康に影響を及ぼし、自己イメージに関して劣等感や絶望感を抱かせている。この影響は特に若者の間で顕著だ」 彼は、テクノロジー企業が収集する個人データを制限し、10代の若者をターゲットにした広告を禁止し、製品開発において健康と安全を優先する超党派のプライバシー法案を議会が可決するよう、改めて求めた。 このニュースを受けて、バイデン氏の会談前にAI企業の株価はすべて急落した。 ChatGPTコンセプト銘柄であるC3.aiの株価は下落を続け、26.34%安の24.95ドルで取引を終えた。時価総額は28億ドルで、株式公開以来最大の日中下落となった。 これに先立ち、マイクロソフトがOpenAIとの数十億ドル規模の提携を発表して以来、AI分野の多くの企業と同様に、C3.aiは最近ウォール街で最もホットな企業の1つとなり、株価は今年130％以上上昇している。 ゲイツ氏：AIの研究開発を停止しても「課題は解決しない」。
彼は続けて、「特定のグループに仕事を休むよう要請しても、課題が解決するとは思えません。もちろん、こうした取り組みには大きなメリットがあります。…私たちがすべきことは、困難な点を特定することです」と述べた。 ゲイツ氏は人工知能の熱烈な支持者だ。 共同公開書簡を発表する前日の3月21日、ゲイツ氏は「人工知能の時代が始まった」と題したブログ記事を公開した。 世界で最も深刻な不平等の一部を軽減するために人工知能を活用すべきだと述べている。 彼は自身のブログで、「AI時代が始まった。AI革命は携帯電話やインターネットの誕生に劣らず重要だ。これらは私が生きている間に起きた唯一の革命的な技術進歩だ」と述べ、人工知能を称賛した。 マイクロソフトはこれまでにOpenAIに数十億ドルを投資してきました。OpenAIは、Microsoft Bing、Edge、Microsoft 365などの製品向けのAIテクノロジーを構築しています。 ゲイツ氏はインタビューで、AI開発を一時停止することの実現可能性に疑問を呈し、それがどのように実現できるのかを知りたいと述べた。 「いかなる一時停止も、実行は複雑で困難です。『停止』とは誰のことを指しているのか、世界中のすべての国が停止に同意するかどうか、そしてなぜ停止すべきなのか、私にはよくわかりません。この分野には様々な意見があります。」 GPT-4 は「自己反省」を学習し、パフォーマンスが 30% 向上します。 今日の AI は自ら進化することを学んでいるからです。 GPT-4 が自ら改善しているという証拠があります。 少し前に、元 Google Brain 研究エンジニアの Eric Jang 氏が、驚くべきことを発見しました。GPT-4 は、自身の作業を合理的な方法で批判できるのです。
テスラの元 AI ディレクターで OpenAI の研究科学者でもある Andrej Karpathy 氏でさえ、これは GPT-4 の潜在能力がまだ十分に発揮されていないことを示す素晴らしい例だと賞賛しました。 マイクロソフトの研究者 Eric Jang 氏が挙げた例では、GPT-4 では「押韻のない」詩を書くことができないとツイートしています。 しかし、GPT-4にタスクを完了したかどうかを再度尋ねると、謝罪し、韻を踏んでいない詩を生成しました。ほぼ完璧でした。 これは、GPT-4 に「反映」する能力があることを正確に確認しています。 最近、ノースイースタン大学やMITなどの研究者がReflectionを提案しました。この手法は、インテリジェントエージェントに動的な記憶と自己を振り返る能力を与えます。 論文リンク: https://arxiv.org/abs/2303.11366 この方法の有効性を検証するために、研究者らは、AlfWorld 環境での意思決定タスクを実行するエージェントの能力と、HotPotQA 環境での知識集約型、検索ベースの質問応答タスクを実行するエージェントの能力を評価しました。 これら 2 つのタスクの成功率はそれぞれ 97% と 51% でした。 Reflection Agentの全体アーキテクチャ あるネットユーザーは、GPT-4 に「なぜ間違っていたのか」を考えさせ、結果が正しくなるまでエラーの原因を考慮した新しいプロンプトを生成することで、GPT-4 のパフォーマンスを驚異的な 30% 向上させることができると示唆しました。 さらに、論文では、モデルのコード記述能力をテストする際に、Reflexion + GPT-4 が通常の GPT-4 を大幅に上回るパフォーマンスを発揮することも指摘しています。 この観点から、エリック・ジャンが言ったように、 巧妙な「プレフィックスヒントエンジニアリング」の代わりに、「サフィックスヒントエンジニアリング」のアプローチを検討できるようになりました。これにより、LLMは以前に生成されたソリューションの修正や矛盾を発見しやすくなります。 GPT-4が自己改善を通じて賢くなる能力については、あるネットユーザーが動画で要約しました。 ChatGPTに「手」が成長しました GPT-4が反射能力を持ち、脳を持っているとしたら、それだけでも十分に恐ろしい。しかし今、ChatGPTには「手」も備わっており、ツールだけでなくモデルも使えるようになった。 ChatGPTが「プラグイン」機能を開始する前に、Metaの研究者は2月にToolformerと呼ばれる新しい論文を発表しました。これはChatGPTの「弱点」を直接的にターゲットにし、大規模な言語モデルが独自にツールを使用するように学習できるようにしました。 論文リンク: https://arxiv.org/abs/2302.04761 Meta のアプローチに従うと、ChatGPT のような大規模な言語モデルは、不足している情報を補うことができます。 例えば、数学が苦手なら電卓を使えばいいし、最新の情報が必要であれば検索エンジンに接続して自分で検索すればいいし、翻訳したい内容だけを送ることもできます。 この論文は発表されるとすぐに話題となり、多くの AI 研究者は、この論文が新たな思考の道を開き、大規模言語モデルが将来あらゆるものの出発点となることを可能にすると述べています。 同様に、浙江大学とマイクロソフトアジア研究所による最近の論文「Jarvis」HuggingGPTも業界で大きな注目を集めています。 論文リンク: https://arxiv.org/abs/2303.17580 論文では、研究者らは、ChatGPTをコントローラーとして使用してHuggingFaceコミュニティ内のさまざまなAIモデルを接続し、マルチモーダルタスクなどのさまざまな複雑なタスクを完了するHuggingGPTを提案しました。 一部のネットユーザーは、最初の汎用人工知能（AGI）が予想よりも早く登場するのではないかと強い疑念を表明している。AGIは、特定のAIと実用的なツールを巧みに結びつける「接着剤」AIに依存することになるだろう。 自動コード作成 最近、開発者が、GPT-4 がコードを自動生成できるようにする Auto-GPT というプロジェクトを作成しました。 コードの実行も可能です。その後の改良により、Auto-GPTはGPT-4を使用してコードを記述し、Pythonスクリプトを実行できるようになりました。これにより、再帰的にデバッグ、開発、自己改善を行うことができます。 Auto-GPT により、GPT-4 の強力な機能に対する理解が深まり、ネットユーザーの中にはそれに関するミームを作成する人もいます。 Andrej Karpathy氏は、プロンプティングエンジニアリングの次のフロンティアは「AutoGPT」だと述べています。GPT呼び出しはコンピュータ上の命令のようなもので、プログラム内で連鎖させることができます。プロンプティングは、I/Oデバイスとツールの仕様の定義、認知ループの定義、コンテキスト内でのデータ入出力のページング、そして実行に使用されます。 ネットユーザー：シンギュラリティが到来した 一部のネットユーザーは、これが基本的に特異点の定義であると述べています。 自己改善が可能な AI に必要なのは、モデルのコードを変更し、AI 自身でトレーニングできるようにすることです (インターネットを閲覧し、すべてのコンテンツを AI 自身でラベル付けすることによって)。 ネットユーザーの中には、テクノロジーの急速な進歩によって私たちは後戻りできない地点に到達したと考える者さえいる。2025年までに、世界は良くも悪くも、地球を揺るがすような変化を経験するだろう。 間違いから学ぶことは知性の基礎です。 GPT-4 は自分自身を打ち負かし、スーパー AI になろうとしているようです。 |
