HUOXIU

ChatGPTは、すべての企業がアクセスできるAPIを正式にリリースしました。

サンフランシスコを拠点とするスタートアップ企業OpenAIが開発したチャットボット「ChatGPT」は、爆発的な人気を博しています。昨年12月時点で、月間アクティブユーザー数は推定1億人に達し、日常生活に人工知能(AI)をもたらしました。今年に入ってからも、ChatGPTに関するニュースは絶え間なく報じられており、Distributed Labsも一連のレポートを発表しています。
しかし、企業にとって収益性は生死に関わる問題です。まず2月2日、OpenAIは月額20ドルのプレミアム会員サービス「ChatGPT Plus」を開始しました。加入者は無料版よりも安定して高速なサービスを受けられるほか、新機能や最適化を優先的に試用できます。
そして先週、B2Bユーザー向けにモデルインスタンスの販売を開始しました。価格は年間26万4000ドルから。本日、OpenAIはさらに一歩踏み出し、APIを正式に公開しました。これにより、あらゆる企業がChatGPTテクノロジーを自社のアプリケーション、ウェブサイト、製品、サービスに統合できるようになります。価格も1000トークンあたり0.002ドルと非常に手頃で、GPT-3.5モデルの10分の1に相当します。
現時点では、そのビジネスモデルは基本的に明確です。一般エンドユーザーにはPlusメンバーシップを通じて課金し、中小企業にはAPIを通じて、そして中堅・大企業にはモデルインスタンスを通じてサービスを提供しています。ロジックは明確で、次のステップはGPTモデルをオープンソース化することだと聞いています。

#01

詳細情報


オープンAPIは常に私たちの計画の一部でした」とOpenAIの社長兼会長であるグレッグ・ブロックマン氏は、ChatGPT APIのリリースに先立ち昨日の午後ビデオ通話でメディアに語った。
ブロックマン氏は、ChatGPT APIは、OpenAIの人気ChatGPTを支えるAIモデル「gpt-3.5-turbo」を搭載していると述べた。GPT-3.5は現在、OpenAIのAPIスイートを通じて利用できる最も強力なテキスト生成モデルである。「turbo」はGPT-3.5の最適化された高速バージョンを指し、OpenAIはChatGPT向けにひそかにテストを行ってきた。
ブロックマン氏は、このAPIは「非チャット」アプリケーションを含む幅広いエクスペリエンスを強化できると主張しています。Snap、Quizlet、Instacart、Shopifyなどが早期導入企業です。APIの価格は現在、1,000トークンあたり0.002ドルです。OpenAIの公式サイトによると、トークンは非構造化単語として理解され、1,000トークンはおよそ750語に相当します。この価格は、現在のGPT 3.5モデルよりも90%安価です。
「gpt-3.5-turboを開発する当初の動機は、ChatGPTの高い計算コストを削減することだったのかもしれません。」OpenAIのCEO、サム・アルトマン氏はかつて、ChatGPTのオーバーヘッドは「非常に高く」、チャット1回あたり数セントと推定される計算コストがあると述べた。
ブロックマン氏は、gpt-3.5-turbo には他の分野でも改善が見られると述べました。

#02

応用事例

「AIを活用したチューターを構築する場合、生徒にただ一つの答えしか与えないようなチューターは望ましくありません。常に説明を行い、学習をサポートしてくれることが求められます。これはAPIを用いて構築できるシステムの一例です」とブロックマン氏は述べた。「これにより、APIがより利用しやすく、より使いやすくなると考えています。」
ChatGPT APIは、様々なアプリケーションをサポートする強力なツールです。例えば、パーソナライズされたショッピングレコメンデーションアシスタント(Shopifyなど)の構築や、チャットボット(My AIやSnapchat+の最新ボットなど)の作成に利用できます。さらに、InstacartはChatGPT APIを活用して、「Ask Instacart」という有料コンテンツを開発中です。このサービスでは、顧客が食品を検索し、「購入可能な」パートナーから返信を受け取ることができます。さらに、QuizletのQ-Chatバーチャルメンター機能もこのAPIの機能を活用しています。
報道によると、InstacartのチーフアーキテクトであるJJ Zhuang氏は、食料品の買い物は時間のかかる作業であり、予算、健康と栄養、個人の好み、季節、調理技術、準備時間、レシピの要件など、多くの要素を考慮する必要があると述べています。AIがこれらのタスクを処理できれば、食料品の買い物、献立、食卓の準備を担当する家族を支援し、買い物をより楽しくすることができます。Instacartは、この機能をアプリに実装するために、OpenAIのChatGPTと統合したと報じられています。

#03

潜在的な問題

しかし、ChatGPT の物語を注意深く追ってきた人たちは、リリースのタイミングが適切かどうか疑問に思うかもしれません。そして、まさにその通りです。
当初、ユーザーはChatGPTが人種差別的かつ性差別的な方法で質問に答えていると非難していましたが、これはChatGPTが最初にトレーニングされた偏ったデータを反映していました。(ChatGPTのトレーニングデータには、電子書籍、Redditの投稿、Wikipediaの記事など、幅広いインターネットコンテンツが含まれていました。)ChatGPTはまた、公表せずに事実を捏造していましたが、これはAIにおける幻覚として知られる現象です。
ChatGPTや類似のシステムは、プロンプトベースの攻撃、つまり悪意のある敵対的なプロンプトに対しても脆弱であり、本来の目的とは異なるタスクを実行させられる可能性があります。Redditコミュニティ全体が、ChatGPTを「脱獄」し、OpenAIが実装したあらゆる保護を回避する方法を探しています。より穏便な例としては、スタートアップ企業Scale AIの従業員がChatGPTに社内の技術運用に関する情報を漏洩させることに成功しました。
ブランドが標的にされたくないのは間違いない。ブロックマン氏はそうは思わないと主張する。なぜか?彼によると、理由の一つはバックエンドの継続的な改善であり、場合によってはケニアの請負業者を犠牲にしているという。しかし、ブロックマン氏はOpenAIがChat Markup Language(ChatML)と呼ぶ、新しい(そして物議を醸すことのない)アプローチを強調する。ChatMLは、一連のメッセージとメタデータとしてテキストをChatGPT APIに提供する。これは、一連のタグとして表現される生のテキストを使用する標準的なChatGPTとは異なる。(例えば、「fantastic」という単語は、「fan」「tas」「tic」といったタグに分解される。)
例えば、「30歳の誕生日に楽しいパーティーのアイデアはありますか?」という質問に対し、開発者は「あなたはユーザーの質問を解決するために設計された楽しいチャットボットです。楽しい方法で正直に答えてください!」や「あなたはボットです」といった追加の質問を追加し、ChatGPT APIに処理させることができます。ブロックマン氏によると、これらの指示はChatGPTモデルの応答をより適切にカスタマイズおよびフィルタリングするのに役立つとのことです。
「私たちはより高レベルのAPIへと移行しています。システムへの入力をより構造的に表現する方法があれば、『これは開発者からのものです』『これはユーザーからのものです』と区別できます。開発者として、ChatMLを使用することで、こうした種類の直接的な攻撃に対してより堅牢な対応ができると期待しています」とブロックマン氏は述べた。
意図しない変更を防ぐもう一つの方法は、モデルの更新頻度を上げることです。ブロックマン氏によると、gpt-3.5-turboのリリースに伴い、開発者はデフォルトでOpenAIの最新の安定モデル(gpt-3.5-turbo-0301(本日リリース)以降)に自動的にアップグレードされます。ただし、開発者は希望に応じて古いモデルを引き続き使用することもできます。これにより、以前のモデルの利点がある程度相殺される可能性があります。

#04

専用容量

ブロックマン氏は、最新バージョンへのアップデートを選択するかどうかに関わらず、一部の顧客(主に比較的予算規模の大きい大企業)は、専用キャパシティプランを導入することでシステムパフォーマンスをより細かく制御できるようになると指摘しています。OpenAIの専用キャパシティプランは、今月初めに公開された資料で初めて詳細が示され、本日開始されました。このプランでは、顧客はgpt-3.5-turboなどのOpenAIモデルを実行するためのコンピューティングインフラストラクチャの割り当てに対して料金を支払うことができます。ちなみに、バックエンドはAzureです。
インスタンス負荷を「完全に制御」できるだけでなく、 OpenAI API呼び出しは通常、共有コンピューティングリソース上で行われます。専用キャパシティーを利用することで、より長いコンテキスト制約などの機能を有効にできます。コンテキスト制約とは、モデルが追加のテキストを生成する前に考慮する必要があるテキストの量を指します。コンテキスト制約が長いほど、モデルはより多くのテキストを「記憶」できます。コンテキスト制約を高く設定しても、バイアスや毒性の問題がすべて解決されるわけではありませんが、gpt-3.5-turboのようなモデルで生成される錯視の量は減少する可能性があります。
マイクロソフトから数十億ドルの投資を受けた後、OpenAI が利益を上げなければならないというプレッシャーが高まっていることを考えると、これは驚くべきことではない。
おすすめの読み物:
  • Twitterはエンジニアの80%を解雇したが、会社は通常通り運営を続けているのか?
  • ソースコードからミニマリスト Linux オペレーティングシステムを構築する