Transwarp TechnologyのSophon LLMOpsは、DeepSeek R1のフルパラメータ版と精製版の両方をサポートしています。Sophon LLMOpsは、大規模モデルと小規模モデルの統合管理、オープンソースと商用の大規模モデルの統合管理、国内外のGPU/NPU（ARM/x86）による異種コンピューティングパワーのハイブリッド展開、きめ細かなリソース割り当てとスケジューリング、モデルとアプリケーションのパフォーマンス評価、そしてグローバルなステータス監視と早期警告をサポートする、エンタープライズグレードの大規模モデル運用・管理プラットフォームです。

企業は、StarRing Technologyのクラウドサービス（ウェブサイト：llmops.wuya-ai.com）に直接アクセスし、本格的なDeepSeek 671B（fp8）R1をベースとしたトレーニング、推論、アプリケーション開発を行うことができます。また、R1モデルをプライベート環境で迅速に利用し、ディープシンキング機能を備えたサービスやアプリケーションを開発することも可能です。DeepSeek R1を活用して知識ベースやツールにアクセスし、企業内に迅速に展開することで、大規模モデルに基づくエンタープライズレベルのアプリケーションの迅速な展開を加速します。

この記事では、LLMOps に基づいて DeepSeek R1 を展開する方法に焦点を当てます。

1. DeepSeek R1の重みファイルをダウンロードする

Sophon LLMOps モデル管理モジュールに入り、「新規モデル - バージョンの作成」を選択すると、対応するモデル ファイルを Huggingface からプラットフォームにワンクリックでプルできます。

ダウンロード後、モデルの詳細でモデルの基本情報をプレビューできます。

2. DeepSeek R1導入リソースの見積もり

モデルを展開するために必要なハードウェア リソースを事前に見積もり、推奨リソースに基づいてモデルを展開します。

3. DeepSeek R1を展開する

モデルのデプロイページで、モデルバージョン リストの[デプロイ] をクリックします。

推奨リソースに基づいて適切なデプロイメント ノードを選択し、ワンクリックでデプロイします。

4. DeepSeek R1モデルの体験と使用方法

モデル エクスペリエンス センターにアクセスしてモデルをテストするか、クリックして例を呼び出してAPI をリモートで使用します。

DeepSeek R1 単語の文字カウントの例:

DeepSeek R1差異検出の例:

ビジネス ユーザーが呼び出せるように DeepSeek R1 モデルに基づくアプリケーション API の公開をサポートし、プラットフォームのアプリケーション エクスペリエンスで直接使用することもできます。

5. Deepseek R1モデルに基づくインテリジェントな金融アプリケーション

現在、 Deepseek R1 に基づくモデルは、規制技術とコンプライアンス管理、インテリジェント投資調査と戦略サポート、市場分析と意思決定サポート、体系的なリスク管理、インテリジェント投資家サービス、インテリジェント運用とプロセスリエンジニアリングなどのインテリジェント金融シナリオで使用でき、債券ビジネスアシスタント、投資教育アシスタント、ドキュメントレビューアシスタント、デリバティブ分析プラットフォームなど、クライアント向けの AI インテリジェントエージェントとインテリジェント分析プラットフォームを構築できます。

金融法規制の適用を例に挙げると、

さらに、 Sophon LLMOpsは、エージェントアプリケーション開発におけるマルチモデルのパフォーマンス比較をサポートしており、異なるモデルの導入効果を迅速に比較し、ユーザーがさまざまなビジネスシナリオに適したベースモデルを選択できるようにします。DeepSeek R1の堅牢な分析機能に基づくと、同じ知識ベースで同じ質問に対して、R1モデルが提供する回答の方がより包括的であることがわかります。

LLMops クラウド サービスのトライアルを申し込むには、アカウント マネージャーに直接連絡するか、[email protected] に電子メールを送信してください。