HUOXIU

最新の公開記事

記事

朝のニュース | 2023年11月23日(木)

朝のニュース | 2023年11月23日(木)
2023年11月23日木曜日の朝のニュース以下は公開されている情報をまとめたものです。 ====================大企業: 1. OpenAIはソーシャルプラットフォームXで、UltramanがCEOとしてOpenAIに復帰すると発表した。 2. Moutai x Jay Chou、「Taste of Guizhou」カクテルシリーズを発売。 3. TCLの完全子会社「モスタル・セ...
記事

大規模モデルの時代において、オープンソース技術と自社開発技術の「戦い」が再燃しています。

大規模モデルの時代において、オープンソース技術と自社開発技術の「戦い」が再燃しています。
ここ数日、ソーシャルメディア上で異例の活発な議論が繰り広げられています。そのきっかけとなったのは、アリババの元AI科学者、賈陽青氏の投稿です。彼は、国産の大規模モデルがMETAのLLaMAアーキテクチャを盗用し、変数名をいくつか変更しただけで自社開発だと主張していると非難し、この行為は全く恥知らずだと非難しました。多くの人が国産の大規模モデルを1対1で比較し、どの企業が盗作したのか推測する中、つい...
記事

KubeAI 大規模モデル推論加速実践 | Dewu Technology

KubeAI 大規模モデル推論加速実践 | Dewu Technology
出典:デウーテクノロジー目次I. 背景II. 大規模モデル開発における課題III. 大規模モデル推論を加速するための最適化の方向性1. Llama2のモデル構造2. 大規模モデル推論を加速するための方向性は何ですか? IV. FlashAttention-Attention演算子計算の最適化V. PageAttention - メモリ管理の最適化 VI. MOE - 推論中のモデルパラメータの削減...
記事

GPT-4の製品化に関する大胆なアイデア

GPT-4の製品化に関する大胆なアイデア
最近、インターネットでちょっと検索してみると、「GPT-4 はすごい」「信じられない」「技術革命が到来した」「人類は職を失うことになる」といったコメントが大量に見つかります... しかし、このような大きな変革は一体どのようにして起こったのでしょうか?その答えはやや曖昧です。ChatGPTの基本的なQ&Aサービスとライティングサービス、そしてMicrosoftが既に開発中の検索アプリケーショ...
記事

Prompty を使用して LLM ヒントを構築および管理する方法

Prompty を使用して LLM ヒントを構築および管理する方法
AIアプリケーション開発における共通の課題は、ヒント管理に対する統一されたアプローチの欠如です。各チームが独自のヒント構築・保存方法を採用していることが多く、これはリソースの浪費につながるだけでなく、チーム間の知識共有やコラボレーションの妨げにもなります。この問題に対処するため、Microsoftが支援するオープンソースプロジェクト「Prompty」が開発されました。Promptyは、大規模言語...
記事

JD.com はテクノロジー環境を再構築中です。

JD.com はテクノロジー環境を再構築中です。
パンデミック後の時代に業務と生産を再開し、活力を取り戻したいと切望する企業にとって、インテリジェントテクノロジーによる革新的な成長を模索することは、AIなどの新技術がより大きな責任を担うことを確実にすると同時に、「奇跡を目撃する瞬間」が長引かないようにするという難しいトレードオフを必然的に伴います。効率的な実装、信頼性、迅速な利益の実現は、どの B2B 企業にとっても容易なことではありません。その...
記事

DeepSeekと企業実践の深層理解(パート3):671B 超低コスト導入手法とパフォーマンス評価

DeepSeekと企業実践の深層理解(パート3):671B 超低コスト導入手法とパフォーマンス評価
序文連載記事「DeepSeekとエンタープライズプラクティス(パート1):抽出、展開、評価」および「DeepSeekとエンタープライズプラクティス(パート2):32BマルチGPU推論の原理、ハードウェア冷却、パフォーマンステスト」では、さまざまなDeepSeek R1モデルの関係性とコアメトリクスを紹介し、ZStack AIOS上で複数の抽出モデルを展開し、評価しました。評価によると、抽出バージョ...
記事

データ サンドボックスと LLM テスト ケースの自己修復に基づく UI 自動テスト プラットフォーム

データ サンドボックスと LLM テスト ケースの自己修復に基づく UI 自動テスト プラットフォーム
出典: Bilibili Technology プロジェクト参加者: Gu Yifan、Chen Yuguang、Zhang Youzhong、Yang Yuhao、Fan Zhizheng、Xiong Mengyuan、He Xuan、Tan Nan UI自動テストは製品の品​​質をある程度保証することができ、コスト削減と効率性向上の観点からその重要性がますます高まっています。理想的には、UI自...
記事

大規模モデルの応用:Langchainに基づくテストケース生成

大規模モデルの応用:Langchainに基づくテストケース生成
ケース生成の実践的な結果 私たちのチームの日々の業務において、テスト手法の継続的な最適化とテスト効率の向上は常に重要な課題です。最近では、大規模モデルを用いたテストケース生成の検討と実践に取り組んでおり、その強力な自然言語処理能力を活用することで、より包括的で高品質なテストケースを自動生成することを目指しています。 現在、当社ではJoyCoderを広く導入しています。関連する要件や設計ドキュメント...
記事

浮動小数点数の起源と演算解析

浮動小数点数の起源と演算解析
数学は自然科学の女王であり、コンピュータはもともと科学計算のために設計されました。コンピュータの最も基本的な機能は、整数と実数を格納し、整数と実数に対して算術演算を実行することです。 しかし、コンピュータの専門家の観点から見ると、私たちが知っている基本的な数学的データ型は、通常、整数、浮動小数点数、ブール値です。整数はさらに、int8(8ビットで表される整数)、uint8(8ビットで表される符号な...