深潮 TechFlow ニュース、6月30日、The Information の報道によると、事情に詳しい関係者が明らかにしたところによると、今月初め、OpenAI のエンジニアが一部の同僚に対して、いくつかの新開発の最適化技術を活用することで、モデルの推論コストを半分以上削減できる手法を見つけたと伝えた。エンジニアはこの新技術を、無料または有料アカウントを持たない訪問者が ChatGPT を使用するシナリオに適用したところ、必要となる Nvidia グラフィックスプロセッシングユニット(GPU)の数を一時的にわずか数百個にまで抑えることができた。

原文表示
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • コメント
  • リポスト
  • 共有
コメント
コメントを追加
コメントを追加
コメントなし