首页 报纸 正文

「エッジ計算とマシンビジョン技術はかなり成熟しており、将来的にはより多くの関心と資源を大言語モデルとAIの開発と応用に投入する可能性がある。AIモデルはクラウドからエッジへと徐々に移行する可能性がある。我々は巨大な革新の波が準備されていることを予見することができる。現在、市場には多くの成熟したソリューションが登場しており、私たちはこの転換の正念場に立っています。」2024インテル・ネットワーク・エッジ・コンピューティング業界大会の期間中、インテル社のシニア副社長兼ネットワーク・エッジ事業部のSachin Katti社長は、AP通信の記者のインタビューに答えた。
最近、財連の記者が就職したところによると、計算力、エッジ推論能力、コスト総合考量から言えば、エッジ領域における人工知能の浸透が重要な傾向になり、複数の大手企業がこのコースに入局し、多くの成熟したソリューションが出現し、エッジAIが盛んになり、2030年の世界のエッジ市場規模は千億ドル規模に達するだろう。
エッジを狙ったAI成熟ソリューションの出現
AP通信の記者が最近インテル側に明らかにしたところによると、今年上半期のインテル中国エリアのエッジエンド事業は前年同期比で増加を維持し、同社はこの傾向が維持されると予想している。エッジAIはインテルの過去数年来の注目ポイントであり、配置分野は小売、医薬、物流、農業、交通、製造業などに及ぶ。
Sachin Katti氏は、「現在、エッジAIについてお話ししているのは、エッジのマシンビジョンから、大言語モデル、エッジアプリケーション、生成AIなどに徐々に進展しているため、インテルはエッジ端での生成AIおよび大言語モデルの展開を加速させるために、関連する能力を絶えず提供しなければならない。ハードウェアの供給だけでなく、アプリケーション層、ソフトウェア、カスタマーサービスサポートなど、多くの次元にも拡大している」とAP通信記者に語った。
(AP通信記者撮影)

今年のMWC期間中、インテル側は、エッジエンドで9万以上の実際の導入を完了したと発表した。Sachin Katti氏は大会で、インテルはオープン、モジュール化、統合プラットフォームを中心とした方法でエッジAlソリューションの導入プロセスを加速させると述べた。「ハードウェア側では、Llama 2、Llama 3などの多くのモデルがローカルで動作する十分なメモリを持つGPUおよびNPUソリューションを提供します」エコ面では、現在までにインテルネットワーク・エッジ事業部は中国で500社以上のOEM/ODMと150社以上のISVと協力関係を結んでいる。
実際にはインテルだけでなく、AMD、インテル、クアルコムなどの大手、雲天励飛(688343.SH)、中科創達(300496.SZ)、国科微(300672.SZ)などのA株上場企業がエッジを狙って動いている。
同時に、財聯社の記者は大会展区で、ロボット(300024.SZ)、思い込み(300454.SZ)、デジタルビデオ(300079.SZ)、中科創達などのA株メーカーがそれぞれのエッジAI成果を展示していることに気づいた。
財連記者は展示エリアでモデル訓練中に自動化手段によるデータ表示を行った例に注目した。ブースのスタッフは記者に、インテルCoreプロセッサー、インテルPro™独立型グラフィックスARC 770に基づいて作成されたCNNエッジトレーニングプランは、視覚的な大モデルを用いて画像の自動表示とMLFlowに基づくモデルの自動再訓練を実現したと伝えた。「もともと訓練モデルはアルゴリズム会社を探していたが、表示には人が必要だったが、今では機械表示を使うことができ、訓練コスト、人件費が大幅に削減され、今では業界で徐々にこのような訓練推論の案が出てきている」。
今回インテルが新たに作成した3 D仮想デジタルインテリジェンス「英ちゃん」も展示されている。ブースのスタッフによると、「英ちゃん」は同様にCoreプロセッサー、ARC 770グラフィックスカードに基づいて作られ、エッジエンドに完全に配置されており、大言語モデルとRAG技術もローカルに統合されている。営業所のカスタマーサービス、デパートのガイド、博物館の説明員などの役割を果たすことができるという。
AIエージェントの兆しが見えてきたエッジ配備にはどのようなドライバがあるのか。
業界発展の視点に立って、インテルはAIGC及び大言語モデルの発展に対して3段階の総括を行った:第1段階はAI補助時代(Age of AI Co-Pilots)、第2段階はAIアシスタント時代(Age of AI Agents)、第3段階は全機能AI時代(Age of AI Functions)である。
「中国から見ると、私たちのイノベーションは非常に速く、多くのAIエージェントの機能は今では発展の兆しを見せているかもしれませんが、AIエージェントに関する事例は実際に私たちの周りに徐々に現れています」と、インテル中国区ネットワーク・エッジ事業部最高技術責任者、インテル上級AIエンジニアの張宇氏は、AP通信記者に語った。
彼は例を挙げて、電気通信企業のネットワークとネットワーク運営類の製品はすでに大きなモデルに基づいてネットワークログファイルを分析することができて、ネットワーク管理者が直ちに分析結果に基づいて措置を取ることができるなどと述べた。Sachin Katti氏は、今後1~2年以内にAIエージェントの出現が増えると予想していると述べた。
インテルの幹部は大会で、中国の生成型人工知能市場規模は今年33億ドルに達すると予想していると述べた。ガートナー氏によると、2026年までにグローバル企業の80%がジェネレーションAIを使用し、50%のグローバルエッジ配備にAIが含まれると予測している。STL Partnersレポートによると、2030年の世界のエッジサービス市場規模は4450億ドルに達し、その中でAIは第1位のエッジワークロードである。
エッジAI市場は上昇を続けているが、エッジ側への企業の展開を駆動している実際の原因は何だろうか。
「1つはデータの安全性であり、データをクラウドに安心して置くか、エッジに置いたほうが合理的であるか。2つ目は、エッジデータ量が大きくなるにつれて、全体の伝送帯域幅が問題であり、国内ではインフラ全体で伝送帯域幅の建設が世界で最もリードしているが、大量のデータがエッジで発生した場合、ネットワークの嵐を引き起こす可能性があり、ネットワーク管理とデータ伝送戦略をさらに最適化する必要がある。3つ目は、リアルタイム性では、エッジでしかリアルタイム性の要求を解決できないものが多い」と述べた。インテル社マーケティンググループの副総裁、インテル中国ネットワークとエッジおよびチャネルデータセンター事業部の郭威社長は、財連社記者に3つの原因を分析した。
Sachin Katti氏は、現在AIは主にクラウドで動作しているが、エッジデバイスがローカルで大量のデータを生成するにつれて、すべてのデータをクラウドに転送するコストはかなり高くなっているとAP通信記者に伝えた。「一部の工場では、これらのモデルのパラメータ量が1兆レベルに達する可能性があるため、大規模な業界レベルの大モデルを訓練するコストを負担できない可能性があります。そのため、彼らはしばしば中規模モデルを訓練し、自分のデータを結合してカスタマイズ調整することを選択します」
財連社の記者によると、現在の大モデルの訓練、推理、呼び出し、配置はすべてクラウドで完成し、計算力(クラスタ)規模、ネットワークの安定性、エネルギー効率などの面で極めて高い要求を提出し、大モデルが競争の落地段階に入るにつれて、すべての分析処理がローカルで完成することが要求されている。
張宇氏は、「エッジの特徴は断片化だ。ユーザーによって計算力、性能に異なる要求があり、一部の性能要求は高く、クラスターを持って積載しなければならず、一部の性能はいくつかの小さな設備を通じて積載できる可能性があり、幅は非常に大きい。エッジは最終的に配置されるのは業務であり、技術案を追求するわけではない」と考えている。
标签: ミャオ
CandyLake.com 系信息发布平台,仅提供信息存储空间服务。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

不正经的工程师 注册会员
  • 粉丝

    0

  • 关注

    0

  • 主题

    43