英国が関連リスクの識別と評価のためのAIモデル安全検査ツールを先行リリース
SOHU
发表于 2024-5-13 11:25:19
219
0
0
(牛占林編集)英国人工知能(AI)安全研究所は今週金曜日、先進的なAIモデルの安全リスクの監視を強化するための新しいテストプラットフォームを発表した。
紹介によると、このツールボックスの名前はInspectで、一連の分野のAIモデルを評価することができて、それらの核心知識、推理能力、自主能力を含む。オープンソースライセンスの発行により、Inspectは世界中のAIコミュニティで無料で使用できることを意味します。
英国は昨年10月、人工知能安全研究所を設立し、新型AIモデルを研究し、テストすると発表した。今年2月には、英国が1億ポンド以上を投資して9つの新しい研究センターを立ち上げ、AI規制機関に技術訓練を行うことも明らかにした。
記者会見で、英国人工知能安全研究所は、Inspectはソフトウェアライブラリであり、テスターが単一のAIモデルの具体的な能力を評価し、結果に基づいて点数を与えることができるようにしていると述べた。
Inspectは金曜日から使用できるようになり、これは国が支援する機関が先に発表したAIセキュリティテストプラットフォームでもある。
現在のAI競争ブームの下で、ますます多くのAIモデルが今年発売され、これによりAIの安全な発展を推進することがこれまで以上に切迫している。
しかし、現在最も複雑なAIモデルは基本的に「ブラックボックス」であり、そのインフラストラクチャ、トレーニングデータ、その他の重要な詳細は通常それらを作成する会社によって秘密にされ、公開されていないため、AIモデルのベンチマークテストを行うのは難しい。
では、Inspectはこの挑戦にどのように対応しているのでしょうか。主にその拡張性により、新しいテスト技術に適応して接収することができる。Inspect組み込みコンポーネントは、Pythonで作成されたサードパーティ製パッケージを使用して拡張または拡張できます。
Inspectは、データセット、ソルバ、スコアリングの3つの基本セクションで構成されています。データセットはテストのサンプル集合を評価するために使用され、ソルバは実際のテスト作業を実行するコンポーネントであり、採点器の役割はソルバの作業成果を評価し、最終的にAIモデルの性能に関する総合評価を生成し、この設計によりInspectは異なるテスト需要と評価基準に柔軟に適応することができる。
ミシェル・ドネラン英科学相は、AIセキュリティ分野における英国の持続的なリーダーシップの一環として、革新と科学技術の発展における英国の独自の才能と創造力を示し、同分野の世界的リーダーとしての地位を固めたオープンソースInspectを承認したと述べた。
人工知能安全研究所のIan Hogarth会長は、成功したAI安全テスト協力は共有され、アクセス可能な評価方法を持つことを意味し、InspectがAI安全研究所、研究組織、学術界の礎になることを望んでいると述べた。
CandyLake.com 系信息发布平台,仅提供信息存储空间服务。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
猜你喜欢
- 蔚来は電気交換サービス料の料金モデルを調整する:度によって料金を徴収し、楽道の後続の電気交換もそのまま使用する
- アップルの公式サイトが奪われた!iPhone 16の一部モデルは「秒没」
- 百度呉甘:知識強化大モデルが産業デジタルエンジンを再構築
- アップル、インドのiPhone各機種の販売価格を引き下げ
- 欧州プライバシー規制当局、グーグルが人工知能モデルにデータを活用した状況を調査
- 百度沈震:10万カード計算力クラスターアップグレード計算プラットフォーム能力文心大モデルの日調整量が7億回を超える
- Metaが重量ポンドの新製品を発表:299ドルのクエス3 Sヘッドディスプレイ、ARメガネプロトタイプ、マルチモーダルAIモデル
- 香港株アップル産業チェーンが急騰!iPhone 16 Proモデルの需要は依然として堅調ですが、将来の販売台数はどうでしょうか。
- マースク・Cybercabのリリースが間近!国内の多くの大手企業がRobotaxi中国モデルを模索している
- ボーイング社、多重リスクで10%削減を発表
-
アップル(AAPL)は現地時間10月31日、9月28日までの2024年第4四半期の業績を発表し、同四半期の売上高は前年同期比6%増の949億3000万ドル、純利益は同36%減の147億3600万ドルだった。 純利益の下落は主に102億ドル ...
- 亲亲宝宝贝贝贾
- 3 小时前
- 支持
- 反对
- 回复
- 收藏
-
スポーツ競技場では、選手の競争が激しく、競技場の外では、各スポーツブランドの販売競争も同様に焦眉している。 世界的なスポーツ用品大手ナイキがこのほど発表した最新の業績は、利益が共に減少していることを示 ...
- 刘moon
- 前天 17:23
- 支持
- 反对
- 回复
- 收藏
-
10月31日、ピッピー生放送の公式アカウントは、「従業員が生中継間抽選確率を操作している疑いがある」という声明を発表した。最近の「B局アカウント@璞煞(UID:4265321)が内部従業員を自称し、生中継間抽選確率 ...
- joanne941
- 前天 13:29
- 支持
- 反对
- 回复
- 收藏
-
市場調査機関のCounterpoint Researchによると、「アップルインテリジェンス」(Apple Intelligence)の発表が近づき、米国地域でのアップルのiPhone 16シリーズの発売4週間以内の累計販売台数は前世代のiPhoneより ...
- 愿为素心人
- 昨天 10:50
- 支持
- 反对
- 回复
- 收藏