영국은 관련 위험을 식별하고 평가하기 위해 AI 모델 보안 검사 도구를 먼저 발표했다
强绝商爸摇
发表于 2024-5-13 11:25:21
236
0
0
재련사 5월 12일발 소식 (편집 우점림): 영국인공지능 (AI) 안전연구소는 이번 금요일에 새로운 시험플랫폼을 발표했는데 이는 선진AI 모델의 안전위험을 감시하고 감시하는것을 강화하기 위해서이다.
소개에 따르면 이 도구상자의 이름은 Inspect로서 그들의 핵심지식, 추리능력, 자주능력을 포함한 일련의 령역의 AI모형을 평가하는데 사용할수 있다.오픈 소스 라이센스 출시를 통해 Inspect는 전 세계 AI 커뮤니티에서 무료로 사용할 수 있습니다.
영국은 지난해 10월 인공지능 안전연구소를 설립해 신형 AI 모델을 연구하고 테스트하겠다고 발표했다.영국은 지난 2월에도 1억파운드 이상을 들여 9개의 새로운 연구센터를 가동하고 AI 규제기관을 대상으로 기술교육을 하겠다고 밝혔다.
기자 회견에서 영국 인공 지능 보안 연구소는 Inspect가 테스트 직원이 개별 AI 모델의 구체적인 능력을 평가 한 다음 결과에 따라 점수를 줄 수있는 소프트웨어 라이브러리라고 밝혔다.
인스펙트는 금요일부터 사용할 수 있으며, 이는 국가 지원 기관이 먼저 출시한 AI 보안 테스트 플랫폼이기도 하다.
현재 AI 경쟁 열풍 속에서 점점 더 많은 AI 모델이 올해 출시될 예정이어서 AI 안전 발전을 추진하는 것이 그 어느 때보다 시급하다.
그러나 현재 AI 모델에 대한 벤치마킹은 여전히 비교적 어려운 일이다. 왜냐하면 현재 가장 복잡한 AI 모델은 기본적으로'블랙박스'이기 때문이다. 그 인프라, 훈련 데이터 및 기타 핵심 세부 사항은 일반적으로 그들을 창조한 회사에 의해 비밀에 부쳐지고 외부에 공개되지 않는다.
그렇다면 인스펙트는 이 도전에 어떻게 대처했을까?주로 확장성을 통해 새로운 테스트 기술에 적응하고 수용할 수 있다.Inspect 내장 구성 요소는 Python으로 작성된 타사 패키지를 사용하여 향상되거나 확장될 수 있습니다.
Inspect는 데이터 세트, 해결기, 채점기 등 세 가지 기본 부분으로 구성되어 있습니다.데이터 세트는 테스트의 샘플 집합을 평가하는 데 사용되며, 해답기는 실제 테스트 작업을 수행하는 구성 요소이며, 채점기의 역할은 해답기의 작업 성과를 평가하고, 최종적으로 AI 모델의 성능에 대한 종합 평가를 생성하며, 이러한 설계는 Inspect가 서로 다른 테스트 수요와 평가 기준에 유연하게 적응할 수 있도록 한다.
미셸 도넬란 영국 과학부 장관은"AI 보안 분야에서 영국의 지속적인 리더십의 일환으로 오픈 소스 인스펙트를 승인했다"며"이는 혁신과 과학기술 발전에 대한 영국의 독특한 재능과 창의력을 보여주며 이 분야의 세계 리더로서의 우리의 지위를 공고히 했다"고 말했다.
인공지능 보안 연구소의 Ian Hogarth 회장은 성공적인 AI 보안 테스트 협력은 공유되고 액세스 가능한 평가 방법을 가지고 있다는 것을 의미하며, Inspect가 AI 보안 연구소, 연구 조직 및 학계의 초석이 되기를 희망한다고 주장했다.
CandyLake.com 系信息发布平台,仅提供信息存储空间服务。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
猜你喜欢
- iPhone 16 두 모델의 배송 시간이 단축되었습니다!무슨 신호?
- 애플, 인도 아이폰 모델별 판매가격 인하
- 유럽 프라이버시 규제 기관, 구글이 인공지능 모델에 데이터 활용 실태 조사
- 바이두 심떨림: 10만 카드 계산력 클러스터를 대상으로 계산 플랫폼 능력 문심 대모델 하루 조정량 7억 회 초과
- 메타, 메가톤급 신제품 발표: 299달러 Quest 3S 헤드, AR 안경 프로토타입, 다중모드 AI 모델
- 바이두 월드 2024는 11월 12일에 열릴 문심 대형 모델의 하루 평균 호출량이 이미 7억 건을 초과했다
- 포드 CEO는"지루한"모델 제조에 싫증이 났고, 개성화와 전동화 제품은"새로운 기쁨"이 되었다
- 홍콩 주식 애플 산업 사슬 상승!iPhone 16 Pro 모델의 수요는 여전히 견조하며 향후 판매량은 어떻습니까?
- 머스크 Cybercab 출시 임박!국내의 많은 거두들이 앞다투어 Robotaxi 중국 모델을 탐색하다
- 보잉사는 여러 가지 위험에 시달리는 가운데 10% 를 감원하겠다고 발표했다
-
10月10日、中国証券報・中証牡牛座記者は、微信が淘宝リンクを開いて直接買い物をすることをサポートしていることを明らかにした。ユーザーは微信App内でタオバオのリンクを直接クリックし、注文と支払いを完了する ...
- copricus
- 3 天前
- 支持
- 反对
- 回复
- 收藏
-
10月11日、テスラ「We,Robot(私たち、ロボット)」Robotaxi(無人タクシー)イベントで、テスラRobotaxiが正式に登場し、Cybercabと命名された。マースク氏によると、Robotaxiは個性的な公共交通であり、平均移動 ...
- dugk39529
- 前天 12:47
- 支持
- 反对
- 回复
- 收藏
-
先月、FRBは50ベーシスポイントの「急進的な下落幅」で緩和サイクルを開いたが、最新の議事録は、FRB内部のこの決定に対する食い違いが大きいことを明らかにした。 議事録によると、ほとんどの参加者は連邦基金金利 ...
- 什么大师特
- 3 天前
- 支持
- 反对
- 回复
- 收藏
-
【AMDが発表した英偉達競合品AIチップの予想市場規模は4年から5000億ドル】AIコンピューティングの分野で、英偉達の影の中で生きてきたAMDは木曜日に人工知能のテーマ発表会を開催し、MI 325 Xコンピューティングチ ...
- 什么大师特
- 前天 11:51
- 支持
- 反对
- 回复
- 收藏