日本政府拟成立AI安全问题组织 聚焦其在军事应用中的风险
海田1
发表于 2023-12-16 11:44:59
218
0
0
据悉,预计最早将在本月举行的人工智能战略委员会会议上正式宣布这一计划,该委员会负责讨论与AI相关的国家战略,成员包括在AI领域有经验的私营部门专业人员。
关注的重点将是最先进的那一批产品,如OpenAI的ChatGPT。为了避免干扰私营部门,企业用于提高运营效率的标准AI技术将不会成为日本政府的目标。
AI产品将在进入市场之前需要进行一系列测试,还有一项提案要求日本政府采购的任何AI产品在使用前都要经过专业机构的认证。
上述新成立组织计划研究潜在的国家安全风险,例如通过AI获取制造生物、化学或其他武器的信息的可能性,还将检查安全漏洞,包括对网络的攻击。
另外,还将调查AI变得不受控制的风险,以及与错误信息和偏见有关的问题。AI控制的社交媒体账号,能在网络上自动生成内容并与人类用户互动,操纵公众舆论或煽动情绪。
目前来看,随着信息技术的发展,AI技术大量运用于军事领域已经成为现实,使用AI收集和分析战场数据等一系列AI操作,在作战系统中已被广泛应用。而民用AI技术被转用于军事目的,几乎是不可避免的问题。
虽然可能会成立一个全新的机构,但最有可能的结果是将一个新的部门并入现有的组织。候选机构包括总务省下属的研究AI技术的国家信息和通信技术研究所,以及经济产业省下属的信息技术促进机构。
在本月初,七国集团(G7)就AI国际规则框架达成了最终协议。这将成为首份对开发人员及用户,规定AI“所有相关人员”应遵守职责的全面国际规则。
G7力争通过率先展现为防止AI滥用而合作姿态的形式,获得G7以外国家和企业的赞同。日本政府将把此次协议用于面向国内的指导方针制定,即AI开发商在向市场推出产品之前,需要接受第三方的风险评估。
英国和美国在创建人工智能机构方面也处于领先地位。11月份,英国成立了全球首个AI安全研究所。在对尖端AI产品上市前后进行验证后,考虑公开其中存在安全风险的产品。
美国根据今年10月拜登总统的行政命令,正在以美国国家标准与技术研究院为主导,制定AI安全评价方法。旨在与私营公司共同创建一个AI安全联盟,以制定评估AI能力和风险的方法,并希望私营公司自行进行风险验证。
CandyLake.com 系信息发布平台,仅提供信息存储空间服务。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
-
11月21日、2024世界インターネット大会烏鎮サミットで、創業者、CEOの周源氏が大会デジタル教育フォーラムとインターネット企業家フォーラムでそれぞれ講演、発言したことを知っている。周源氏によると、デジタル教 ...
- 不正经的工程师
- 5 小时前
- 支持
- 反对
- 回复
- 收藏
-
アリババは、26億5000万ドルのドル建て優先無担保手形と170億元の人民元建て優先無担保手形の定価を発表した。ドル債の発行は2024年11月26日に終了する予定です。人民元債券の発行は2024年11月28日に終了する予定だ ...
- SOGO
- 前天 09:05
- 支持
- 反对
- 回复
- 收藏
-
スターバックスが中国事業の株式売却の可能性を検討していることが明らかになった。 11月21日、外国メディアによると、スターバックスは中国事業の株式売却を検討している。関係者によると、スターバックスは中国事 ...
- 献世八宝掌
- 昨天 16:29
- 支持
- 反对
- 回复
- 收藏
-
【意法半導体CEO:中国市場は非常に重要で華虹と協力を展開】北京時間11月21日、意法半導体(STM.N)は投資家活動の現場で、同社が中国ウェハー代工場の華虹公司(688347.SH)と協力していると発表した。伊仏半導体 ...
- 黄俊琼
- 昨天 14:29
- 支持
- 反对
- 回复
- 收藏