新华丝路首页
一带一路国家级信息服务平台

美国技术巨头组建“AI管控联盟”

来源:新华社 责任编辑:黄新培 2023-08-03 09:56:45

新华社北京8月3日电  美国开放人工智能研究中心(OpenAI)、谷歌、微软和Anthropic公司26日宣布创办“前沿模型论坛”,以“确保安全、负责任地研发前沿人工智能(AI)模型”。

据英国《金融时报》报道,这4家全球领先的AI企业将借助“前沿模型论坛”研究日益强大的AI工具,确定管控相关技术的最优方法,推动安全研究并为行业和决策者提供沟通渠道。

1690523020807.jpeg

1月8日,一名女士在美国拉斯维加斯消费电子展上体验智能科技。新华社发(曾慧摄)

最近数月,这些美国企业陆续研发出功能强大的生成式AI工具,这些工具可利用现有素材原创图像、文本和视频内容。这引发对盗版和侵犯隐私等问题以及“AI是否最终会取代人类从事多种职业”的担忧。

微软副董事长兼总裁布拉德·史密斯说,创造AI技术的企业有责任确保它“安全、可靠,仍受人类管控”,创办论坛是集聚技术领域力量负责任地推动AI发展并应对挑战的“关键一步”。

论坛创办者指出,只有少数几家企业能成为论坛成员,进而打造“能力超越现有最先进模型的大规模机器学习模型”。

XxjinmC007006_20230728_CBMFN0A002.jpg

这是2021年11月13日在英国伦敦拍摄的微软品牌标识。新华社发(蒂姆·爱尔兰摄)

按《金融时报》说法,论坛宗旨显示其工作重点是如何应对生成式AI的潜在风险,但并未回应监管部门当下关注的版权、数据保护和隐私等事宜。批评人士质疑,这些技术巨头“抱团”的实际意图是躲避监管。

美国华盛顿大学深入研究大语言模型的计算语言学者埃米莉·本德说,企业坚称推广AI技术安全研发是“维持自我监管的能力”,她对此“非常怀疑”。把公众注意力集中到对“机器取代人类”的恐惧会导致人们分散对数据窃取、监控等现实问题的关注,政府应从公众利益出发,在监管领域有所作为。

相关推荐
构建开源生态,推动AI造福发展中国家——访金砖国家未来网络研究院中国分院国际合作部负责人

金砖国家未来网络研究院中国分院(BIFNC)主持的“全球人工智能融合:共享可持续未来的创新实践”分论坛9日在日内瓦2025年“人工智能造福人类峰会”会场举行。峰会期间,该院国际合作部主任林桢就如何开展国际合作推进全球互联互通以及实现Al共享等问题接受了新华丝路记者专访。

之江“天”“地” Al模型的全球亮相与分享

11日,中国工程院院士、之江实验室主任王坚携中国之江实验室两项科学模型成果GeoGPT及OneAstronomy来到日内瓦2025年人工智能造福人类峰会的主场舞台,以主题为“计算和人工智能:无尽的前沿与探索”的20分钟英语演讲。

2025“人工智能造福人类”全球峰会在人工智能治理包容性和标准方面取得合作成果

为期4天的2025年人工智能造福全球峰会11日落下帷幕。本届峰会在人工智能治理、技能培训和标准方面做出了进一步承诺。