ChatGpt之父等AI行业专家警告：人工智能或带来灭绝风险

超过350名人工智能（AI）领域的行业高管、专家和教授近日联名发表了一封公开信，警告称人工智能可能对人类带来灭绝风险。这一公开信于5月30日发布在人工智能安全中心（CAIS）的网站上，其中包括一些知名人士，如Open AI首席执行官山姆·奥特曼、DeepMind首席执行官Demis Hassabis、Anthropic首席执行官Dario Amodei以及微软和谷歌的高管。

公开信内容简洁明了，仅包含一句话：“减轻AI带来的灭绝风险，应该与流行病和核战争等其他社会规模的风险一起，成为全球优先事项。”这22个字的表述强调了对AI潜在风险的极度关注，将其置于全球安全议程的重要位置。
此前，一些签署者还曾联合签署一封公开信，呼吁至少暂停开发比GPT-4更高级的人工智能系统6个月。然而，这封信在一些方面引发了争议，一些专家认为其中夸大了人工智能带来的风险，而其他人则认同AI存在潜在风险，但对信中提出的具体措施表示保留意见。

对于这封5月30日的公开信，人工智能安全中心执行主任丹·亨德里克斯表示，其意图是避免分歧，因此故意保持简洁，没有提出具体减轻人工智能威胁的方法。亨德里克斯强调，他们不希望推动一个庞大的菜单，其中包含30种潜在的干预措施，以免模糊他们希望传达的信息。

该公开信的发布引起了广泛关注，突显了AI行业内对人工智能发展所带来的潜在风险的日益关注。未来，各方将继续探讨并寻求合适的方式来应对和减轻AI带来的灭绝风险，以确保人工智能的安全和可持续发展。
关于墨者安全
墨者安全是一家专注于网络安全、数字资产保护及交易、数字视觉AI服务、大数据应用分析的高新技术企业。公司以数字内容资产化及交易、网络安全防护及AI视觉服务为核心，基于大数据内容AI智能精准分析及应用为基础拓展多级生态作品线，与各级企业、事业单位、政府、内容互联网平台、大数据运营商展开全方位数据应用合作，并提供上下游的全方位的安全技术支撑服务！在线VIP咨询专线：400-0797-119