【中文科技资讯】10月27日消息，美国人工智能研究公司OpenAI近日宣布成立一支名为“Preparedness”的新团队，旨在评估和减轻与人工智能(AI)相关的“潜在灾难性风险”。
据悉，这一团队将由麻省理工学院可部署机器学习中心主任亚历山大·马德里(Aleksander Madry)领导，致力于监测、评估、预测以及防范由人工智能技术引发的各种潜在灾难性风险。这一举措标志着OpenAI在积极应对AI伦理和安全问题方面迈出了重要一步。
OpenAI还透露，新团队的职责之一是制定和维护风险知情发展政策(RDP)。这一政策将作为现有风险管理工作的补充和扩展，有助于确保新一代高性能AI系统在部署前和部署后的安全性和一致性。
OpenAI成立于2015年，由特斯拉CEO埃隆•马斯克(Elon Musk)、美国创业孵化器Y Combinator总裁阿尔特曼、全球在线支付平台PayPal联合创始人彼得·蒂尔等硅谷科技大亨联合创办。公司一直专注于人工智能技术的应用领域。
OpenAI的CEO萨姆•奥尔特曼(Sam Altman)一直以来都是一位备受关注的人工智能末日预言家，他反复强调人工智能可能带来“人类灭绝”的风险。奥尔特曼多次呼吁减轻这一潜在风险，将其列为全球的优先任务。
今年5月，奥尔特曼与其他杰出的人工智能研究者共同发布了一份声明，倡导将减轻AI引发的潜在“毁灭性风险”置于全球议程的前沿。
OpenAI继续加强其安全措施，于今年9月推出了“红队网络”(Red Teaming Network)，并邀请各领域专家参与，以提高其人工智能模型的安全性。这些专家将通过协助评估和减轻模型风险，为增强OpenAI的人工智能系统稳健性发挥关键作用。这一系列措施凸显了OpenAI对AI伦理和安全问题的高度重视。
