OpenAI员工警告:AI缺乏监督,存在“严重风险”

tamoadmin 0

  一群现任和前任OpenAI员工周二发表了一封***,表达对人工智能行业快速发展的担忧,并指出其缺乏监督,也缺乏对那些希望发声者的举报人保护。

  ***中写道:“人工智能公司有很强的财务动机来避免有效的监督,我们认为公司治理的定制结构不足以改变这一点。”

  预计生成式人工智能市场在10年内收入将超过1万亿美元。OpenAI、谷歌、微软、Meta及其他公司正在主宰生成式人工智能军备竞赛,因为似乎每个公司都急于拥有自己的人工智能驱动的聊天机器人和代理,以避免被竞争对手甩在后面。

OpenAI员工警告:AI缺乏监督,存在“严重风险”
(图片来源网络,侵删)

  OpenAI的现任和前任员工在***中写道,人工智能公司拥有“大量非***息”,包括他们的技术可以做什么,他们***取的安全措施的程度以及技术对不同类型伤害的风险水平。

  “我们也理解这些技术带来的严重风险,”他们写道,并补充说,这些公司“目前只有微弱的义务与***分享其中一些信息,而没有与民间社会分享。我们认为不能依靠他们自愿分享它。”

  这封信还详细说明了现任和前任员工对人工智能行业举报人保护不足的担忧,并指出,如果没有有效的***监督,员工在追究公司责任方面处于相对独特的地位。

  ***称:“宽泛的保密协议阻止我们表达我们的担忧,除非是那些可能未能解决这些问题的公司,”签署者写道。“普通的举报人保护是不够的,因为它们侧重于非法活动,而我们担心的许多风险尚未受到监管。”

标签: #人工智能

上一篇欧洲主要股指集体收跌 德国DAX30指数跌1.12%

下一篇当前文章已是最新一篇了