硅谷又现AI吹哨人:不能指望人工智能公司自觉披露风险信息!

tamoadmin 0

财联社6月5日讯(编辑 马兰)人工智能行业发展迅速,但技术发展与秩序重新规划的速度不匹配,持续引发人们对于该行业的安全担忧,就连深度参与人工智能研发的工程师们也站出来公开警告。

13名来自OpenAI、谷歌DeepMind和甲骨文的前员工和现员工在一封***中表示,人工智能行业缺乏安全监督,且该行业对举报人的保护并不充分。

信中指出,人工智能公司掌握着大量非***息,包括其系统的能力和局限性、保护措施的充分性以及不同类型伤害的风险水平。然而,公司目前只有很弱的义务向***分享部分信息,而对民间社会则没有任何义务。

硅谷又现AI吹哨人:不能指望人工智能公司自觉披露风险信息!
(图片来源网络,侵删)

这些内部人士认为,人们不能指望人工智能企业会自愿分享这些信息。

内部发声渠道被阻断

***中写道,由于广泛的保密协议,内部员工被阻止表达自己的担忧。他们希望先进的人工智能公司可以承诺遵守几项原则,包括不对批评公司的员工进行报复等。

***强调,普通的保护举报人措施对人工智能行业来说是不够的,因为一般措施是用于保护举报非法活动的内部人士,但人工智能行业的举报人更多是公开指出许多未受到监管的风险。

OpenAI则在一份声明中为自己的做法进行了辩护,称公司有举报热线等渠道来报告公司内部问题,并且在***取保障措施之前不会发布新技术。谷歌则没有立即回应置评请求。

然而,这封信出现的时间点颇为微妙。OpenAI上月刚刚有两名高级员工离职——联合创始人兼首席技术官Ilya Sutskever和关键安全研究员Jan Leike。Leike在辞职后还直言不讳地批评OpenAI已经放弃了安全文化,转向商业利润。

此外,OpenAI等公司也确实存在较为激进的策略,来阻止员工自由发声。据报道,OpenAI要求离职员工签署极其严格的保密文件,否则就将失去所有既得股权。OpenAI首席执行官奥尔特曼在该报道后发布道歉声明,并声称将改革公司离职程序。

标签: #人工智能