6月13日消息,据国外媒体报道,谷歌一名人工智能开发团队工程师认为该公司开发的人工智能聊天机器人已经具有感知力,并分享了与其之间的聊天记录,遭到谷歌以违反保密协议为由而勒令停职。
谷歌AI伦理研究员Blake Lemoine写了一篇长达21页的调查报告上交公司,试图让高层认可AI的人格,目前正通过主流媒体和社交网络接连发声,连同与AI的聊天记录一起公之于众。
据悉,LaMDA是谷歌于2021年I/O大会上推出的对话AI系统,专为对话优化的自然语言处理模型。向包含200人左右的谷歌机器学习邮箱列表发送了一条信息,主题是“LaMDA是具有感知的”,此后谷歌以违反其保密政策为由,让Lemoine休假。在他被停职的前一天,他把文件交给了一位美国参议员的办公室,声称这些文件提供了谷歌及其技术参与宗教歧视的证据。
几个月以来,Lemoine一直在与谷歌的经理、高管和人力资源部门争论这一想法,即LaMDA具有意识和灵魂。他认为LaMDA只是一个七八岁的孩子,希望公司在进行实验之前征得它的同意,还表示公司的人力资源部门歧视他的宗教信仰。
谷歌对此进行了反驳,称其系统模仿了对话交流,可以即兴发挥不同的话题,但没有意识。谷歌发言人布莱恩 · 加布里埃尔(Brian Gabriel)在一份声明中表示: “我们的团队,包括伦理学家和技术专家已经根据我们的人工智能原则审查了布莱克的担忧,并告知他,他的说法并未得到证据证实。在人工智能领域一直有这种担忧,但将当今没有意识的对话模型拟人化是没有意义的。”