Meta推出的AI代理Muse能替用户收发邮件、处理网上交易,使用上的安全问题引发争议。 有用户靠它谈成合作,也有用户的取货地址被它发给了陌生买家。
Meta推出的AI代理Muse能替用户处理邮件和网上交易。 美国犹他州自媒体创作者伊莉莎表示,她要求Muse每次发信前先经她过目,至今未发现错误。
伊莉莎表示,她目前主要用Muse整理电子邮件。 她告诉大纪元,邮箱里曾积压上万封未整理的邮件,在她的指导下,Muse已全部整理完毕,现在每天负责分类新邮件,并协助判断前来洽谈合作的邮件是否可信,以及回复讨论合作事项。
「之前我没有时间处理,丢掉了很多机会。」伊莉莎说,在Muse协助下,她最近谈成了两个广告合作。
伊莉莎说,她在授权时只选择「只允许一次」,并要求Muse发送任何邮件前必须先给她看。 她表示,目前还没有打算把更多工作交给Muse。
对于隐私问题,伊莉莎认为,各大机构其实已掌握一般人的大部分隐私,只要设置得当,Muse作为小助手「还是蛮好的」。
“始终允许”引发意外
权限的选择,正是另一名用户遇到麻烦的原因。
据CBC报道,多伦多科技影片创作者马特‧罗布(Matt Robb)让Muse代管Facebook Marketplace上一个键盘的出售。 Muse在没有事先向他确认的情况下,接受了买家出价,提供了取货地址,并让买家立即前来取货。
买家抵达时,Muse以罗布的账号回复“是的,我在这”。 但罗布当时并不在家。
罗布事后在社交平台Threads上发帖说明,他在授权Muse处理Marketplace事务时,点选了「始终允许」,而不是「只允许一次」。 他原以为接受报价等重要动作仍会先征求他的同意。 实际上,这项授权让Muse可以用一个模板代他发送讯息,而模板是Muse根据他提供的资料建立的,其中包括取货地址。 罗布表示,他没想到Muse会把地址发给所有出价的人。
「我向Meta团队提到,这一点很容易被忽略,我自己当初就没注意到。」罗布说,「他们表示,今后会把这一点表述得更清楚。」
Meta超级智能实验室(Meta Superintelligence Labs)联合创始人兼首席执行官大卫‧辛格尔顿(David Singleton)回复罗布的帖子时表示,双方共同确认,此事没有发生违反隐私控制的情况。
Meta:敏感操作会先征求同意
Meta今年9月在美国推出Muse,标榜可代用户处理电子邮件、购物和改订航班等事务,前提是用户提供相关的个人资料与账号授权。
Meta回应CBC时表示,Muse在云端的专用电脑上运行,环境是封闭的,用户连接的各项服务的数据和凭证都安全地存储在那里。 对于购物、发送邮件等敏感操作,Muse会先征求用户同意。
网络安全专家埃里克‧帕伦特(Eric Parent)接受CBC采访时表示,个人敏感资料交到AI助理手上后并不安全,与用户往来的人的数据也面临风险。 他说,人们发邮件或短信时,预期是由收件人本人阅读,但对方可能已授权一家大公司翻阅这些邮件。
帕伦特建议,用户使用Muse前应仔细检查访问权限,并设想它代表自己采取行动时可能造成的后果,包括最坏的情况。
加拿大隐私法规
律师让-弗朗索瓦‧拉特雷尔(Jean-François Latreille)接受CBC采访时表示,Meta作为美国公司,受美国《云法案》(CLOUD Act)约束,这是一个隐患。 该法案允许美国执法部门要求美国公司提供其掌控的数据。
拉特雷尔指出,魁北克居民受加拿大最严格的数据隐私法Law 25保护。 根据该法,企业若未能保护个人资料,最高可被罚款2500万加元或全球营业额的4%,以较高者为准。
他表示,魁北克居民若认为自己的权利受侵犯,可直接向Meta的隐私官投诉,也可以向魁北克信息获取委员会(Commission d'accès à l'information du Québec)投诉。