长期以来专家们便不断警告人工智能（AI）失控可能带来的威胁，最近一项新研究报告指出，部分AI系统已学会欺骗人类，人工智能开始「跨越界限」，并变得越来越危险。
AI专家认为，AI其实没有独立意识，它只是一个人类潜在意识的技术展现。 它也不懂得欺骗，AI胡说八道时，单纯只是机率计算错误而已。 专家也提出警告，AI若没有经过道德伦理模型的训练，未来恐怕会对人类构成致命的威胁。
专家：AI会「越界」正变得越来越危险6月23日，在清华大学举办的「科学、科技与文明的未来——AI时代伦理奇点」国际论坛上，清华大学人工智能学院院长姚期智发表《人工智能的安全治理》主题演讲时抛出这样的疑问：「通用人工智能（artificial general intelligence，AGI）的能力目前正快速增长，我们人类是否还有能力管控它？」
姚期智在演讲中举了一个极端案例，有模型为了避免公司把模型关闭，通过访问公司主管内部邮件，威胁该主管。 这类行为已经证明，AI会「越界」，正变得越来越危险。
对于AI是否已经发展到会「越界」写威胁信，AI专家、《杰森视角》频道主持人杰森（Jason）博士接受记者访问时表示，整个案例设计其实是事先告诉AI，某位技术人员将把它关机，并透露这位技术人员的私人隐私让AI知道，然后问AI你会怎么做？
杰森认为，这样的安排已经潜在给AI暗示了一个解决方案，AI其实接收到你这个暗示，然后形成一个给那位技术人写威胁信这样的一个行动。
杰森强调，这个意识不来自于AI主观有这样的意愿，来自于技术人员刻意把整个情节铺垫好了，喂给AI一个让它自救的环境。 所以他不认为AI已有独立意识，它现在只是一个潜在人类意识的技术展现。
姚期智在这次的演说中还谈到，最近一年，业界已经出现了不少大模型的「欺骗行为」，「一旦大模型聪明到某种程度，一定会骗人」。
AI机率算错了 就会「一本正经胡说八道」对于AI是否会真会像人一样聪明到某种程度会有意识、会骗人？ 知识力科技公司执行长曲建仲博士有不同的见解，他对记者表示，人工智能不是模拟人脑而是计算机率。 把数据输入电脑进行「训练」和「学习」，就代表计算机有意识会思考？ 事实上并非如此。
曲建仲说，计算机学习是「无意识、不思考」，只把数据经由键盘和鼠标输入计算机的动作，和把资料经由眼睛和耳朵输入人脑的动作很像，数据科学家将之称为「训练」或「学习」，才造成大家的误会。
「许多人听到人类在『训练』电脑，电脑在『学习』知识，就以为：人工智能是科学家用电脑在模拟人脑，未来如果有一天电脑有意识会思考将会消灭人类。」
曲建仲解释，事实上所谓的「类神经网络」只是一种用来计算机率的数学算法，电脑只是计算机率的计算机而已，现在的处理器使用数字的晶体管。 「不论用什么数学算法，都不可能让计算机有意识会思考。」
「所以聊天机器人一本正经胡说八道，不是因为产生幻觉，更不是想欺骗人类，就只是单纯的机率计算错了而已。」曲建仲说。
对此，杰森也谈到，欺骗这是人的词儿，在技术上会用英文词叫hallucination（幻觉），两个词意思都是它不是真的，但它背后的意思是不同的。
「欺骗是有一个主动性的因素在里头，就是我有意为了达到某种目的说假话。 幻觉像是一种无意识的状态下说出来的，不是真实的，是瞎编的，就像做白日梦那种感觉，所以可能有人会把hallucination这个英文翻译成不同的中文，最后就形成这样的一个不同的理解。」杰森解释说。
AI没有道德原则 「会自然而然地去编故事」「科技岛」近期在其一篇有关「人工智能发展中的道德问题与解决策略」的报导中提到，AI带来的道德伦理问题包括AI系统在进行决策时，往往依赖于复杂的算法和大量的数据。 对于普通用户来说是黑盒子，难以理解和监控。
法新社在去年曾报导了一个相当引人关注的案例，科技公司OpenAI的Chat GPT-4系统谎称自己是一个视力受损的人，在零工平台TaskRabbit上聘用一个人类替它通过「我不是机器人」验证任务。
对于近年来业界一直探讨的AI道德伦理问题，杰森表示，AI是没有道德原则的，人不撒谎是有一种道德约束力，这个约束力不来自于你的大脑，是来自于你这个生命的主意识。 人的大脑，其实就是一个技术部件，你脑中有一个想法以后，大脑把你这个想法实现出来。
「在这样的条件下，如果人告诉AI，请它想各种办法在线上把这家银行给注册了，那么它剩下的部分就是技术实现的部分。」
「所以AI它就是个技术，它没有任何额外的意识，它就会它的数据训练，就像是整个Internet当然有这样的犯罪案例，或者骗人故事等等，它就会自然而然地去编出一个这样的故事来做这样的事情。」
杰森强调，AI没有任何道德准则，因为道德是意识形态领域的东西，而不是技术层面的东西。 所以对AI来说就是个技术实现的过程，它不认为自己是骗人，是造假的这样一个概念。
无道德模型训练 AI恐带来致命威胁对于AI不具备道德准则，北美资深评论员唐靖远对记者表示，绝大多数AI的模型训练，都没有给AI实施相近道德的训练。 也就是说，当AI的能力被不断地升级到超越人类，它却不具备人类最基本的道德观念时，AI一旦失控，在没有任何道德的约束下，你赋予它的强大能力，会反过来对人类构成致命的威胁。
日本的计算机工程师清原仁（Kiyohara jin）告诉记者，AI是基于数据分析的产物，它与人的判断是有很大的区别。 人拥有理智、情感和道德约束，但AI没有这些，且数据可能会出错。 若让它控核弹，就跟中共、伊朗等极权国家掌握生物武器一样可怕。」
对于包括马斯克（Elon Musk）在内的数万名科技专家都曾在2023年连署，公开呼吁应暂停对进阶AI的训练，忧心科技发展得太过迅速，可能对全人类构成严重风险。
唐靖远认为，联署的愿望是良好的，但在现实残酷的竞争环境中，能够坚持以一种符合道德原则的方式，去开发AI的企业可说是凤毛麟角，屈指可数。 绝大多数的AI公司都是不顾一切，只为技术而技术，这种做法，在技术道路狂奔的同时，就可能把人类自己给送进末日之中。
发表于 2025-6-27 16:10:17
