关于人工智能造假的一点思考

理财百科阅读 175 2024-02-25 19:39:30

任何技术都是双刃剑，人工智能技术也不例外，ai技术在军事上可以帮助隐真示假，造势用势，在民口上增强产品/系统的可用性，然而，近年来，据报道大量的人工智能合成信息占据了人们的真实生活及虚拟生活―互联网空间，如“骚扰电话”、“好评灌水”、数据污染、合成声音、ai生成真人视频/图像/不存在的事物等，鉴于此，不少专家认为：专家认为：人工智能的快速发展使得真实/虚拟生活空间从人与人的真实交流转化为智能化、自动化的平台间交互、对抗。那么该如何认识人工智能造假这个现象，进而如何改变这个现象呢？这是当前需要深入思考的一个重要问题。

机器本质上只是人造物，是不会造假的，它们更类似于函数，即将输入变为输出，只计多少，不问是非，更为关键的是数据/信息的变异是有人参与的演化、演变、演义而不仅是演算。所以人工智能造假本质上是人的造假，是人通过编制好的程序和设备进行预设的有针对性的造假，就像许多魔术一样，只不过是用一些旧的公式定理结合新的情境态势而拟合出的新算法而已（如一个训练良好的gan（生成对抗网络技术）配上丰富的数据资源，实现逼真的照片、视频及文本材料已经不是难事。），其目的是使人产生感觉上的错乱、知觉上的欺骗，进而实现淹没真实、虚假得逞的局面。

然而世界是由事实（关系）构成的，而不是由事物（属性）构成的，从根本上而言，就算找到了构成事物的最基本单元，机器也无法真正明白各单元之间的相互作用，而这些相互作用关系才是世界最大的秘密，如现代物理学发现人的身体与水、石头等的基本物理微粒构造一样，但仍无法解释人类为什么竟然可以产生意识、情感。如果我们抓住了“事物之间的联系是世界之源”这个本质，则大多数人工智能造假情况都可能被识破被痛击。

人工智能造假技术可以深度态势感知或上下文感知技术进行相应的过滤、筛选排除，如一个正常人不会轻易做不正常的事，一个正常的机构也不会肆无忌惮地无法无天。但是非常时期非常情境却有可能出现偶然意外，所以一般性地识别不难，难的是特殊情形下的细微区分和细甄。除了常规性的的防伪技术手段之外，我们还需要开发新的深度态势感知技术和工具，尽可能的在造假的前期进行识别干预，从态、势、感、知等几个阶段展开深入分析和应对，如开发隐藏在视频中的水印、生成隐藏信息的对抗神经网络、具有深度态势感知的声音/视频/图像/电话/网络分析器、反像素攻击等技术，此外还可以研究相应的管理应急机制方法和手段，加强相关的法律道德管理，及早制定相关的法律法规，做好相应的知识普及，让反人工智能造假技术相关应用能够真正落地到相关单位和千家万户之中，真正实现人-机-环境系统联动的反人工智能造假生态链。

假的真不了，真的假不了，魔高一尺，道高一丈，毕竟，再好的人工智能都是人造的，而人工智能造的假应该不可能是完备的，而人类本身就是对付不完备性最好的猎人，坏人在真实世界里得不到的东西在虚拟世界里也不会得到的，毕竟以坏人为中心的情境是违反大多数人最根本利益的。