潮新闻 评论员 刘晓庆

(图片来源：微博截图）

(资料图片)

《红楼梦》太虚幻境中有这样一副对联：假作真时真亦假，无为有处有还无。个中人生智慧自不必说，只是描绘的意境和如今的网络环境倒也有几分相似：让人真假难辨。

据中国青年报消息，近日，网传缅甸一条大型游轮上有8间器官移植手术室，活人被现场摘器官，相关视频和报道引发广泛关注。

5月4日，微博社区观察员官方账号对上述消息进行辟谣并对造谣用户予以禁言处置，称：该用户未经核实，通过传播站外不实信息的方式博取眼球，违反社区公约，目前已处于禁言状态；也请广大用户以官方新闻报道为准，切勿轻信各类通过拼凑网络素材、由AI合成的搬运视频。同时忠告广大用户切勿轻信各类通过拼凑网络素材、由AI合成的搬运视频。

实际上，AI“写”过的谣言不只一条，俨然成了谣言传播的“新赛道”。此前，一条关于杭州3月1日取消限行的“新闻稿”就是由AI软件创作而成。今年3月，广州一女子的地铁照被AI一键脱衣，造谣图也被有心者全网散播。

AI等新技术就像一扇窗，它让我们得以洞见世界的丰富立面；也像一把钥匙，开启人们关于未来的大胆想象。近年来，随着AI技术的日渐成熟，换脸、换装、变声等科幻电影中的场景慢慢走进了现实，人们感叹“科技改变生活”，也乐于搭乘上技术飞速发展的“未来号”快列。

技术本中立，善恶在人心。AI技术被用来“生恶”还是“行善”，往往就在一些人的一念之间。

当AI技术沦为别有用心者炮制谣言的“帮凶”时，其危害更是不容小觑。就像一句俗语说的：“流氓不可怕，就怕流氓有文化”，同理，谣言不可怕，就怕谣言穿上高科技“外衣”。以往散播谣言时那些“一眼假”的图文视频，如今已经很难骗到网友了。但经由AI技术“包装”过的谣言，却以“真假参半”“以假乱真”的方式模糊了是非对错的边界，技术手段越先进，伪装后的假象越难以识别。

这种“造谣”极为隐蔽且极具说服力，即便是媒介素养较高之人，也很难第一时间揭开高科技“面纱”，看清背后的真相。于是，本着“宁可信其有，不可信其无”的朴素心理，面对不确定性滋生时的恐慌，很多人都在不经意间沦为AI谣言的传播者和受害者。结果是，社会秩序被扰乱了，舆论环境的杂音变多了，甚至有些谣言还触及法律底线，挑战公序良俗。

无数事实验证了一个真理，良驹尤须缰绳牵。AI技术飞速发展的当下，必要的监督管理恰是其行稳致远的有力保障。今年4月，为促进生成式人工智能技术健康发展和规范应用，国家互联网信息办公室曾公开征求意见：应对AI生成的图片、视频等内容进行标识；应当指导用户科学认识和理性使用生成式人工智能生成的内容，不利用生成内容损害他人形象、名誉以及其他合法权益，不进行商业炒作、不正当营销。既然AI生产出的部分产品并非事实，就该有醒目的标识将其与事实区分开，从源头断绝不法分子利用技术“作恶”的路子。

霍金曾说：“强大人工智能的崛起，可能是人类遇到的最好的事情，但也可能是最坏的事情。”在中立的AI技术面前，我们理应让它成为蕴藏丰富宝藏的“阿里巴巴的山洞”，而非释放出无限罪恶的“潘多拉的魔盒”。