杭州深度求索人工智能基础技术研究有限公司于2025年1月15日正式推出AI助手DeepSeek，凭借其自然语言处理、机器学习与深度学习、大数据分析等核心技术优势，在推理、自然语言理解与生成、语音图像识别与分析、实时交互与响应等领域表现出色，短短两个多月已经成为全球增长最快的AI工具。继ChatGPT之后，DeepSeek进一步加速全球对人工智能（AI）的广泛关注和应用。然而，与普遍“叫好”的声量相比，对于人工智能可能给社会带来负面影响的担忧显得微乎其微。

DeepFake（深度伪造），是指利用“生成式对抗网络（GAN）”的机器学习模型将图片或视频合并叠加到源图片或视频上，借助神经网络技术进行大样本学习，将个人的声音、面部表情及身体动作拼接合成虚假内容的人工智能技术。深度伪造最常见方式是AI换脸技术，此外还包括语音模拟、人脸合成、视频生成等。它的出现使得篡改或生成高度逼真且难以甄别的音视频内容成为可能，观察者最终无法通过肉眼明辨真伪。DeepFake这一概念最早出现在2016年，一直以来饱受争议。2024年2月OpenAI推出文生视频模型Sora，被认为是“ AGI（人工通用智能）的里程碑”，但同时有不少行内人士担心Sora对DeepFake将起到推波助澜的作用。

就在DeepSeek正式上线的同一天，世界经济论坛发布了第20版《全球风险报告》，报告指出，虚假信息和错误信息连续两年位居短期风险之首，持续对社会凝聚力和治理构成重大威胁，他们侵蚀公众信任并加剧国内外分歧。同时，今年调查的风险关联性结果显示，受访者认为人工智能的负面影响是助长误导性视频、图像、语音或文本传播的主要因素。AI应用的加速发展和日益普及带来了诸多机遇，但我们可能低估AI给社会带来的负面影响，因此，在积极拥抱新技术的同时，对AI技术的风险亦不能掉以轻心。

澳门创新发展研究会副理事长 王耀