从假头像、多语言聊天到情感铺垫,AI正把诈骗链条中最耗人力的“建立信任”环节拆解成可批量复制的工序,杀猪盘的成本结构随之改写。

OpenAI即将推出的GPT Image 2.5模型被曝可生成高度逼真的图像,甚至能伪造GPT-6发布会截图和奥特曼推文,文字与面孔均无明显破绽。

欧盟《人工智能法》透明度要求将于8月2日起执行,聊天机器人、深度伪造内容和AI生成内容将面临更明确标识要求。

美国旧金山市检察官办公室要求苹果App Store和谷歌Play商店下架13款可生成深度伪造色情内容的“AI脱衣”应用,苹果已移除3款并终止开发者账号。

AI生成的虚假图片和新闻在社交平台泛滥,从库克“入职”小米到贾跃亭“回国”,逼真程度令人难辨真假。造谣成本极低、收益可观,社会信任体系面临严峻挑战。监管已出手,但辨别真假仍靠用户自身。

德国民调机构最新调查显示,超过90%的德国人对AI被用于深度伪造表示担忧。其中,53%的人认为风险“非常高”,另有38%认为“高”。调查还揭示了民众对AI假新闻、就业替代等问题的普遍忧虑。

德国民调机构最新调查显示,超过90%的德国人对人工智能被用于深度伪造表示担忧。超过半数受访者认为风险“非常高”,同时民众对AI生成的假新闻、就业冲击等问题也普遍感到不安。