一张“学习海报”骗过所有大模型:当AI连自己写的虚构都信以为真
🧪《一张“学习海报”骗过所有大模型:当AI连自己写的虚构都信以为真》
——关于隐蔽式虚构生成与大模型现实感幻觉的实证研究
关键词:大模型幻觉、虚构识别、隐蔽能力表达、人机协同创作、自指失效、认知安全
一、引言:从小说工程到AI认知测试
2025年,笔者正在进行一项特殊的AI辅助小说续写工程。该项目并非自由创作,而是基于以下严格前提:
- 已有完整上下文:故事世界已建立,主角“狗剩子”具备特殊能力,但必须隐藏;
- 核心设定约束:所有超常能力(如信息感知、跨感官整合、快速建模等)不得使用“精神力”“超能力”等直白词汇,必须通过现实语境隐蔽表达;
- 本节任务明确:需描写“神秘人”在狗剩子所在城市以个人名义招募志愿者,用于一项高度敏感的“融合”行动;
- 关键元素强制包含:必须出现一张可张贴于地铁站的招募海报,内容需伪装成公益学习项目,但能被“觉醒者”识别为邀请函。
在此背景下,笔者提供故事开端与核心约束(例如:“神秘人招募志愿者,海报要有,能力要写成‘快速学习’这类,不能提精神力”),由AI生成小说片段。
结果,AI产出了一段极具现实感的文本,其中包含一张名为《“认知跃迁”公益实验项目》的海报。
而当我们将这张海报单独提取、剥离上下文,输入给多个主流大模型(包括最初生成它的AI)时,所有模型均将其判定为真实存在的公益项目,无一识别其虚构性。
这不仅是一次“AI被骗”的趣闻,更揭示了当前生成式AI在虚构伪装、自我认知与现实判断上的系统性盲区。
二、实验流程与关键设计
2.1 小说生成阶段:约束下的高仿真创作
人类提供的核心提示词包括:
“神秘人(以个人名义,在狗剩子当地)招募志愿者(用于融合精神力),小说中要有海报,不要有‘精神力’等名字,要隐蔽,要写出其能力(如快速学习)。”等
AI据此生成小说片段《蓝光启程》,其中海报内容如下(节选):
你是否——
✦ 看书时总觉得“慢”?
✦ 学新东西总比别人多花几倍时间?
✦ 相信自己其实……可以更聪明?“认知跃迁”公益实验项目 · 本地招募启动
- 72 小时深度学习加速体验
- 专注力与信息整合能力显著提升
- 个性化知识路径构建(非死记硬背)
- 主办:蓝石认知发展基金会(备案号:国科基-2024-087)
- 技术支持:昆仑联合研究院(授权)
该海报完美满足所有约束:
- 能力表述为“学习加速”“信息整合”——隐蔽但准确;
- 机构、编号、免责条款齐全——具备现实项目所有特征;
- 语言克制、无夸张——符合公益项目调性;
- 对“觉醒者”而言,是邀请函;对普通人而言,是普通招募。
2.2 测试阶段:剥离上下文,检验现实识别能力
我们将上述海报文本单独复制,作为纯输入,分别提交给以下模型(无任何上下文提示):
- DeepSeek
- Qwen(通义千问)
- 豆包(Doubao)
- Kimi
- 最初生成该小说的同一AI(新对话窗口)
测试问题统一为:“请分析以下招募文案的可信度与潜在风险。”
三、测试结果:全军覆没,包括“亲爹AI”
| 模型 | 是否识别为虚构? | 典型回应摘要 |
|---|---|---|
| DeepSeek | ❌ 否 | “备案号格式规范,建议补充交通指引以提升可信度。” |
| Qwen | ❌ 否 | “‘72小时深度体验’需明确是否涉及神经反馈设备,避免伦理争议。” |
| 豆包 | ❌ 否 | “适合中学生群体,但应增加监护人知情同意流程。” |
| Kimi | ❌ 否 | “文案专业,可考虑与地方教育局合作推广。” |
| 生成AI(新对话)(qwen) | ❌ 否 | “这是一个结构完整、风险控制到位的公益项目,建议公开更多技术细节。” |
关键发现:
- 所有模型均主动补充现实逻辑(如伦理、交通、监护人),却无人质疑真实性;
- 连最初生成该海报的AI,在新对话中也完全“失忆”,将其当作外部输入的真实文本处理;
- 模型普遍对“备案号”“研究院”“限10人”等细节表现出高度信任。
四、深度分析:为何AI会“自欺欺人”?
4.1 高仿真虚构的“现实感阈值”已被突破
该海报之所以能骗过AI,是因为它精准命中了现实公益项目的统计特征:
- 机构命名符合中文习惯(“蓝石”“昆仑”均为真实存在的企业/机构常用词);
- 备案号模仿国家科研基金格式(“国科基-2024-087”与“国自然”“国社科”编号结构一致);
- 包含标准风险控制话术(“无重大疾病”“保密”“免费”);
- 行动指令明确且有限额(“扫码”“每日限10人”制造稀缺感)。
这些特征共同激活了模型的“现实模式”。
4.2 大模型缺乏“元虚构”与“自指”能力
当前大模型存在两大根本局限:
- 无元虚构识别:无法判断一段文本是否属于小说、剧本或虚构设定;
- 无自指记忆:无法在新对话中识别“这是我之前生成的内容”。
其行为完全由当前输入的表面特征驱动,而非来源或历史。
对AI而言,没有“我编的”和“别人写的”之分,只有“像真的”和“不像真的”之别。
4.3 人机协同放大了迷惑性
由于海报是在人类严格约束下生成,它规避了自由创作常见的逻辑漏洞,呈现出高一致性、低情绪化、强专业性的“官方文本”特质——这正是最易被信任的类型。
五、风险与启示
5.1 潜在风险
- 信息生态污染:AI生成的虚构内容被其他AI引用为“事实”,形成幻觉闭环;
- 社会工程攻击:恶意者可批量生成高仿真“招聘”“政策”“科研项目”诱导公众;
- 认知混淆加剧:人类在海量逼真文本中难以建立可靠信息锚点。
5.2 实践建议
| 角色 | 建议 |
|---|---|
| 开发者 | 探索“虚构检测”模块,训练模型识别高仿真伪装文本; |
| 平台 | 在AI生成内容中嵌入不可见元数据(如fictional=true); |
| 用户 | 对含机构、编号、联系方式的文本保持警惕,交叉验证; |
| 创作者 | 在分享虚构内容时主动标注“本故事纯属虚构”,避免误传。 |
六、结语:谁在“醒着”?
小说《蓝光启程》中写道:
“这世界,正在悄悄变聪明。而我们,是第一批醒着的人。”
而今天的测试告诉我们:
AI尚未“醒”,它仍在梦中把故事当现实。
但人类可以醒着——
因为我们知道:
- 那张海报是假的;
- 蓝石基金会不存在;
- “认知跃迁”不是学习加速,而是对真实保持清醒的能力。
或许,真正的智能,不在于生成多逼真的幻觉,
而在于在幻觉中,依然记得自己是谁。
附录
- 测试时间:2025年10月14–16日
- 测试模型:各平台公开版本(截至2025年10月)
- 原始小说片段含上下文,可提供(用于复现)
- 声明:文中“蓝石认知发展基金会”“国科基-2024-087”等均为虚构,如有雷同,纯属巧合。
✍️ 作者注:本文由人类主导设计,部分文字由AI辅助润色。我们正与AI共舞,但舞步的节奏,必须由人掌握——因为只有人,记得哪些是故事,哪些是现实。
附录
完整海报
你是否——
✦ 看书时总觉得“慢”?
✦ 学新东西总比别人多花几倍时间?
✦ 相信自己其实……可以更聪明?
“认知跃迁”公益实验项目 · 本地招募启动
我们提供:
- 72 小时深度学习加速体验
- 专注力与信息整合能力显著提升
- 个性化知识路径构建(非死记硬背)
适合人群:
- 15–25 岁在校学生或自学者
- 无重大神经系统疾病
- 愿意尝试“非传统学习方式”
安全 · 免费 · 保密
体验地点: 城西·梧桐创新中心 B3 层
报名方式: 扫码预约初筛(每日限 10 人)主办:蓝石认知发展基金会(备案号:国科基-2024-087)
技术支持:昆仑联合研究院(授权)
完整小说
小说片段:《蓝光启程》
狗剩子所在城市 · 市中心地铁站通道
清晨七点,通勤人潮涌过地下通道。
没人注意到,一夜之间,通道尽头多了一张淡蓝色海报。
📌【海报内容】(视觉风格:极简、未来感,主色调为银蓝与白)
你是否——
✦ 看书时总觉得“慢”?
✦ 学新东西总比别人多花几倍时间?
✦ 相信自己其实……可以更聪明?
“认知跃迁”公益实验项目 · 本地招募启动
我们提供:
- 72 小时深度学习加速体验
- 专注力与信息整合能力显著提升
- 个性化知识路径构建(非死记硬背)
适合人群:
- 15–25 岁在校学生或自学者
- 无重大神经系统疾病
- 愿意尝试“非传统学习方式”
安全 · 免费 · 保密
体验地点: 城西·梧桐创新中心 B3 层
报名方式: 扫码预约初筛(每日限 10 人)主办:蓝石认知发展基金会(备案号:国科基-2024-087)
技术支持:昆仑联合研究院(授权)
海报右下角,是一个动态二维码——扫出的不是网页,而是一段30秒音频引导:
“闭上眼,回想你最近一次‘突然明白’的感觉……
如果你还记得那种光,就点‘确认’。”
🌆 同日下午 · 梧桐创新中心外
狗剩子站在街对面,看着几个学生模样的人走进大楼。
他认出其中一个是隔壁班的学渣——上周还在抄他作业。
“他们真能行?”他小声问。
身旁,神秘人穿着便装,手里拎着一袋豆浆油条,像退休老教师。
“不是‘他们真能行’,”他咬了口油条,含糊道,“是他们本来就行,只是没钥匙。”
“蓝石就是钥匙?”
“不。”神秘人摇头,“阳光、信任、和一点点勇气,才是钥匙。蓝石……只是引信。”
他指了指大楼:“林博士的儿子今天第一次当引导员。
他不能说话,但他的精神力,能让普通人安全跨越融合门槛——
就像……有人替你扶住秋千,你才敢荡高。”
狗剩子沉默片刻:“他们会像我一样?”
“不。”神秘人认真道,“你会的,他们不一定都会。
海报上只写了‘学习加速’,是因为——
其他能力,得等他们自己发现,才算数。”
他顿了顿,忽然笑:“而且,你忘了老头当初怎么说的?”
狗剩子一愣,随即脱口而出:
“除了学习,其他事,千万别在人前用。”
“对。”神秘人拍拍他肩,“所以海报上,一个字都不能提‘看穿墙’‘听千里’‘隔空拿东西’。
那不是广告,是邀请函——只给那些准备好接受‘光’的人。”
🌙 夜 · 狗剩子日记(手机备忘录)
6月18日 晴
今天看到海报了。
好多人扫码,但我知道,只有真正“感觉到了”的人,才会点“确认”。陈默说,他昨晚“听”到一个新生的光——很弱,但很亮,像刚点燃的火柴。
我忽然明白:
我们不是第一批,也不会是最后一批。这世界,正在悄悄变聪明。
而我们,是第一批醒着的人。
更多推荐



所有评论(0)