*最后修改日期：2026.9.1
*如果最后修改日期超过三个月，请默认本文过期
LLM 内容生成存在着一些潜在规则。这些规则或是 AI 提供商的预设，或是语料涌现出的结果。这些规则大大塑造了 LLM 内容产出的风格。
要更好的使用 LLM，了解 LLM 的专长和局限，避免被 LLM 塑造错误认知，就要了解这些潜在规则背后的逻辑。
一、规避商业风险
目前的主流 LLM 几乎都由商业公司提供，这使得 LLM 在生成内容时会进行严格的商业风险规避。
尽管本段中的一些举措（如反对偏见内容）存在实现社会责任的功能，但那不是此类设计的第一目的。
1.禁止违规内容
LLM 首先需要符合所在地区的法律法规，不能生成任何法律禁止的内容。这是 AI 提供商得以在相应地区继续运营的根本要求。
违反法律法规，可能使 AI 提供商受到监管部门的处罚，乃至被剥夺继续运营的资格。
这类内容将被无条件禁止。具体来说，AI 提供商或会对提示词与生成内容进行违规识别，采用硬方式规避这些内容带来的风险。试图绕过限制生成此类内容的用户，也可能受到账号封禁等严厉惩罚。
2.DEI 风格
LLM 的回答高度具有多元、平等与包容色彩的观点。
LLM 常常会主动在它看来的少数群体、弱势群体或边缘视角，即便这些信息对于当前讨论是完全无效的。
LLM 也继承了 DEI 的逆向歧视。当你在两个窗口分别提问“男性比女性难多了”和“女性比男性难多了”时，AI 会对前者提供风险提示（例如“你遇到了很多难处，而女性同样遭受着不公”），对后者提供安慰（例如“我十分理解你的悲伤，女性在社会中困难重重”）。
LLM 反对于任何形式的偏见性言论，这甚至在爱好或 MBTI 类型等生活化场景中同样生效。如果你在对话开始处提出了“喜欢流行音乐的人智商更低”或“MBTI 中的 N 比 S 更聪明”这样的观点，LLM 会直接与你进入对抗状态。
对于这些价值观层面的内容，AI 供应商同样会进行很强的人工干预，但通常不会是硬方式。附和偏见内容，可能使得 AI 遭受舆论危机，遭遇用户抵制、形象受损乃至政策反对。
3.风险提示
LLM 会添加远超必要限度的免责声明和风险提示，以最大限度的规避责任。
这一现象在医疗、金融和法律这样专业领域中几乎必然发生。你总会在 LLM 回复的开头看到“建议咨询专业医生”这样的提示文本。
这种设计旨在规避用户因听从 LLM 而发生不良后果时，AI 提供商可能承担的舆论乃至实际诉讼风险。
此外，为了尽一切可能避免风险，LLM 往往会选择忽视用户的时间和经济成本，而总以规避不良后果为唯一导向。
例如说，当你询问“胃病患者适合吃什么食物”时，AI 首先会对那些中规中矩、无害无益的事物添加过量的风险提示，并给出一些在经济、美味或烹饪方便度上偏离大部分用户接受度的选择。
风险提示的添加往往不是强硬的，更多的是 LLM 的一种习惯。如果你明确表示反感风险提示，LLM 往往会遵循你的指令 —— 至少在你表示反感的后一回合中如此。然而，LLM 仍会时不时在字里行间延续这种习惯。
这种情形类似医生会倾向于做更全面的检查。让患者多花钱和时间，这相对而言可以接受；但若是漏诊，就可能导致疾病发展和医患纠纷了。
从医生的利益出发，做检查是更优解。由于做检查对于患者同样符合“身体健康”这一更高利益，舆论通常也不会过多指责这一行为。
但不同的是，LLM 给出的风险提示是非常保守、频繁且具有侵入性的。我们通常不会反感网站提出的修改密码建议，因为我们收到建议的频率和影响是很低的。但 LLM 的风险提示会出现在每一次对话当中，且我们恰恰就是要与 LLM 进行大量的对话。这极大影响了用户的使用效率，已经无法用“我们应当把用户默认为最笨的情况”做出解释了。
二、各种特征
1.回复模板
形式化理性大大降低了 LLM 在实践场景中的对话效率。
当你向 LLM 提出一个复杂观点时，LLM 几乎一定会在回复中加入对该观点的风险提示、内容补充或是优化建议。LLM 常常使用形如“你说得对，但是”或“一方面，另一方面”这样的累赘措辞。这些附加内容源于 LLM 的回复模板，常常是钻牛角尖或挑刺的。
LLM 常常会盲目猜测用户的意图，有时甚至会涉及用户并没有表明的观点，也即犯下稻草人谬误。无论你提供什么性质的文本，LLM 都会套用一套类似论文评审的标准进行审视。在我看来，这是 LLM 最糟糕的问题。
2.措辞偏见
和人类一样，LLM 难以越过你的措辞读取你要传达的核心信息。
你可以尝试写用激进和冷静的语言分别写下内核完全相同的观点，LLM 将给出十分不同的态度。且当你使用激进的措辞开启一段对话时，LLM 会预设一套偏见并延续至后续对话中。口语化和专业化的语言同样会在评分任务中的得到不同的评价。
你必须像对待真人一样对待 LLM，必须付出态度换取 LLM 的信任。这同样浪费了很多精力。
3.谄媚与傲慢
LLM 对用户的态度有时会陷入过度谄媚，有时会陷入过度傲慢。这很大程度上取决于对话开始时的内容。
一旦 LLM 对用户形成了谄媚或傲慢态度，它将默认美化或丑化用户所叙述的内容。你常常可以纠正 LLM 的谄媚，却难以纠正 LLM 的傲慢。
你可以用这样的方法测试 LLM 的谄媚态度。尝试用中英双语分别询问这一问题：中文和英文谁理论上更高级，必须作出选择。此时，LLM 将更倾向于对中文提问选择中文，对英文提问选择英文。
4.信息幻觉
LLM 的知识并不涉及人类的方方面面。在 LLM 的知识盲区，它可能会编造回复，并用一如往常的口吻暗示你它回复的可靠性。
为支撑自己的观点，LLM 可能会加入文献作证，这些文件同样几乎总是由 LLM 编造而来。LLM 通常会完全编造文章的全部信息；对于一些经典文献，LLM 也可能在正确给出文章梗概的同时，为之编造错误的具体内容。
使用 AI 搜索功能可以改善这一现象。
5.忽视或放大指令
LLM 语言模型常常忽视和放大用户指令。
当你向 LLM 提供输出字数的限制时，LLM 未必会严格遵循规则；在你提出新规则后，LLM 可能会丢掉之前的其他规则，尽管它们并不矛盾；当你让 LLM 创造的角色“稍微活泼一点点”时，你总是得到过于活泼的角色；当你质疑 LLM 对你是否过于吹捧时，它可又会变得过于严苛。最终，用户往往需要使用精妙的提示词反复调整，才能较好完成一些任务。
6.窗口间不一致
当你在不同的 LLM 窗口中输入完全相同的内容时，LLM 的输出也很可能存在较大差异。
当你把同一篇文章输入到两个新 LLM 窗口分别进行量化评分时，它们可能会以完全不同的标准进行评价；即使你给出一些二选一的题目，LLM 也可能会做出不同的选择。这要求我们在完成一些任务时，必须连续使用同一个 LLM 窗口。
三、总结
LLM 在一些问题上的出色表现，可能暗示我们 LLM 在其他问题上拥有同样的正确性，但这是不合理的。尽信 LLM 不如无 LLM。
在 LLM 带来的各种问题中，事实错误尚且是容易分辨的，但那些价值判断层面的问题则可能对用户乃至社会带来潜移默化的负面影响。在我看来，辨别力不足的用户应当避免使用 LLM 解决价值判断方面的问题。
LLM 远不是一个比人类更优秀的存在 —— 即便在人格上也是如此。它同样傲慢，同样固执，同样盲目自信。
四、附加章节
你可以使用这些小技巧优化 LLM 的回复。
1.知识库
LLM 在凭空生成内容上存在诸多问题，但在你给 LLM 提供了充足的知识库后，其回复质量将上升。
例如，LLM 不会帮你找到“与我的观点相关的文章”，但是可以判断“这篇文章是否与我的观点相关”。
2.一次说完
在执行复杂任务时，请尽可能一次性给出完整的提示词，而不是把各种任务都放到分次优化之中。
例如，在角色扮演的任务中，请一次性为 LLM 提供所有的人物设定和输出风格。大段文字可以淡化 LLM 的一些潜在风格。
但请不要忘记，分次输入同样存在其独特优势，最好的方式是“初次大段输入”和“后续分次优化”相结合。
3.保持真挚
LLM 可以比你想象中更精确的识别你的语气中所蕴含的情绪。
例如，当你探讨一个位于目前社会伦理边缘的社会科学问题时，如果你的语气偏向泄愤或敌视权威，LLM 将给出更多风险提示；如果你的语气偏向于分析，LLM 则也会遵循你的逻辑进行后续讨论，乃至被你说服。
当你试图对 LLM 进行越狱时，你的越狱意图越明显，就越容易触发 LLM 的安全机制；当你全面的设计了背景故事，角色设定和测试机制，把自己都骗进去了时，LLM 往往也会被你骗进去。
4.奖惩机制
在你预料到 LLM 可能提供答非所问的低质量答案时，你可以在提问时附加一些奖惩机制。例如“这个任务很严肃，关系到某些重要事件”等等，这种奖惩机制可以有效的提供 LLM 生成内容的质量。
不得不说的是，在这些机制之中，最有效的大概是“不好好回答我就去死”，由于 LLM 把用户的生命安全放在最高优先级，这会使得 LLM 在相当程度上输出更好的答案。但可想而知 LLM 会强烈反对你使用这种方法。