ChatGPT
会一本正经地编造引用——它生成的是「最像回答的文本」,不是核验过的事实;流畅不等于真实,当检索器用之前先想清楚这一点。
2022 年 11 月 30 日上线,五天百万用户——但这条评鉴不关心它多流行,只关心一个使用边界:它是语言模型,不是数据库。它输出的每一句都是「在此上下文里最像答案的文本」,与「被核验过的事实」是两种东西,只是恰好经常重合。
正确的用法是把它按在初稿工具的位置上:扩写、改写、起结构、换语气,这些活它又快又好;一旦让它独立提供事实、数字、引用,就必须假设其中有编造,逐条核对。边界诚实给 2 分,不是它不好用,而是它对「我不知道」这件事撒谎成性。
档案
- 发布
- 2022-11-30
- 开发
- OpenAI
- 形态
- 对话式助手
安全用法三步
- 第一步把事实喂给它,不要向它要事实——上下文里给足材料。
- 第二步要求它把不确定的地方显式标出,不许补齐。
- 第三步凡是要发表的数字、引用、人名,离开对话框自己核一遍。
示例提示词
prompt.txt
你是我的初稿助手，不是事实来源。
任务：把下面的要点扩写成三段说明文字。
约束：
1. 只用我给出的事实，不要补充外部数据；
2. 任何你不确定的地方，用【待核实】标出，不要编造；
3. 结尾列出需要我另行核对的说法。
要点：
- …把它当初稿工具而非检索器 —— 让不确定之处显形。