ChatGPT是互联网上最受欢迎的AI聊天机器人，这是有充分理由的。在过去三年中，AI改变了我们与周围世界互动的方式，让我们更容易做各种事情。无论你是在计划旅行、试图节省杂货费用，还是在搜索特定信息，AI都能为你提供帮助。
虽然我是ChatGPT的粉丝，但我也了解它的局限性，你也应该了解，无论你是新手还是专家。它很适合尝试新食谱、学习外语或计划假期，但你不应该在生活中给ChatGPT完全的自由支配权。它并不是在所有方面都很出色——事实上，在很多事情上它可能相当不靠谱。
ChatGPT有时会产生幻觉信息并将其作为事实传递，它可能并不总是拥有最新信息。它非常自信，即使在完全错误的时候也是如此。（当然，其他生成式AI工具也是如此。）
当涉及税务、医疗账单、法庭日期或银行余额等风险较高的情况时，这就很重要了。如果你不确定何时使用ChatGPT可能有风险，以下是11种你应该放下AI并选择其他选项的情况。不要在以下任何情况下使用ChatGPT。
1. 诊断身体健康问题
我确实出于好奇向ChatGPT输入过我的症状，但得到的答案可能像你最可怕的噩梦。当你仔细研究潜在诊断时，你可能会从脱水和流感摇摆到某种癌症。我胸部有个肿块，把这个信息输入了ChatGPT。果然，它告诉我我可能患有癌症。实际上，我患的是脂肪瘤，这不是癌性的，每1000人中有1人会患。这是我的执业医生告诉我的。
我并不是说ChatGPT在健康方面没有好的用途：它可以帮你为下次预约起草问题、翻译医学术语，并整理症状时间表，这样你就能更好地准备就诊。这可以让看医生变得不那么令人不知所措。然而，AI无法开化验单或检查你，它绝对没有医疗事故保险。要了解它的局限性。
2. 照顾你的心理健康
ChatGPT当然可以提供接地技术，但当你的心理健康真正出现问题时，它无法接电话。我知道有些人将ChatGPT用作替代治疗师。CNET的Corin Cesaric发现它在处理悲伤方面略有帮助，只要她时刻记住它的局限性。但作为一个有真实人类治疗师的人，我可以告诉你，ChatGPT充其量只是一个苍白的模仿，最坏的情况下非常危险。
ChatGPT没有生活经验，无法读懂你的肢体语言或语调，完全没有真正同理心的能力。它只能模拟同理心。执业治疗师在法律授权和专业准则下运作，保护你免受伤害。ChatGPT没有。它的建议可能失效、忽视危险信号或无意中强化训练数据中的偏见。把更深层的工作——艰难、混乱的人类工作——留给真正受过专业训练的人类来处理。如果你或你爱的人处于危机中，请在美国拨打988，或你当地的热线电话。
3. 做出紧急安全决策
如果你的一氧化碳报警器开始响起，请不要打开ChatGPT询问你是否真的处于危险中。我会先出去，然后再问问题。大语言模型无法闻到燃气、检测烟雾或派遣紧急救援队。在危机中，你花在打字上的每一秒都是你没有撤离或拨打911的一秒。ChatGPT只能处理你提供的零碎信息，在紧急情况下，这可能太少且太晚。所以把你的聊天机器人当作事后解释器，而不是急救员。
4. 获得个性化财务或税务规划
ChatGPT可以解释什么是ETF，但它不知道你的债务收入比、州税级、申报状态、扣除项、退休目标或风险偏好。由于其训练数据可能不包括当前税务年度和最新利率上调，当你按下回车键时，它的指导可能已经过时。
我有朋友将他们的1099总额输入ChatGPT进行DIY申报。聊天机器人根本无法替代能够发现价值几百美元的隐藏扣除项或标记可能让你损失数千美元错误的注册会计师。当涉及真金白银、申报截止日期和国税局罚款时，请咨询专业人士，而不是AI。另外，要意识到你与AI聊天机器人分享的任何内容都可能成为其训练数据的一部分，包括你的收入、社会保障号码和银行路由信息。
5. 处理机密或受监管数据
作为科技记者，我每天都会收到禁令邮件，但我从未想过将这些新闻稿投入ChatGPT来获得摘要或进一步解释。这是因为如果我这样做，该文本将脱离我的控制，落在第三方服务器上，超出我保密协议的保护范围。
同样的风险适用于客户合同、医疗图表或任何受《加州消费者隐私法》、HIPAA、GDPR或普通商业秘密法保护的内容。这适用于你的所得税、出生证明、驾驶执照和护照。一旦敏感信息进入提示窗口，你就无法保证它存储在哪里、谁可以在内部审查它，或者它是否可能用于训练未来的模型。ChatGPT也不能免受黑客和安全威胁。如果你不会将其粘贴到公共Slack频道中，那就不要将其粘贴到ChatGPT中。
6. 做任何非法的事情
这一点不言自明。
7. 在学业上作弊
如果我说我从未在考试中作弊，那我就是在撒谎。在高中时，我用我的第一代iPod Touch偷看了一些我在AP微积分中难以记住的繁琐方程式，这是我并不特别自豪的事情。但是有了AI，现代作弊的规模使那看起来非常温和。
Turnitin和类似的检测器每学期都在更好地识别AI生成的文章，教授们已经能从一英里外听出"ChatGPT的声音"（谢谢你毁了我心爱的破折号）。停学、开除和吊销执照是真实的风险。最好将ChatGPT用作学习伙伴，而不是代笔人。如果你让ChatGPT为你做作业，你也只是在欺骗自己失去教育机会。
8. 监控信息和突发新闻
自从OpenAI在2024年底推出ChatGPT搜索（并在2025年2月向所有人开放）以来，聊天机器人可以在你询问的那一刻获取最新网页、股票报价、汽油价格、体育比分和其他实时数据，并配有可点击的引用，这样你就可以验证来源。然而，它不会自动流式传输持续更新。每次刷新都需要新的提示，所以当速度至关重要时，实时数据流、官方新闻稿、新闻网站、推送警报和流媒体报道仍然是你的最佳选择。
9. 赌博
我确实在NCAA男子篮球锦标赛期间通过ChatGPT成功命中了三重连击，但我永远不会向任何人推荐它。我见过ChatGPT产生幻觉并提供关于球员统计数据、误报受伤情况和输赢记录的不正确信息。我之所以能够兑现，只是因为我对照实时赔率双重检查了每个声明，即使如此我也是幸运的。ChatGPT看不到明天的比分，所以不要仅仅依靠它来让你获胜。
10. 起草遗嘱或其他具有法律约束力的合同
ChatGPT很擅长分解基本概念。如果你想了解更多关于可撤销生前信托的信息，尽管问。然而，当你要求它起草实际的法律文本时，你就是在冒险。遗产和家庭法规则因州而异，有时甚至因县而异，所以跳过证人签名或省略公证条款可能会让你的整个文件被抛弃。让ChatGPT帮你为律师建立问题清单，然后付钱让律师将该清单转化为在法庭上站得住脚的文件。
11. 制作艺术作品
这不是客观事实，只是我个人的观点，但我不认为AI应该用于创作艺术。我绝不反对人工智能。我使用ChatGPT进行头脑风暴和帮助写标题，但那是补充，不是替代。尽管使用ChatGPT，但请不要用它制作艺术作品然后冒充是你自己的。这有点恶心。
Q&A
Q1：ChatGPT在健康诊断方面有什么风险？
A：ChatGPT可能会产生幻觉信息，给出错误的诊断建议。比如输入胸部肿块症状，它可能说是癌症，但实际可能只是良性脂肪瘤。AI无法进行实际检查或开化验单，也没有医疗事故保险保障。
Q2：为什么不能用ChatGPT处理财务和税务问题？
A：ChatGPT不了解你的具体财务状况，如债务收入比、税务级别等个人信息。它的训练数据可能不包含最新税法变化，提供的建议可能已过时。另外，输入的财务信息可能被用于AI训练，存在隐私风险。
Q3：在紧急安全情况下为什么不能依赖ChatGPT？
A：在紧急情况下，大语言模型无法闻到燃气、检测烟雾或派遣紧急救援。每秒钟都很关键，花时间打字询问AI就是在浪费撤离或拨打911的宝贵时间。AI只能根据你提供的有限信息判断，可能太少且太晚。
