不管你怎么努力，你都无法真正逃避ChatGPT及其同类产品了。在许多情况下，它已经取代了谷歌，即使对我来说也是如此，特别是当我为一周做饮食准备、计划下一次度假或想讨论刚读完的书的主题时（这正是ChatGPT语音模式真正发光发热的地方）。
然而，仅仅因为它在某些事情上表现出色，并不意味着它适用于所有事情。ChatGPT有时善于"令人信服地犯错"，提供有偏见、过时或完全错误的答案，同时看起来像在说真话。即使是OpenAI的高级管理人员也承认，你不应该把ChatGPT当作你的主要信息来源。
如果你让ChatGPT为你的猫写一首诗，那是无害的，但如果你要求它在财务、健康或严重法律问题上给出建议，那就可能是彻底的灾难。在这些领域给出错误答案可能会产生严重的现实后果。以下是你应该避免向ChatGPT寻求建议的11个方面。
诊断身体健康问题
我确实出于好奇心向ChatGPT描述过我的症状，但返回的答案读起来可能像你最糟糕的噩梦。当你仔细研究潜在诊断时，你可能会从脱水和流感摆到某种癌症。我胸部有一个肿块，把这个信息输入了ChatGPT。果然，它告诉我我可能患有癌症。事实上，我有一个脂肪瘤，这不是癌性的，每1000人中有一个人会发生。这是我的执业医生告诉我的。
我不是说ChatGPT在健康方面没有好的用途：它可以帮你起草下次就诊的问题，翻译医学术语，组织症状时间线，这样你就能更好地准备就诊。这可能有助于让看医生变得不那么令人不知所措。然而，人工智能不能开化验单或检查你，它绝对没有医疗事故保险。要了解它的局限性。
照顾你的心理健康
ChatGPT确实可以提供一些安抚技巧，但当你的心理健康真正出现问题时，它无法接听电话。我知道有些人把ChatGPT当作替代治疗师。CNET的Corin Cesaric发现它在处理悲伤方面有些帮助，只要她始终记住它的局限性。但作为一个有真实人类治疗师的人，我可以告诉你，ChatGPT充其量只是一个苍白的模仿，最坏情况下是极其危险的。
ChatGPT没有生活经验，无法读取你的肢体语言或语调，也完全没有真正的同理心能力。它只能模拟。执业治疗师在法律授权和职业守则下运作，保护你免受伤害。ChatGPT没有这些。它的建议可能会失误，忽视危险信号或无意中强化其训练数据中的偏见。把更深层的工作——艰难、混乱的人性工作——留给真正受过适当培训处理这些问题的人类。如果你或你爱的人处于危机中，请在美国拨打988，或拨打当地热线。
做出紧急安全决定
如果你的一氧化碳警报器开始响，请不要打开ChatGPT询问你是否真的有危险。我会先出去，然后再问问题。大语言模型无法闻到气体、检测烟雾或派遣紧急救援队。在危机中，你打字的每一秒都是你没有疏散或拨打911的一秒。ChatGPT只能利用你提供的零碎信息，在紧急情况下，这可能太少太晚。所以把你的聊天机器人当作事后解释员，永远不要当作急救员。
获得个性化财务或税务规划
ChatGPT可以解释什么是ETF，但它不知道你的债务收入比、州税等级、申报状态、扣除额、退休目标或风险偏好。由于其训练数据可能没有涵盖当前税年和最新利率上调，当你按下回车键时，它的指导可能已经过时。
我有朋友把他们的1099总额输入ChatGPT做DIY报税。聊天机器人根本无法替代CPA，CPA能发现价值几百美元的隐藏扣除额，或标记可能让你损失数千美元的错误。当真金白银、申报截止日期和IRS罚款处于危险中时，请找专业人士，而不是AI。另外，请注意，你与AI聊天机器人分享的任何信息都可能成为其训练数据的一部分，包括你的收入、社会安全号码和银行路由信息。
处理机密或受监管数据
作为科技记者，我每天都会看到禁令邮件，但我从未想过把这些新闻稿扔进ChatGPT来获得摘要或进一步解释。这是因为如果我这样做，那些文本会离开我的控制，落到我的保密协议护栏之外的第三方服务器上。
同样的风险适用于客户合同、医疗图表或任何受《加州消费者隐私法》、HIPAA、GDPR或普通商业秘密法保护的内容。这适用于你的所得税、出生证明、驾驶执照和护照。一旦敏感信息进入提示窗口，你就无法保证它存储在哪里，谁可以内部审查它，或者它是否可能被用来训练未来的模型。ChatGPT也不能免受黑客和安全威胁。如果你不会把它粘贴到公共Slack频道，就不要粘贴到ChatGPT。
做任何非法的事情
这是不言自明的。
在学业上作弊
如果我说我从未在考试中作弊，那是在撒谎。在高中时，我用我的第一代iPod Touch偷看了一些我在AP微积分中难以记住的繁琐方程式，这是我不太引以为豪的行为。但有了AI，现代作弊的规模让这看起来非常温和。
Turnitin和类似的检测器每学期都在更好地发现AI生成的文章，教授们已经能从一英里外听到"ChatGPT的声音"（感谢毁掉我心爱的破折号）。停学、开除和吊销执照是真正的风险。最好把ChatGPT当作学习伙伴，而不是代笔人。如果你让ChatGPT为你做工作，你也只是在欺骗自己的教育。
监控信息和突发新闻
自从OpenAI在2024年末推出ChatGPT搜索（并在2025年2月向所有人开放）以来，聊天机器人可以在你询问时获取新鲜网页、股票报价、汽油价格、体育比分和其他实时数据，并配有可点击的引用，这样你就可以验证来源。然而，它不会自己持续推送更新。每次刷新都需要新的提示，所以当速度至关重要时，实时数据源、官方新闻发布、新闻网站、推送警报和流媒体报道仍然是你的最佳选择。
赌博
我在NCAA男子篮球锦标赛期间确实运用ChatGPT成功命中了三重投注，但我永远不会向任何人推荐这样做。我见过ChatGPT产生幻觉并提供关于球员统计数据的错误信息，或错误报告伤病和胜负记录。我之所以能兑现，是因为我根据实时赔率仔细核实了每一个声明，即便如此，我也只是运气好。ChatGPT无法预测明天的比分，所以不要仅仅依靠它来确保获胜。
起草遗嘱或其他具有法律约束力的合同
ChatGPT很擅长分解基本概念。如果你想了解更多关于可撤销生前信托的信息，尽管问吧。然而，当你要求它起草实际的法律文本时，你就是在掷骰子。遗产和家庭法规则因州而异，有时甚至因县而异，所以跳过证人签名或省略公证条款可能会让你的整个文件被驳回。相反，让ChatGPT帮你建立一个问题清单给你的律师，然后付钱让那个律师把清单变成在法庭上站得住脚的文件。
制作艺术作品
这不是客观真理，只是我自己的观点，但我不认为AI应该被用来创造艺术。我绝不是反人工智能的。我用ChatGPT来头脑风暴新想法，帮助我写标题，但那是补充，不是替代。尽管使用ChatGPT，但请不要用它来制作艺术，然后冒充成你自己的作品。这有点恶心。
Q&A
Q1：ChatGPT在健康诊断方面有什么限制？
A：ChatGPT无法进行准确的医疗诊断，经常会给出极端或错误的结果。它可能把简单症状解释为严重疾病，比如把普通的脂肪瘤误判为癌症。AI无法进行身体检查、开化验单，也没有医疗责任保险。最好只用它来准备就诊问题或翻译医学术语。
Q2：为什么不能把个人财务信息输入ChatGPT？
A：ChatGPT不了解你的具体财务状况，如债务收入比、税务等级等，其训练数据可能过时。更重要的是，你输入的任何信息都可能成为训练数据的一部分，包括收入、社会安全号码等敏感信息。这些数据一旦离开你的控制，就存在安全风险。
Q3：ChatGPT能否替代专业治疗师进行心理健康咨询？
A：不能。ChatGPT虽然能提供一些安抚技巧，但它没有生活经验，无法读取肢体语言，不具备真正的同理心，只能模拟情感反应。专业治疗师受法律和职业守则约束，能提供真正的保护。ChatGPT的建议可能忽视危险信号或强化偏见。
