尽管现在AI模型愈来愈强大，AI专家琼斯（Elton Jones）还是有3件事不会让AI去安排。
编译 乐羽嘉
首先，琼斯强调，绝不会让AI完全规划任何可能有生命危险的户外活动。
他指出，AI非常适合用来帮忙预习该向国家公园巡逻员或专业登山向导提出的问题，ChatGPT的AllTrails扩充功能也可以推荐经过验证的最佳步道。但他绝不会单纯把AI当作野外徒步、登山、露营、溯溪或其他会受天气影响探险活动的权威依据。如果他想出门进行有风险的冒险，希望尽可能安全时，只会寻求人类的协助。
根据《Outdoor Guide》，规划登山路线时，了解自己的能力非常重要，但大语言模型并不了解你的能力和局限。安全专家与搜救人员也指出，AI经常做出不准确的评估，无论是规划登山还是度假，AI低估或高估所需时间与物资的情况屡见不鲜。也不总是能预测出最有效率或最实际的路线。因此，无论AI推荐了什么登山路线，都有绝对必要去查证所有资讯的准确性，包括是否符合你的技术水准。
此外，AI不一定能掌握即时状况。任何有经验的登山者都知道，准备登山时必须把主导天气和季节因素纳入考量。这些因素不仅影响你需要的装备，还会影响步道的可通行性。例如，狭窄且容易通行的高海拔步道，在强风影响稳定性时可能会变得极其危险。降雨会使溪流暴涨、无法通过，并让某些步道滑溜溜。
除了天气，还有许多障碍物和路况是AI可能无法察觉或识别的。桥梁可能被洪水冲毁或进入封闭维修，步道可能被倒塌的树木或巨石阻挡。如果AI引导你走上这些道路，你可能会被迫原路折返，使登山时间和距离超出原本的预期。
AI无法掌握最新状况是一回事，但AI还可能凭空创造不存在的地形特征，或抹去真实存在的地形，也就是出现所谓的「地理幻觉」（Geo-hallucinations），而且在很多AI中变得愈来愈普遍。这增加核实所有资讯的必要性，你必须对照官方地图，与最近熟悉这片区域的人讨论状况，做好准备、保持冷静，在真的迷路时采取正确的应急措施。
其次，只要涉及身体健康，琼斯绝不会靠AI决定特定疾病或伤势的最终处方。ChatGPT Health的存在是为了让使用者透过提问更了解自己的整体健康状况。这固然很好，但他绝不会利用ChatGPT和类似的AI工具来取得医疗层面的最终决定。他可以请AI提供该向专业医疗人员咨询的问题，或解释复杂的医学术语，但绝不会要它帮忙决定某个伤势该做什么手术。
先前一项针对四个主要聊天机器人（Claude、Gemini、ChatGPT和Llama）的研究发现，它们在回答诊断或治疗问题时存在多项失误，包括遗漏安全资讯（例如与流产相关的紧急预防措施）、给出不安全的建议（例如建议婴儿喝水）。聊天机器人还给予了不恰当的抚慰，例如在未考量患者病史的情况下，认为心口灼热感很可能是良性的。AI生成的搜寻摘要同样会出错，《卫报》调查发现，Google 的AI Overviews在胰脏癌和肝功能检查等主题上提供不准确、可能有害的资讯。
虽然AI模型在某些医疗基准上表现出色（例如在标准化医师考试中取得及格分数），但在临床决策支援方面的表现依然较差。在最近的一项试验中，当AI独立处理医疗情景时，达到了95%的诊断准确度，但当普通大众利用聊天机器人协助处理相同的医疗情景时，成功辨识出病症的比例只有35%。
一项独立的安全评估发现，ChatGPT Health对呈报的急诊医疗情景进行检伤分类时，有52%存在低估风险的情况。研究还观察到锚定偏见，当家人或朋友轻忽症状时，模型的检伤建议就会转向较不紧急的级别，很可能导致耽误救命治疗。
最后，琼斯也不会让AI协助规划重大财务决策。盲目听从AI关于买房、创业、投资的建议绝对不可行。询问这些财务决策的优缺点没问题，但把AI当作未来金钱选择的最终权威绝对是错误的。
根据Intuit Credit Karma于9月发布的调查，使用过生成式AI的美国人中，有三分之二（66%）曾用来获取理财建议。在Z 世代和千禧世代中，这个比例更高，都达到82%。
但学者指出，由于演算法存在幻觉，这些程式可能会给出错误答案。而且AI 对使用者撰写提示词的方式非常敏感，输入内容的微小差异可能会导致建议产生偏差。AI对使用者也没有受托人义务，在法律上不需要提供符合使用者最佳利益的理财建议。
但也有3种活动，琼斯会让AI协助规划：
1. 旅游
让AI帮忙排出每日行程、根据用户兴趣爱好寻找最佳景点、提供雨天备案，这些都是琼斯很放心让AI协助规划的旅游项目。不过，在登机前琼斯一定会亲自核实所有资讯。
2. 派对
琼斯向来不擅长筹备派对划，通常只负责处理送礼部分。但最近他开始习惯利用 Gemini寻找最佳场地、推荐礼物、创意装饰、音乐播放清单，以及筹备聚会时的自制菜单。每当遇到以烤肉为中心的节日（如美国独立纪念日、劳动节、夏天出生朋友的生日）时，他会和AI一起制定计划，再分享给其他筹备小组成员，展开规划。
3. 工作
ChatGPT为琼斯安排切合实际的待办清单，配合他的身心状态安排工作时段来提高生产力，也帮他找出晚上最适合的放松方式，让他在确保高效能工作的同时完成更多任务，同时保持健康与生活品质。
（资料来源：Yahoo Tech、Tom’s Guide、NCBI、Yahoo Travel、CNBC）
【延伸阅读】
一颗可卖2500！每周往返台北屏东，热血电机教授带400人种出台湾榴梿
独家》巨大赔1亿还不够？美国海关暂扣令一周年，接下来还有欧盟？
亚运田径｜杨俊瀚领军中华队男子400接力，隔16年镀银：短暂拥有金牌，心情复杂
※更多精彩报导，详见《天下杂志》网站。
※本文由天下杂志授权报导，未经同意禁止转载
如没特殊注明，文章均来源于互联网，版权归原创作者所有，如有侵权，请联系我们处理！
