《纽约时报》报道：AI健康咨询，便利与隐私风险并存
据《纽约时报》记者Maggie Astor报道，26岁的莫莉·克尔（Mollie Kerr）是一位居住在伦敦的纽约人，今年夏天，当她的血液检查报告显示荷尔蒙失衡时，她感到非常不安。
在患者门户网站看到结果后，她担心得不敢等待医生来解读。
于是，带着一丝不安，她把完整的报告粘贴进了ChatGPT。聊天机器人告诉她，她的化验结果可能预示着多种疾病，但“最有可能”是垂体瘤或与垂体瘤相关的罕见疾病。
聊天机器人的猜测并非空穴来风——克尔的医生也同意安排MRI检查——但结果却错了。她并未被检测出肿瘤。
另一位63岁的患者埃利奥特·罗伊斯（Elliot Royce）则有着不同的经历。他向ChatGPT上传了自己五年的病历，其中包括复杂心脏病史和一次心梗的记录。罗伊斯在运动时开始感到越来越不适，一项检查显示他的一条动脉部分堵塞。
他的医生认为，暂时只需密切观察即可。然而，根据ChatGPT的建议，罗伊斯坚持要求进行更具侵入性的诊断手术，结果发现动脉有85%的堵塞——这是一个严重的问题，随后通过支架植入术得以解决。
AI健康咨询日益普及，风险不容忽视
如今，全世界数百万人都正在使用聊天机器人，试图更好地了解自己的健康状况。其中一些人，像克尔和罗伊斯，不仅限于提出医疗问题，甚至走得更远。
克尔、罗伊斯以及《纽约时报》采访的十几位其他患者透露，他们已将化验结果、医学影像、医生手记、手术报告等大量敏感资料提交给了聊天机器人。
然而，这种做法的信息不准确性是主要担忧之一；有研究发现，未经医学培训的人从聊天机器人那里获得的正确诊断率不足一半。
此外，上传敏感数据还会带来隐私风险，尽管换来的是可能感觉更个性化的回复。哈佛医学院助理教授丹妮尔·比德曼（Danielle Bitterman）博士指出，不应盲目假定聊天机器人对检测结果的分析是“个性化”的，这种想法并不安全。
比德曼博士还在麻省总医院布里格姆负责数据科学与人工智能的临床工作。
她的研究发现，即使提供了具体的患者背景信息，聊天机器人也可能倾向于给出更普遍适用的回答。“仅仅因为你向语言模型提供了所有这些信息，并不意味着它们会像医生那样有效地利用这些信息，”比德曼博士指出。
法律真空与数据泄露风险
一旦人们上传了这类数据，他们对其如何被使用就只有有限的控制权。美国联邦医疗隐私法案《健康保险流通与责任法案》（HIPAA）并不适用于这些热门聊天机器人背后的公司。
范德堡大学医学中心生物医学信息学教授布拉德利·马林（Bradley Malin）表示，从法律上讲，用户基本上放弃了所有与医疗隐私相关的权利，剩下的只有特定公司愿意提供的保护。
ChatGPT的开发商OpenAI表示，他们有广泛的安全措施来保护用户的私人信息。一位代表指出，用户可以选择不将他们的聊天记录用于训练未来的模型，并表示公司会对其系统进行模拟攻击测试。她还提到，公司只与第三方服务提供商分享最少量的数据。
尽管如此，数据隐私专家仍表示，将医疗信息上传到任何聊天机器人都有风险——这不仅因为不同聊天机器人的政策各异，还因为要消除所有安全漏洞非常困难。其中一个问题是，许多人并未选择不将自己的数据用于模型训练。
南佛罗里达大学贝利尼人工智能、网络安全与计算学院助理教授卡尔尼·查加尔-费弗科恩（Karni Chagal-Feferkorn）指出，数据泄露的可能性依然存在。
她解释说，如果用户上传医疗数据，而后续有人向模型询问相关信息，聊天机器人“可能会意外泄露非常敏感的信息”。
OpenAI表示他们正在努力“最大限度地减少”这种可能性，其代表也称ChatGPT经过训练不会学习或泄露此类信息。然而，数据隐私专家仍然认为这种情况是可能发生的。查加尔-费弗科恩表示：“他们的措施无疑能降低风险，但并非也可能无法做到万无一失。”她补充道：“不要害怕这项技术，但要充分认识到其中的风险。”
个人隐私：防不胜防的风险
少数患者表示，他们在与聊天机器人分享病历前，会进行姓名等个人信息的匿名化处理和元数据清理，但这可能还不够。
威尔康奈尔医学院和纽约长老会人口健康科学系主任雷努·考沙尔（Rainu Kaushal）博士指出，即使没有附加姓名，足够详细的信息有时仍可能被追溯到个人。医疗信息一旦泄露，后果可能非常严重。
例如，尽管大多数雇主歧视残障人士是违法的，但这种情况并不少见。
大多数接受《纽约时报》采访的人表示，他们对此并不困扰。88岁的罗伯特·格布哈特（Robert Gebhardt）说：“我的手机无论我走到哪里都在‘跟着’我。”他向ChatGPT上传了自己15年的病历，并请它评估症状的紧急程度以及药物的适当性。他认为：“任何想了解我的人都能查到，包括我的医疗数据。这是生活中的事实，我已经接受了。”
53岁的斯蒂芬妮·兰达（Stephanie Landa）自去年被诊断出患有转移性阑尾癌以来，一直将检测结果输入ChatGPT。她非常看重ChatGPT能即时概览她的检查结果，尤其是在结果令人心碎时，比如当报告显示癌细胞已扩散至整个腹部时。
她说，如果在看医生前就已经消化了坏消息，她就能更有效地利用就诊时间。有一段时间，她曾费尽心思地涂抹识别信息。但后来她考虑到自己侵袭性癌症的预后，觉得这些都无所谓了。
至于克尔，她说，在排除了肿瘤之后，内分泌科医生也束手无策，而她的家庭医生也未能解开这个谜团。因此，她又回过头来向ChatGPT寻求新的诊断建议和饮食指导，其中一些她觉得很有帮助。她说：“我知道这是敏感信息，但我也觉得我从其他任何地方都得不到答案。”
来源：nzherald.co.nz
 | 保存图片后VX扫一扫，或点击复制 DealmoonNz 添加快报小编微信 全网特价信息、新西兰资讯全面知 |
0
