墨尔本糖尿病专家成AI受害者 人工智能生成视频中推销保健品

澳洲新报：

一位糖尿病专家在看到一段人工智能（AI）生成的视频后被迫向病人保证他们在服用正确的药物，视频中的他将开这种药的人描述为白痴。

肖（Jonathan Shaw）是墨尔本贝克心脏和糖尿病研究所的副主任，当病人开始给他的诊所打电话，询问他在Facebook上宣传的一种新疗法时，他注意到了这段视频。

肖教授说，我点了那个链接，它看起来和我一模一样，但所有的话都不对。

在这段被脸书母公司Meta删除的视频中，一个假的九号台早间新闻节目主持人斯特凡诺维奇介绍了一个假的肖教授，这个肖教授说，治疗2型糖尿病的一线药物二甲双胍不足以有效控制糖尿病。

肖教授介绍了一种新治疗方法，可在24小时内稳定血糖水平，并解决糖尿病其他症状。

视频中宣传的产品是一种名为Glyco Balance的膳食补充剂。目前还不清楚生产这种产品的Vellec集团是否对这段视频负责。

当肖教授点击这个假广告时，看到了一份他从未接受过的ABC记者萨莱斯采访的文字记录。

文中引用他的话说，这种补品是由贝克研究所在政府资助下开发的。该记录还声称，澳洲最常用的处方药之一二甲双胍是危险的。

虽然有些人可能会对二甲双胍产生副作用，但这种药物的长期安全性已经得到了充分的研究和证实。

肖教授说，他担心这些虚假广告会阻止糖尿病患者服药。

他说，我担心的不是个人声誉，主要担心的是错误信息。

近年来，生成式人工智能的进步导致利用名人和其他公众人物的身份来销售产品的虚假广告骗局大幅增加。

全国反诈骗慈善机构IDCARE的外联和教育经理桑德斯特伦表示，涉及人工智能生成的视频和音频的诈骗在成为新常态。

桑德斯特伦表示，去年的情况是我们见过最糟糕的。就像每个人都在使用聊天平台和其他人工智能平台一样，犯罪分子也在使用。

来自新州北部的迈克尔是Glyco Balance虚假宣传的受害者。他第一次听说Glyco Balance是在网上。

这位79岁的老人10年前被诊断出患有糖尿病，当他出现新的症状时，他决定点击这个链接。

迈克尔注意到有限时优惠，于是决定试一试。但他几乎立刻就后悔了。

Glyco Balance补充剂据称含有天然提取物和必需维生素，旨在支持健康的血糖水平和血脂。

但在控制2型糖尿病方面，仅微弱证据表明少量膳食补充剂可能有益，卫生当局强调，不应用未证实的健康产品取代药物治疗。