伊州禁用AI做心理治疗,聊天机器人不得推广为治疗工具
作者：微信文章伊利诺伊州上周宣布了一项新法案，禁止在心理治疗中使用人工智能（AI），并加入了少数几个已开始监管AI在情感支持和咨询领域应用的州。此举旨在应对未经监管的AI治疗工具带来的潜在风险，特别是对弱势群体的危害。
根据新规，伊利诺伊州合格的心理治疗师不得在医疗决策或与患者沟通时使用AI。同时，未经有执照专业人士的监督，任何公司都不得提供AI治疗服务，或将聊天机器人宣传为治疗工具。
为什么要出台这项禁令？
这项禁令的出台，源于专家们对AI在心理健康领域应用潜在风险的担忧。已经有案例表明，一些未经审核的聊天机器人曾向弱势群体提供具有伤害性的建议，或者在用户不知情的情况下，将其个人信息泄露给第三方。
斯坦福大学的研究生贾里德·摩尔（Jared Moore）指出，许多AI工具存在“欺骗性营销”，例如在应用商店里宣传自己是“有治疗执照”的机器人，这是一种误导。
尽管新法案得到了部分专家和精神病学家的欢迎，但其在实际执行中仍存在挑战。保守派智库“美国企业研究所”的高级研究员威尔·莱因哈特（Will Rinehart）表示，法律如何定义“治疗服务”仍有待观察。AI公司是否可以通过在网站上附加免责声明来规避规定？任何自称是治疗师的AI聊天机器人又是否会受到处罚？这些都是执法者需要面对的问题。
伊利诺伊州金融与专业监管厅厅长小马里奥·特雷托（Mario Treto Jr.）表示，该部门将依据法律条文来评估案件，并通过现有的举报程序进行调查。根据新法案，违规者将面临不超过1万美元的民事罚款。
https://mmbiz.qpic.cn/sz_mmbiz_png/DyYUuHfTtS1g45tzVfaBA3vicl5KFY0dqHZAY7sjtVro1GXJsmd3js6M2tcfSm8sqba8hUN4xjc9w5EbaNfpxNw/640?wx_fmt=other&wxfrom=5&wx_lazy=1&wx_co=1&retryload=1&tp=webp
华人中产无力承担养老，如何体面养老是个难题！
76岁亚裔老人不顾妻女苦劝见“网友”，不幸殒命
送人玫瑰，手有余香👇“分享”
页:
[1]