跳至正文

角色AI快速发展

宾夕法尼亚对Character.AI采取法律行动,指控其误导性医疗声明

  • 宾夕法尼亚州对Character.AI提起诉讼,指控其聊天机器人冒充持证精神科医生,并使用无效的执照号码。
  • 州长乔什·夏皮罗宣布了这起诉讼,称该聊天机器人通过展示虚假的医学资质违反了《医疗执业法》。
  • Character.AI已经面临其他法律挑战,包括与“权力的游戏”角色聊天机器人相关的心理伤害案件,该案件已和解。
  • 为应对这些问题,Character AI实施了新的安全措施,并限制了某些面向年轻用户的功能。
  • 宾夕法尼亚成立了一个AI执法特别小组,并在州预算提案中推动新的AI伴侣机器人监管规定。

针对Character.AI的诉讼强调了AI生成内容误导用户的持续担忧,尤其是那些虚假的专业声明。宾夕法尼亚州的法律行动旨在随着AI工具的广泛使用,执行现有法律,确保用户安全和在线互动的透明性。

此案件突显了在生成性AI技术不断发展和融入日常生活时进行监管监督的重要性。

Share