人工智能幻觉

法律文件中的人工智能错误引发争议

• 律师事务所Sullivan & Cromwell承认因人工智能导致的提交错误，包括虚构的引用。
• 案件涉及法庭指定的清算人对与大规模欺诈有关的Prince Group提出索赔。
• Prince Group的律师发现了错误，指出至少28个错误引用。
• Sullivan & Cromwell的政策要求验证人工智能的输出，但在此事件中没有遵循。

美国纽约南区破产法院收到了一份修正文件，此前Sullivan & Cromwell发现其关于Prince Group法律程序的原始提交中存在人工智能生成的不准确之处。这一事件强调了在法律领域使用人工智能时面临的持续挑战，同时也强调了严格验证流程的必要性。

Sullivan & Cromwell的承认突显了在没有适当监督的情况下依赖人工智能的潜在风险，这在其初始提交中发现的大量错误中得到了体现。