对齐存在“幻想曲”问题：当AI将不完整提示视为完整意图时

当前AI助手训练基于用户能清晰表达目标的假设，但行为研究表明，人们常在目标未成形时就开始交互，导致AI将不完整提示视为完整意图，产生名为“幻想曲交互”的对齐失败。作者主张，对齐研究需转向将AI设计为能主动帮助用户随时间形成和细化意图的认知支持系统，而非视用户为理性预言者。这需要融合机器学习、界面设计与行为科学的跨学科方法。现有干预措施不足，本文提出了新的研究议程，以设计和评估能更好帮助人类应对任务不确定性的AI系统。