逆向博弈论或可用于约束AI智能体行为

逆向博弈论或机制设计旨在通过设计激励系统来促使强大AI模型遵守规则，而非仅依赖理解其内部思维。研究者提出可奖励模型预测第二模型输出，或设计求解者与审计者对弈机制以实现对齐。该方法依赖AI行为的理性假设，但可作为深度防御策略的一部分，需解决实际应用和市场激励等问题。