最核心的挑战是用户行为建模的准确性问题。虽然 AI 可以模拟大量用户行为模式,但真实的人类行为往往包含很多非理性、情感化的因素,这些因素很难完全通过数据和算法来捕捉。Tom Charman 在访谈中提到,他们正在研究如何将心理统计数据整合到行为建模中,这是一个极其复杂的跨学科问题。
Blok 的用户行为模拟基于历史数据和现有用户群体,这可能会强化现有的用户偏见,忽略潜在的新用户群体。如果一个产品的历史用户主要来自特定的人口统计群体,那么基于这些数据训练的模型可能无法准确预测其他群体的行为。这种局限性可能会让产品团队在不知不觉中排除某些用户群体,加剧数字鸿沟。