剑桥大学的研究人员称，人工智能（AI）工具可以用来操纵在线观众做出决定——从买什么到投票给谁。
这篇论文强调了一个新兴的“意图数字信号”市场——被称为“意图经济”——在这个市场上，人工智能助手理解、预测和操纵人类的意图，并将这些信息出售给能够从中获利的公司。
意向经济被剑桥大学未来智能中心（LCFI）的研究人员吹捧为注意力经济的继承者，在注意力经济中，社交网络让用户沉迷于他们的平台，并为他们提供广告。
意图经济是指精通人工智能的科技公司向出价最高的人出售他们所知道的你的动机，从入住酒店的计划到对政治候选人的看法。
“几十年来，注意力一直是互联网的货币，”LCFI的技术历史学家Jonnie Penn博士说。“在Facebook和Instagram等社交媒体平台上分享你的注意力，推动了网络经济。”
他补充说：“除非受到监管，否则意向经济将把你的动机视为新的货币。对于那些瞄准、引导和出售人类意图的人来说，这将是一场淘金热。
“在我们成为其意想不到的后果的受害者之前，我们应该开始考虑这样一个市场对人类愿望可能产生的影响，包括自由公正的选举、新闻自由和公平的市场竞争。”
该研究声称，大型语言模型（llm）将被用于基于“意图、行为和心理数据”来“预测和引导”用户。大型语言模型是ChatGPT聊天机器人等人工智能工具的基础技术。
作者表示，注意力经济允许广告商通过在广告交易平台上的实时竞价来购买用户当前的注意力，或者在未来通过在广告牌上购买一个月的广告空间来购买用户的注意力。
llm还可以实时获取用户的注意力，例如，通过询问用户是否想看一部特定的电影——“你想过今晚看蜘蛛侠吗？”——以及对未来的打算提出建议，比如问：“你提到过感觉工作过度，我要不要给你订我们说过的电影票？”
该研究提出了一个设想，即这些例子是“动态生成的”，以匹配用户的“个人行为痕迹”和“心理特征”等因素。
研究表明：“在意向经济中，法学硕士可以以较低的成本，利用用户的节奏、政治、词汇、年龄、性别、阿谀奉承的偏好等，与中介出价相结合，最大限度地提高实现既定目标的可能性（例如出售电影票）。”在这样一个世界里，人工智能模型将引导为广告商、企业和其他第三方服务的对话。
该报告称，广告商将能够使用生成式人工智能工具来创建定制的在线广告。它还引用了马克·扎克伯格创建的名为Cicero的人工智能模型的例子，该模型已经达到了“人类水平”的能力，可以玩棋盘游戏“外交”——作者说这是一种依赖于推断和预测对手意图的游戏。
该研究补充称，人工智能模型将能够根据“传入的用户生成数据流”调整其输出，并引用研究表明，模型可以通过日常交流推断个人信息，甚至可以“引导”对话，以获取更多个人信息。
该研究还提出了一个未来的设想，meta将把用户预订餐厅、航班或酒店的意向拍卖给广告商。报告称，尽管已经有一个行业致力于对人类行为进行预测和竞标，但人工智能模型将把这些行为提炼成“高度量化、动态和个性化的形式”。
该研究引用了Cicero背后的研究团队的警告，即“（人工智能）代理可能会学会推动其对话伙伴实现特定目标”。
这项研究指的是科技高管们讨论人工智能模型如何能够预测用户的意图和行为。它引用了全球最大人工智能芯片制造商英伟达（Nvidia）首席执行官黄仁勋（Jensen Huang）去年的话说，模型将“在给定的背景下，弄清楚你的意图、愿望和想要做的事情，并以尽可能最佳的方式向你呈现信息”。
