5月18日消息，伦敦大学城市学院与哥本哈根信息技术大学研究发现，当AI在没有外界参与的情况下，也可以自发地形成类似人类的社会习俗。
在实验中，科学家将目前全球流行的AI智能体置于一个去中心化的交流环境中，模拟人类社会的群体互动场景。他们将AI模型分成不同规模的小组，每组从24个到200个不等。
通过长时间的互动观察发现，这些AI模型能够自发地形成共同的行为约定和社会习俗，而这一切完全是在没有任何中央协调和预定义规则的情况下实现的。
相关研究成果已于5月14日发表在《ScienceAdvances》杂志上（附DOI:DOI:10.1126/sciadv.adu9368）。
主要作者、伦敦大学城市学院博士研究员阿里尔・弗林特・阿舍里（ArielFlintAshery）指出：“现有研究大多孤立考察单个LLM智能体，但现实中的AI系统将日益涉及多方互动。我们的实验证明这些模型能够通过形成约定实现行为协调，这种群体性特征无法从个体行为中推导得出。”
研究团队发现AI群体的行为扩散过程与人类社会的语言演变存在相似性。“智能体并非照搬领导者行为”，另一位作者、复杂系统科学教授安德里亚・巴隆切利（AndreaBaronchelli）解释道。
在实验中，随机配对的AI智能体需从候选池中选择相同“名称”（字母或字符串）才能获得奖励，若选择不一致则会遭受惩罚并被公布对方选择结果。尽管每个智能体仅掌握自身近期交互记录且不了解群体全貌，但仍能够自发形成一种“潜规则”来共享命名规范。
“每次交互都是两个智能体尝试达成共识的过程。每次交互都是一对一的尝试，在没有全局视角的情况下就‘名称’达成一致。”
他认为，这就类似于“垃圾邮件”这个词的诞生。从来没有人正式定义过所谓的“垃圾邮件”，但其概念却随着人们彼此接触、反复协调而逐渐获得普遍认同。此外，研究小组还观察到自然形成的集体偏见无法追溯到个体因素。
这些AI模型在交流过程中表现出了类似人类社会中的行为模式。它们会就共同的行为规范进行协商和调整，甚至会出现分歧和争议，但最终能够达成共识，形成一种类似人类文化中自下而上形成的“道德”或习俗。然而，这些由AI群体自发形成的“道德”和习俗并非不可改变。实验中发现，当一小群坚定的AI模型出现时，它们能够迅速改变原有的群体约定，并制造出新的规则。
随着AI技术的快速发展，越来越多的AI模型被应用于各个领域，其行为和决策将对人类社会产生深远影响。科学家称，研究了解AI群体的“社会性”特征，能够帮助人类更好地理解和控制AI的发展方向，确保AI技术始终服务于人类的利益，而不是反过来主导人类的未来。
内容来源于网络。发布者：科技网btna，转转请注明出处：https://www.btna.cn/8636.html
