关键字: [亚马逊云科技中国峰会2024, Bedrock, 大模型社交游戏设计, 多模型混合编排, 上下文记忆推理, 反思评分迭代, 提示词工程引导]

本文字数: 1100, 阅读完需: 6 分钟

导读

在亚马逊云科技中国峰会2024上,演讲者介绍了如何利用大语言模型(LLM)来设计社交游戏。他解释了利用亚马逊云科技服务如Bedrock、Claude、Hugging Face等模型,通过模型编排和反思机制,实现了一款类似”狼人杀”的社交游戏。该游戏能够模拟玩家之间的对话互动,并根据上下文做出合理反应。演讲者还分享了游戏的整体架构设计,包括上帝(游戏管理)、玩家(模型编排)和呈现效果等模块。最后,他强调通过模型编排和取长补短,能够充分发挥大语言模型在游戏设计中的潜力。

演讲精华

以下是小编为您整理的本次演讲的精华，共800字，阅读时间大约是4分钟。

在亚马逊云科技中国峰会2024上,演讲者分享了他们如何利用大语言模型(LLM)来设计一款基于经典游戏”狼人杀”的社交游戏。该项目充分展示了如何将亚马逊云科技服务与大模型的能力相结合,为游戏注入更智能、更富互动性的体验。

演讲者介绍,他们在Amazon Bedrock上构建的游戏Demo主要使用了Claude语言模型、HiInk模型,以及针对中文和英文版本分别采用了Claude多语言模型、LLaMa 70B模型和MPT模型。利用Amazon Bedrock提供的强大计算能力,他们能够灵活编排和组合多种大模型,发挥各自的长处。

游戏的核心设计理念是将历史对话作为上下文输入给大模型,使其能够像与真人对话一样,记住之前的情况并作出合理反应。为了实现这一点,演讲者采用了”反思后行动”的创新设计,将每个玩家的行动分为三个步骤:

首先,玩家根据当前局势、可用工具等,利用大模型的推理能力决定下一步行动。在这个过程中,大模型会观察场上的整体形势,收集相关信息,评估自身的能力和工具,然后通过推理决定采取何种行动,并给出相应的理由和解释。这一步骤主要由Claude的Sonnet模型或英文版本的Claude模型完成。

其次,另一个大模型会对第一步的结果进行反思,评估该行动对个人和阵营的影响,从1到5分进行打分,并对两个分数进行加权。只有当最终得分超过一定阈值(如6分)时,该行动才能被执行;否则,将返回第一步,让上一个大模型重新决策。这一步骤的目的是消除大模型固有的偏见,确保行动的合理性和有效性。演讲者特别提到,如果第一步使用Claude的Sonnet模型,则会用HiInk模型进行反思;如果使用英文版本的Claude模型,则会用LLaMa 70B模型进行反思。

最后一步则是对前两步的结果进行总结,形成最终的行动输出。演讲者表示,这一步骤可以使用一些较小的语言模型,如MySQL或HiInk模型即可完成。

在整个游戏架构中,有一个”上帝”模块控制游戏进程,由程序实现,以确保可控性。玩家模块则由三个大模型互相支撑,推动游戏逻辑:收集信息、进行推理并给出行动理由,然后由另一模型评估行动效果。游戏还设计了长期和短期记忆数据结构,以保持对话的连贯性和上下文关联,这一功能可能借助了亚马逊云科技的某些数据库或内存服务。

最终,游戏会以富有互动性的方式呈现玩家的行动及其结果,可能运用了亚马逊云科技的某些可视化或多媒体服务。演讲者还提到,该项目代码已在GitHub上开源,有兴趣的人可以下载运行,体验大模型赋能游戏的魅力。该项目采用Python Notebook的形式,可在亚马逊云科技数据加工器或Notebook实例上运行,输出将以纯文本的形式呈现。如需获得更加华丽的界面体验,还需将该Notebook与一个基于亚马逊云科技服务(如Amazon Lambda或ECS)部署的Unity游戏工程相结合。

总的来说,这款社交游戏充分利用了亚马逊云科技提供的计算、存储、数据库、可视化等一体化云服务,并与大语言模型的自然语言处理、推理和决策能力相结合,通过模型编排和反思机制,实现了更智能、更富互动性的游戏体验。演讲者强调,没有一个模型能解决所有问题,需要编排多个模型、取长补短,发挥各自优势,才能创造出令人惊叹的产品和体验。

下面是一些演讲现场的精彩瞬间：

亚马逊云科技中国峰会2024上,演讲者解释了大模型如何利用历史对话作为上下文,从而模拟与真人对话的体验。

亚马逊云科技中国峰会2024上,演讲者分享了他们在人工智能决策系统中采用的反思机制,通过对个人和团队影响的加权评分,确保决策的合理性和可靠性。

亚马逊云科技中国峰会2024上,演讲者解释了人工智能系统如何通过观察环境、评估可用工具,并利用大模型的推理能力来制定行动计划。

亚马逊云科技中国峰会2024上,演讲者详细阐述了亚马逊的大模型架构,包括Player、Net和记忆模块的协同工作原理,展现了亚马逊在人工智能领域的前沿技术实力。

亚马逊云科技中国峰会2024:演讲者分享了一个开源项目,并鼓励观众在GitHub上下载Python Notebook,在数据Maker或Notebook上运行,体验项目的功能。

亚马逊云科技中国峰会2024上,演讲者总结道:我们需要编排和整合现有的大模型能力,取长补短,为游戏赋能。

总结

在这场演讲中,演讲者分享了如何利用大型语言模型(LLM)来设计一款社交游戏——狼人杀。他们采用了亚马逊云科技的Bedrock中的Cloud3 Sonnet和Haiku等模型,并针对中英文版本进行了不同的模型组合。核心思路是将历史对话作为上下文,让LLM能够像与真人对话一样记住游戏进程。

他们引入了”Reflection After”的概念,即在每个角色做出决策后,会由另一个模型对该决策进行反思和评分,评估其对个人和阵营的影响。只有当评分超过一定门限值时,决策才能执行。此外,他们还采用了提示词工程和逐步推理的方式,让LLM能够观察局势、利用工具并做出决策。

最终,他们将这些模型编排在一起,形成了一个完整的游戏架构,包括上帝(Gan)、玩家(Player)和呈现效果等模块。演讲者强调,没有一个单一模型能够完成所有任务,需要将多个模型的长处结合起来,取长补短,才能实现期望的效果。

他们已将该项目开源到GitHub上,供有兴趣的人学习和体验。总的来说,这是一个展示如何利用LLM赋能社交游戏的有趣案例。

2024年5月29日，亚马逊云科技中国峰会在上海召开。峰会期间，亚马逊全球副总裁、亚马逊云科技大中华区总裁储瑞松全面阐述了亚马逊云科技如何利用在算力、模型、以及应用层面丰富的产品和服务，成为企业构建和应用生成式 AI 的首选。此外，活动还详细介绍了亚马逊云科技秉承客户至尚的原则，通过与本地合作伙伴一起支持行业客户数字化转型和创新，提供安全、稳定、可信赖的服务，以及持续深耕本地、链接全球，助力客户在中国和全球化发展的道路上取得成功。