生成式 AI 模子一经在与东说念主类对话、生成图像、视频以及音乐方面推崇得格出门色激情文学网，但它们在“为咱们作念事”这方面的智力却并不隆起。

AI 智能体有望编削这一近况。不错将它们视为领有剧本和明确主义的 AI 模子。时常，这些智能体分为两种类型。

第一种称为基于器用的智能体，不错通过当然谈话（而非编程）带领完成数字任务。举例，Anthropic 在 10 月推出了一种智能体，这是主要 AI 模子树立商中首个此类家具。这种智能体能够将提醒（如“帮我填写这个表单”）悠扬为具体操作，在电脑上移动光标翻开网页浏览器，导航找到相干页面上的数据，并使用这些数据填写表单。Salesforce 也发布了访佛的智能体，据报说念，OpenAI 狡计在来岁 1 月推出我方的版块。

另一种类型的智能体被称为模拟智能体激情文学网，它们不错被视为旨在师法东说念主类行径的 AI 模子。最早筹办这些智能体的是社会科学筹办东说念主员。他们但愿进行一些施行，这些施行如若以真的东说念主类为对象进行，会因为资本不菲、操作不切内开心波及伦理问题而难以竣事，于是他们使用 AI 来模拟施行对象。这一趋势在 2023 年，由斯坦福大学博士生 Joon Sung Park 过火团队发表的一篇广受援用的论文《生成智能体：东说念主类行径的交互模拟》（Generative Agents: Interactive Simulacra of Human Behavior）后，获取了极大鼓舞。

近期，Park 过火团队在arXiv上发表了一篇新论文，题为《1，000 东说念主的生成智能体模拟》（Generative Agent Simulations of 1，000 People）。在这项筹办中，筹办东说念主员让 1，000 名参与者与 AI 进行两小时的访谈。随后，团队得胜创建了能够高度精确再现每位参与者价值不雅和偏好的模拟智能体。

这里有两个相配要紧的发展值得提防。率先，逾越的 AI 公司彰着一经坚定到，只是构建令东说念主咋舌的生成式 AI 器用已不及够，他们目下必须树立能够为东说念主们完成内容任务的智能体。其次，越来越容易让这些 AI 智能体师法真的东说念主类的行径、魄力和个性。往时属于两种不同类型的智能体——模拟智能体和基于器用的智能体——很可能很快会会通为一种全新的容貌：既能师法个性又能代表东说念主类动作的 AI 模子。

筹办正在进行中。一些公司，如 Tavus，正在匡助用户创建我方的“数字孪生”。但该公司的 CEO Hassaan Raza 设计更进一步，树立能够以养息师、医师和造就等脚色容貌存在的 AI 智能体。

如若此类器用变得低廉且易于构建，将会激发好多新的伦理问题，其中两个极端隆起。第一个问题是，这些智能体可能会催生更多个东说念主化且危害更大的深度伪造。目下的图像生成器用一经让通过单张相片制作非自觉色情内容变得十分浅易，但如若复制一个东说念主的声息、偏好和个性也变得不费吹灰之力，这一危急只会愈发严重。（Park 告诉我，他和他的团队在最新筹办神志中破耗了一年多技能念念考访佛的伦理问题，与斯坦福的伦理委员会进行了好多商议，并制定了参与者怎么除去其数据和孝顺的相干计策。）

第二个问题是一个根人性的问题：咱们是否有权知说念我方是在与 AI 智能体交谈如故与东说念主类交谈？如若你与 AI 完成了一次访谈，并提交了你的语音样本以创建一个听起来像你、恢复形态也像你的智能体，那么你的一又友或共事是否有权知说念他们是在与它交谈而不是与你交谈？反过来，当你拨打手机处事提供商或医师办公室的电话时，一个柔软的客户处事代表接听了电话，你是否有权知说念我方是在与 AI 对话？

玩偶姐姐 麻豆

这个将来看似远处，但内容上并不远处。当咱们着实身处这一境地时，粗略会有愈加蹙迫和相干的伦理问题需要处理。在此之前，你不错阅读我对于 AI 智能体的更多著作，同期念念考一下：一个 AI 访谈者能在两小时内何等真切地了解你？

https://www.technologyreview.com/2024/11/26/1107309/we-need-to-start-wrestling-with-the-ethics-of-ai-agents/激情文学网

• AI
• 不错
• 挑战
• 激情文学网
• 伦理