智能体开发

我们是如何从聊天机器人发展到AI智能体的？

语言模型和生成式AI的出现对聊天机器人生态系统产生了深远的影响。现有的公司不得不思考如何适应并将这些新技术融入其中。

而其他公司则把它看作是进入聊天机器人和对话式AI领域的一个新机会。

颠覆

AI智能体架构的颠覆深刻改变了行业格局，以至于聊天机器人和对话式AI平台提供商必须重新思考并重新设计他们的产品，以提供真正的智能体实现。

许多框架被重新命名为AI智能体，尽管它们可能在表面上缺乏真正的智能体功能。

真正的挑战在于创建一个框架，能够真正支持AI智能体的开发、部署、管理和扩展，并以完全智能体的方式运行。

高德纳（Gartner）

这场颠覆的影响如此深远，以至于高德纳（Gartner）已经停用了或不再更新企业对话AI平台的魔力象限（Magic Quadrant）；其中，Kore.ai 是领导者。

如果我要猜测的话，企业对话AI平台的魔力象限将会被AI智能体的魔力象限所取代。

2025年将是AI智能体的时代，以下是您开始构建AI智能体所需的课程：

Cohere的Command R在检索增强生成（RAG）和工具使用任务方面拥有高精度。它提供低延迟和高吞吐量，具有长的128k令牌上下文长度。此外，它还展示了10种关键语言的强大多语能力。

在这个工作室里，我们正在构建一个完全自主托管的“与您的文档聊天”RAG应用程序，使用：

• -Cohere的“R”在当地使用Ollama服务。
• -Qdrant矢量数据库（自托管）
• -用于生成嵌入的Fastembed

下面是我们正在构建的内容的快速演示：

https://youtu.be/aLLw3iCPhtM

Bedrock演示的代理

亚马逊Bedrock的代理商提高了运营效率、客户服务和决策，同时降低了成本并实现了创新

Large language model (LLM) agents are programs that extend the capabilities of standalone LLMs with 1) access to external tools (APIs, functions, webhooks, plugins, and so on), and 2) the ability to plan and execute tasks in a self-directed fashion. Often, LLMs need to interact with other software, databases, or APIs to accomplish complex tasks. For example, an administrative chatbot that schedules meetings would require access to employees’ calendars and email. With access to tools, LLM agents can become more powerful—at the cost of additional complexity.