This is how to build a multi-agent system with watsonx.ai. AI multi-agent systems work using react prompting. They turn your vanilla LLM into an agent, a system that can reason and complete tasks.

Now if we put a bunch of them together, you can build up a team of specialist agents to automate tasks. We're going to do that in exactly 15 minutes.

But is this possible with all LLMs, and is there a framework that can help? We'll get to that. But for now, I've broken it down into three steps, and it begins with getting our LLMs ready.

All righty guys, we have--we've got 15 minutes on the timer. Let's kick things off. So the first thing that we need to do is import a number of dependencies.

So we're going to be using crewAI. It's a framework that allows you to do multi-agent systems or build multi-agent systems.

So we're going to say, from crewAI, we are going to be importing the crew task and agent. And then we also want to give our multi-agent system access to some tools.

So we're going to say from crewAI_tools import Serper Dev Tool. Now the cool thing is that there's a number of different tools as well, right?

So if you wanted to use CSVs or DOCX files, or GitHub, or JSON, or MDX, or PDF, you got the ability to do that as well. Let me know if we, uh, maybe do that in another video.

Okay, then in order to build our LLMs and interact with our LLMs, we're going to be using Watson X, so we need an interface to Watson X.

So we're going to say from langchain_IBM, we're going to import watsonx LLM.

So that's going to allow us to build our LLM interface. And then we also need OS.

So this is going to give us the ability to set our API keys for our environment. So we're going to do that first. So we're going to say os.environ, and then we want to go and set our Watsonx API key value, and we're going to set this to one that I got a little earlier, so I'm going to grab that API key from over there.

Okay, and let's zoom out a little bit. And then we also want to set our API key for our Serper Dev tool environment. So this is actually going to allow us to interact with the net.

So we can set that by running or passing through os.environ, then setting Serper_API_key, and then we're going to set that to the value that you can get from Serper.dev. So you can actually go and register for a free API key and get that up and running.

We've got a bit of an issue there, so that's because of our quotes.

Okay, cool. So we've now got our API key set. We've got a couple of dependencies imported.

We're now going to create the first LLM. So we're actually going to be using two LLMs. I'll get back to that in a sec. So to create our LLM, we're going to create an instance of the Watsonx LLM class.

Then we need a couple of parameters or keyword arguments. So the first one is model ID, and we're going to set that to a blank key for now.

We also need the URL. So because of the way that Watsonx is spun up, we've got the ability to run this on a whole bunch of different environments, plus we've also got different multi-region availability.

So if you wanted to go and run it in the US or in Europe or in APAC, you've got the ability to do that as well as on premises.

Okay, so we've got model ID, we've got URL, we also need to specify the parameters for the model, so this is going to be how we actually decode and we also want to be able to pass through our project ID.

So you can actually isolate your machine learning and data science projects using watsonx.ai.

So we're first up going to create a parameters dictionary. So this basically dictates how we actually go and decode from our model. So we're going to create a new value called parameters.

and set that to a blank dictionary. How we're doing on time? We got 12 minutes. Okay, so our first value  is going to be decoding method, and we're going to set that equal to greedy.

So we're just going  to use the greedy algorithm for now, and then we also want to go and specify max new tokens.

So this gives you a little bit of cost control, so it dictates  how many new tokens you're going to be generating.

So we're going to grab that parameters value and set that into our LLM,  and then we also need to specify our model ID.

So our first LLM that we're going to be using is Llama 3 70b, so we've got the ability to actually go and check  that you can see that we've got the ability to use Llama 3 70b instruct.

Feels kind of weird. I know I've been using Llama 2 for so long now, so we're going to specify Meta Llama and then it's going to be Llama-3-70b-instruct, and we also need to go and set the URL.

So we're going to go to over here, so we've got the ability to copy this URL, so I'm just going to grab that and then paste this into my URL area.

Uh, save that, so it should reorganize it. Okay, so I'm just going to get rid of everything after the dot, so we don't need that. Okay, so that is our LLM spun up. We also need to pass  to our project ID.

So again, that's available in a similar region, so it's available from your Watsonx environment. So the project ID is just over here, so I've actually got a project ID  I spun up a little bit earlier, so I'm going to grab that and paste that in there.

Okay, so this should be our LLM. So we've gone and specified our model ID, so we're going to use Llama 3, our URL, our primesm, and our project ID.

Let's actually test it out. So if I run print LLM.invoke and then I pass through a prompt, So this could be any prompt, but right now this is just a vanilla LLM.

So I could go and say who is Niels Bohr? You can tell I've been getting into a little bit of physics lately.

So if we go and run this now, so the file's called agent.py.

So to run it we can run python agent.py. I'm going to pause the timer while we test it out.

We have exact 10 minutes left, okay, all right. Coincidence? Yes. Okay, so if this runs, so I'm going to pause it while it's generating, because that's a little bit out of my control, and let's see if we get a response to who is Niels Bohr?

Cross my fingers. Okay, take a look, so we've got a response, so this is coming from Llama 3 70b right now.

So we've got a response, so "Niels Bohr was a Danish physicist who made significant contributions to the development of atomic physics and quantum mechanics. He's best known for his model of the atom which posits that electrons exist in specific energy levels or shells around the nucleus." Sounds pretty good.

Now I did mention that we're going to need a second LLM and that's going to handle our function calling.

So we're going to go and power on ahead. So we've got our LLM set up, now we're actually going to go on ahead, create our second LLM and then build our agent.

So we're effectively on to part two alright the time is at 10 minutes. I'm going to kick this off let's go all right.

So we're going to need to just copy this LLM over here, so we're going to create the function calling LLM.

I'm going to speed up just a little bit, not too much. So we're going to create a new variable called function calling LLM, and for this LLM, we're going to use a slightly different model, so we're going to use the IBM dash Mistral AI, and we're going to use the Merlinite model, so merlinite-7b.

Okay, cool, so those are our two LLMs now set up.

Now we're going to create the agent. Create the agent and our first agent is going to be a researcher, but keep in mind eventually you could have a ton of different agents, they could all delegate and interact with each other.

So first agent is going to be a researcher and we're going to create an instance of the agent. So there's a ton of keyword parameters that you need to pass through here.

The first one is the LLM. So this is going to be the base LLM that we use to do all of our generation.

We then need a function calling LLM, and that is going to be our Merlinite model that we just set up there.

So I'm going to paste that keyword argument in there, and then we also need to specify three additional arguments, so there's more than three, so role, goal, and backstory, and I've pre-written those prompts, so we're going to spin those or pass those through in a second.

We also want to determine whether or not we want to allow delegation. So eventually, I might do this in another video, but eventually you've got the ability to allow these agents to hand off to each other and just sort of delegate, and work out which agent is going to be able to do the task the best.

We also want to specify some tools, so we want to give our agent access to the net, and then the last thing is whether we want it to be verbose or not.

So I'm going to set that to one. Okay, so roll goal back, sorry, so this basically dictates what our agent is good at.

So our agent is going to be a senior AI researcher. The goal for that agent is going to be find promising research in the field of quantum computing.

And then the last backstory bit is going to be, so this agent got a little bit of a cross collaboration between AI and Quantum research.

So our backstory is you're a veteran quantum computing researcher with a background in modern physics.

Okay, so that's our agent. We now need to give it some tools. So tools. This one's pretty straightforward, so we're going to create a tool called search and that's going to be equal to the Serper Dev tool.

So this I believe inherits from Langchain, it allows you to go and search the net.

We just need to grab that search value and pass it through here. So that is our first agent now completely set up.

Now we actually want to go and fill this out a little a little bit more. So we want to give it a task, so create a task, and a task is effectively what we want our multi-agent system to do.

So our task, first task, so which is going to call task one, is going to be a task, and then the task is going to have a couple of things.

So we need a description of the task. We need the expected output. How we doing on time? 7 minutes, okay. I think we're all right.

we're sounding all right. We also want the output file, so this is actually going to output the results of the task and then we want the agent that we want to complete that task.

Okay, so the description, again, I've baked these a little bit earlier, so we're going to grab the description search a net and find five examples of promising AI research.

Going to paste that into description and I'll make all of this available via GitHub later so you guys can grab it as well, and then the expected output is going to be a detailed bullet point summary on each of the topics.

Each bullet point should cover the topic background, why the in is useful.

Our output file is just going to be the name of the output file that we want to output. So we're going to say task one output.txt and the agent that we want is not a string, the agent is going to be our researcher.

So which agent that we want to complete the task. Now we need to pass through these tasks to the crew.

So put it all all together with the crew. So we're actually going to hand it off to a crew and let the crew run it.

So we're going to say crew is equal to crew and then inside of there we want to specify agents, and initially we're just going to have one agent but we're going to come back to that in a sec, and then we also want to specify the tasks that we've got.

So right now it's just task one, and then we want to specify verbose equal to one, and then to we just need to kick it off, so we're going to run crew or print crew.

Okay, all right. Right, I'm going to pause it. So let's actually go and run it. So I'm going to clear this for now, and we're going to run python.agentpy again, and all things holding equal this should start doing our research.

Let's pause it. All right, 5 minutes 32 on the clock.

Let's see how we go. If this works we should start this task. So search the internet, find five examples of AI research.

You should see it making calls out to the net and asking, getting research back. So you can see that this has generated some action input. So it's saying to use the search function, so search query and then run this command, promising AI research and quantum computing, and take a look, we've got some responses back from the net.

So anything in orange is what we're actually getting back from the internet. So once it's collaborated or collated everything it needs, it should generate the bullet point summary of the research that we want.

So let's just let that run for a little sec.

You can see that we've got a bunch of other research coming back there. And take a look, we've got our response back.

So you can see that we've got all of our output down here, so here are five examples of promising AI research.

So it's gone and done all of the research and then it's decided that it's done. So the agent now understood that it's complete because it's gone through its thought process, it's queried as much as it needs to, and it's generated its response.

So down here we've got five examples of promising AI research in the field of quantum computing.

So quantum AI, quantum machine learning, quantum optimization, quantum RL, quantum neural networks, and we've got all of the responses.

The cool thing is that it will output it as a text file if you wanted to go and use it, those are all of our bullet points.

You can go and use that. I'll include that in the GitHub repo so you can see the responses as well.

Okay, so that is, I'm actually going to save this as the first example so you guys can grab it because we're actually going to regenerate this in a second.

So far we've gone and created one agent, one task, right, but this isn't really a multi-agent system. It's a single agent system.

So what we now need to go in ahead and do is generate our second agent to be able to go and truly convert this into a multi-agent system. All right we've got 5 minutes 32 left on the clock can see that let's let's go.

Let bring bring this home. Second agent, okay so what we're actually going to do now let me zoom out a little bit so you can see that we've got our first agent and task pair.

We're actually going to copy this, and I'm just going to paste it down here again.

So we're now going to create the second agent and it's pretty much the same the only thing is that we don't need to give our second agent access to the net so we're going to tweak this a little bit.

So let me zoom in. All right so we can get rid of this function calling bit, get rid of the tools, and this agent is actually going to be a writer.

So we want this agent to actually write some keynote speeches for us. So we're actually going to pass through a different role, goal, and backstory.

So I'm going to grab that out of here so our second role is a senior speech writer. So let's say that you're writing speeches for a prominent executive you need to go and write some speeches so the role is going to be senior speech writer, the goal is to be write engaging witty Keynotes features from the provided research, I'm going to paste that in, and then the backstory is going to be your veteran, no it's the this should be tweaked a little bit, looks like I just went and copied and pasted when I was writing, so you're a veteran Quantum Computing, I'm going to say writer, with a background in modern physics, but again you can go and tweak this a bunch more, but effectively you could provide a bunch of background on how this person's a writer.

Okay, so that's our backstory. Then we want to go and create our second task.

Tweak this and let me know how you actually go. All right, so we're going to generate our second task here.

So our second task is write an engaging keynote speech on Quantum Computing. So I'm going to paste this in the description, and then our expected output is a detailed keynote speech with an intro, a body, and a conclusion.

So we're going to paste this in over here.

How to Build a Multi Agent AI System

Whether it’s AI, automation, cybersecurity, data science, DevOps, quantum computing or anything in between, we provide educational content on the biggest topics in tech. Subscribe to build your skillset, learn about new trends, and gain insights from IBM experts. 

This channel follows the IBM Social Computing Guidelines.



IBM Technology

🤖 다중 에이전트 AI 시스템 구축 소개

**IBM Technology 채널에서 15분 안에 watsonx.ai를 사용하여 다중 에이전트 AI 시스템을 구축하는 방법을 소개**합니다. 다중 에이전트 시스템은 React 프롬프팅을 사용하여 LLM을 에이전트로 전환, 추론 및 작업 완료를 가능하게 합니다.

이 시스템은 전문가 에이전트 팀을 구축하여 작업을 자동화할 수 있도록 합니다. 이 튜토리얼에서는 CrewAI 프레임워크를 사용하여 다중 에이전트 시스템을 구축하는 단계를 설명합니다.

🔑 필수 구성 요소 및 환경 설정

다중 에이전트 시스템을 구축하려면 CrewAI 프레임워크, CrewAI 도구(Serper Dev Tool 포함), watsonx LLM 인터페이스, OS(API 키 설정용)와 같은 여러 종속성을 가져와야 합니다. **watsonx.ai를 사용하여 머신 러닝 및 데이터 과학 프로젝트를 격리하기 위해 프로젝트 ID가 필요**합니다.

API 키를 설정하기 위해 `os.environ`을 사용하여 watsonx_API 키와 Serper_API_key를 설정합니다. Serper.dev에서 무료 API 키를 등록하여 얻을 수 있습니다.

watsonx LLM 클래스의 인스턴스를 생성하여 LLM을 설정합니다. **모델 ID, URL, 파라미터 및 프로젝트 ID와 같은 키워드 인수가 필요**합니다. URL은 watsonx가 다양한 환경에서 실행될 수 있도록 지정합니다.

디코딩 방법(예: greedy), 최대 토큰 수와 같은 모델 파라미터를 설정하여 비용을 제어합니다. Llama 3 70b instruct 모델을 사용하고 URL을 지정합니다.

**두 번째 LLM을 생성하여 함수 호출을 처리**합니다. IBM dash mistal AI의 Merlinite 모델을 사용합니다.

생성된 LLM을 테스트하기 위해 `LLM.invoke`를 사용하여 프롬프트를 전달하고 응답을 확인합니다. 예를 들어, "Who is Niels Bohr?"라는 프롬프트를 사용하여 Llama 3 70b로부터 Niels Bohr에 대한 설명을 받습니다.

👨‍💻 에이전트 생성 및 작업 정의

에이전트를 생성할 때 LLM, 함수 호출 LLM, 역할, 목표 및 배경 스토리를 지정해야 합니다. 첫 번째 에이전트는 수석 AI 연구원으로, 양자 컴퓨팅 분야에서 유망한 연구를 찾는 역할을 합니다.

**에이전트에게 도구를 제공하여 네트워크에 액세스할 수 있도록** 합니다. Serper Dev Tool을 사용하여 검색 도구를 생성하고 에이전트에 연결합니다.

작업을 생성할 때 설명, 예상 출력, 출력 파일 및 작업을 완료할 에이전트를 지정합니다. 첫 번째 작업은 인터넷을 검색하여 유망한 AI 연구 사례 5개를 찾는 것입니다.

🤝 다중 에이전트 시스템 구성 및 실행

두 번째 에이전트를 생성하여 기조 연설을 작성하는 역할을 부여합니다. 두 번째 에이전트는 작가로, 제공된 연구를 바탕으로 매력적인 기조 연설을 작성하는 역할을 합니다.

CrewAI를 사용하여 에이전트와 작업을 연결하고, 에이전트가 서로 위임할 수 있도록 설정할 수 있습니다. **Crew를 사용하여 에이전트와 작업을 지정하고, 작업을 실행**합니다.

작업이 완료되면 결과가 텍스트 파일로 출력됩니다. 첫 번째 에이전트는 연구를 수행하고, 두 번째 에이전트는 해당 연구를 바탕으로 기조 연설을 작성합니다.

작업을 실행하는 동안 동일한 에이전트를 사용하는 오류가 발생할 수 있습니다. 이 경우 작업에 올바른 에이전트가 지정되었는지 확인해야 합니다. 디버깅을 통해 문제를 해결하고 시스템을 올바르게 실행할 수 있습니다.

다중 에이전트 시스템은 AI 연구를 수행하고, 기조 연설을 작성하는 데 성공적으로 사용될 수 있습니다. **watsonx.ai를 사용하여 다중 에이전트 시스템을 구축하고, AI 기반 자동화를 구현할 수 있습니다**.

이 튜토리얼에서 사용된 모든 코드와 결과는 GitHub 리포지토리에 제공될 예정입니다. 이를 통해 독자는 직접 코드를 실행하고 결과를 확인할 수 있습니다.

이번 영상에서는 watsonx.ai를 사용하여 멀티 에이전트 시스템을 구축하는 방법을 알아봅니다. AI 멀티 에이전트 시스템은 리액트 프롬프팅을 사용하여 작동합니다. 이는 일반 LLM을 추론하고 작업을 완료할 수 있는 에이전트 시스템으로 전환합니다.

이제 이들을 함께 모으면 전문가 에이전트 팀을 구성하여 작업을 자동화할 수 있습니다. 이 모든 과정을 15분 안에 완료할 것입니다.

하지만 모든 LLM에서 가능한 것일까요? 그리고 도움이 될 만한 프레임워크가 있을까요? 이에 대해서도 알아보겠습니다. 우선 세 단계로 나누어 LLM을 준비하는 것부터 시작하겠습니다.

자, 여러분, 타이머를 15분에 맞춰 놓았습니다. 시작해 보겠습니다. 가장 먼저 해야 할 일은 여러 종속성을 가져오는 것입니다.

여기서는 멀티 에이전트 시스템을 구축할 수 있는 프레임워크인 crewAI를 사용할 것입니다.

crewAI에서 crew, task, agent를 가져올 것입니다. 또한 멀티 에이전트 시스템에 몇 가지 도구에 대한 액세스 권한을 부여하려고 합니다.

crewAI_tools에서 Serper Dev Tool을 가져올 것입니다. 여기서 흥미로운 점은 다양한 도구가 있다는 것입니다.

CSV, DOCX 파일, GitHub, JSON, MDX, PDF 등을 사용할 수도 있습니다. 다음에 기회가 된다면 다른 영상에서 다뤄보도록 하겠습니다.

다음으로 LLM을 구축하고 상호 작용하기 위해 Watson X를 사용할 것이므로 Watson X에 대한 인터페이스가 필요합니다.

langchain_IBM에서 watsonx LLM을 가져올 것입니다.

이를 통해 LLM 인터페이스를 구축할 수 있습니다. 그리고 OS도 필요합니다.

이를 통해 환경에 대한 API 키를 설정할 수 있습니다. 먼저 이 작업을 수행하겠습니다. os.environ을 입력한 다음 Watsonx API 키 값을 설정하고, 미리 받아둔 API 키로 설정하겠습니다.

좋습니다, 그럼 조금 축소해 보겠습니다. 그리고 Serper Dev Tool 환경에 대한 API 키도 설정하려고 합니다. 이를 통해 네트워크와 상호 작용할 수 있습니다.

os.environ을 통해 전달하여 설정할 수 있습니다. 그런 다음 Serper_API_key를 설정하고 Serper.dev에서 얻을 수 있는 값으로 설정합니다. 따라서 무료 API 키를 등록하고 실행할 수 있습니다.

약간 문제가 있습니다. 따옴표 때문입니다.

좋습니다. 이제 API 키가 설정되었습니다. 몇 가지 종속성이 가져왔습니다.

이제 첫 번째 LLM을 만들 것입니다. 실제로 두 개의 LLM을 사용할 것입니다. 자세한 내용은 잠시 후에 설명하겠습니다. LLM을 만들려면 Watsonx LLM 클래스의 인스턴스를 만듭니다.

그런 다음 몇 가지 매개변수 또는 키워드 인수가 필요합니다. 첫 번째는 모델 ID이며, 지금은 빈 키로 설정하겠습니다.

URL도 필요합니다. Watsonx가 스핀업되는 방식 때문에 여러 다른 환경에서 이를 실행할 수 있을 뿐만 아니라 여러 지역에서 사용할 수 있습니다.

따라서 미국, 유럽 또는 APAC에서 실행하려는 경우 온프레미스에서와 마찬가지로 그렇게 할 수 있습니다.

좋습니다. 모델 ID, URL이 있습니다. 모델에 대한 매개변수도 지정해야 합니다. 따라서 실제로 디코딩하는 방법이며 프로젝트 ID를 전달할 수도 있습니다.

따라서 watsonx.ai를 사용하여 머신 러닝 및 데이터 과학 프로젝트를 격리할 수 있습니다.

먼저 매개변수 사전을 만들 것입니다. 이는 기본적으로 모델에서 실제로 디코딩하는 방법을 나타냅니다. 따라서 매개변수라는 새 값을 만들 것입니다.

그리고 빈 사전으로 설정합니다. 시간은 어떤가요? 12분 남았습니다. 좋습니다. 첫 번째 값은 디코딩 방법이며, 탐욕적으로 설정하겠습니다.

따라서 지금은 탐욕적 알고리즘을 사용하고 최대 새 토큰을 지정하려고 합니다.

이를 통해 비용을 어느 정도 제어할 수 있습니다. 즉, 생성할 새 토큰 수를 지정할 수 있습니다.

이제 해당 파라미터 값을 가져와서 LLM에 설정하고 모델 ID도 지정해야 합니다.

가장 먼저 사용할 LLM은 Llama 3 70b입니다. Llama 3 70b instruct를 사용할 수 있는지 확인해 보겠습니다.

기분이 좀 이상하네요. Llama 2를 너무 오랫동안 사용해서 그런 것 같습니다. Meta Llama를 지정하고 Llama-3-70b-instruct를 입력한 다음 URL도 설정해야 합니다.

이제 여기로 가서 이 URL을 복사할 수 있습니다. 복사해서 URL 영역에 붙여넣겠습니다.

저장하면 재구성됩니다. 좋습니다. 점 뒤에 있는 모든 내용을 제거하겠습니다. 필요하지 않습니다. 좋습니다. LLM이 실행되었습니다. 프로젝트 ID도 전달해야 합니다.

다시 말하지만, Watsonx 환경에서와 비슷한 영역에서 사용할 수 있습니다. 프로젝트 ID는 바로 여기에 있습니다. 조금 전에 프로젝트 ID를 하나 만들었으므로 복사해서 붙여넣겠습니다.

좋습니다. 이것이 LLM이어야 합니다. 모델 ID를 지정했습니다. Llama 3, URL, primesm 및 프로젝트 ID를 사용하겠습니다.

실제로 테스트해 보겠습니다. print LLM.invoke를 실행한 다음 프롬프트를 전달하면 됩니다. 어떤 프롬프트든 사용할 수 있지만 지금은 일반 LLM입니다.

닐스 보어가 누구인지 물어볼 수 있습니다. 요즘 물리학에 조금 빠져 있다는 것을 알 수 있습니다.

이제 이걸 실행해 보겠습니다. 파일 이름은 agent.py입니다.

실행하려면 python agent.py를 실행하면 됩니다. 테스트하는 동안 타이머를 일시 중지하겠습니다.

저희에게 남은 시간은 딱 10분입니다. 네, 좋습니다. 우연일까요? 네. 좋습니다. 이게 실행되면, 생성되는 동안 잠시 멈추겠습니다. 제가 제어할 수 있는 부분이 아니니까요. 그리고 닐스 보어가 누구인지에 대한 응답을 받을 수 있는지 봅시다.

행운을 빌어주세요. 자, 보세요. 응답이 왔습니다. 이건 지금 Llama 3 70b에서 오는 것입니다.

자, 응답이 왔습니다. "닐스 보어는 원자 물리학과 양자 역학 발전에 큰 공헌을 한 덴마크 물리학자입니다. 그는 전자가 원자핵 주위의 특정 에너지 준위 또는 껍질에 존재한다고 가정하는 원자 모형으로 가장 잘 알려져 있습니다." 꽤 괜찮은 것 같습니다.

좋습니다. 이것이 저희가 처음으로 만든 LLM입니다.

이제 두 번째 LLM이 필요하다고 말씀드렸는데, 그건 함수 호출을 처리할 것입니다.

자, 계속 진행하겠습니다. LLM을 설정했으니, 이제 실제로 두 번째 LLM을 만들고 에이전트를 구축하겠습니다.

이제 2부로 넘어갈 차례입니다. 시간이 10분이 남았습니다. 시작해 보겠습니다. 좋습니다.

여기 있는 LLM을 복사해야 합니다. 함수 호출 LLM을 만들겠습니다.

속도를 조금만 높이겠습니다. 너무 많이는 아니고요. 함수 호출 LLM이라는 새 변수를 만들고, 이 LLM에는 약간 다른 모델을 사용하겠습니다. IBM dash Mistral AI를 사용하고, Merlinite 모델, 즉 merlinite-7b를 사용하겠습니다.

좋습니다. 이제 두 개의 LLM이 설정되었습니다.

이제 에이전트를 만들겠습니다. 에이전트를 만드는데, 첫 번째 에이전트는 연구원이 될 것입니다. 하지만 결국에는 수많은 다양한 에이전트가 있을 수 있고, 그들은 모두 서로 위임하고 상호 작용할 수 있다는 점을 명심하십시오.

첫 번째 에이전트는 연구원이 될 것이고, 에이전트의 인스턴스를 만들겠습니다. 여기에는 전달해야 할 수많은 키워드 매개변수가 있습니다.

첫 번째는 LLM입니다. 이것은 모든 생성을 수행하는 데 사용하는 기본 LLM이 될 것입니다.

다음으로 함수 호출 LLM이 필요한데, 이는 방금 설정한 멀린나이트 모델이 될 것입니다.

그래서 키워드 인수를 붙여넣고, 세 가지 추가 인수를 더 지정해야 합니다. 역할, 목표, 배경 스토리가 있는데, 이러한 프롬프트는 미리 작성해 두었으므로 잠시 후에 스핀하거나 전달할 것입니다.

또한 위임을 허용할지 여부도 결정하려고 합니다. 결국 다른 영상에서 다룰 수도 있지만, 결국에는 이러한 에이전트들이 서로에게 넘겨주고, 어떤 에이전트가 작업을 가장 잘 수행할 수 있는지 파악하여 위임할 수 있게 됩니다.

또한 몇 가지 도구를 지정하려고 합니다. 에이전트에게 인터넷에 대한 액세스 권한을 부여하고, 마지막으로 자세한 정보를 원하는지 여부를 지정하려고 합니다.

그래서 1로 설정하겠습니다. 좋아요, 역할 목표, 죄송합니다. 기본적으로 에이전트가 잘하는 것을 나타냅니다.

우리 에이전트는 수석 AI 연구원이 될 것입니다. 해당 에이전트의 목표는 양자 컴퓨팅 분야에서 유망한 연구를 찾는 것입니다.

그리고 마지막 배경 스토리는 이 에이전트가 AI와 양자 연구 간의 약간의 협업을 얻었다는 것입니다.

배경 스토리는 현대 물리학 배경을 가진 베테랑 양자 컴퓨팅 연구원이라는 것입니다.

좋습니다. 에이전트가 준비되었으니 이제 몇 가지 도구를 제공해야 합니다. 도구입니다. 이것은 매우 간단합니다. 검색이라는 도구를 만들고 Serper Dev 도구와 동일하게 설정할 것입니다.

이것은 Langchain에서 상속받아 인터넷을 검색할 수 있게 해줍니다.

해당 검색 값을 가져와서 여기에 전달하기만 하면 됩니다. 이것으로 첫 번째 에이전트 설정이 완전히 완료되었습니다.

이제 실제로 이것을 조금 더 채우려고 합니다. 그래서 작업을 만들고, 작업은 효과적으로 멀티 에이전트 시스템이 수행하기를 원하는 것입니다.

그래서 우리 작업, 첫 번째 작업, 즉 작업 1이라고 부를 것은 작업이 될 것이고, 작업에는 몇 가지 내용이 포함될 것입니다.

자, 저희는 작업에 대한 설명이 필요하고 예상되는 결과물이 필요합니다. 시간은 어떤가요? 7분 남았네요. 괜찮을 것 같습니다.

결과물 파일도 필요합니다. 따라서 실제로 작업 결과를 출력할 것이고, 해당 작업을 완료할 에이전트도 필요합니다.

좋습니다. 설명은, 미리 조금 준비해 두었습니다. 설명을 가져와서 인터넷을 검색하고 유망한 AI 연구 사례 5개를 찾겠습니다.

설명에 붙여넣겠습니다. 이 모든 자료는 나중에 GitHub를 통해 제공할 예정이니 가져가실 수 있습니다. 예상되는 결과물은 각 주제에 대한 자세한 글머리 기호 요약입니다.

각 글머리 기호는 주제 배경과 그 이유를 다루어야 합니다.

결과물 파일은 출력하려는 결과물 파일의 이름입니다. 따라서 task one output.txt라고 하고, 원하는 에이전트는 문자열이 아니라 researcher 에이전트가 될 것입니다.

어떤 에이전트가 작업을 완료하도록 할 것인지 정했습니다. 이제 이러한 작업을 크루에게 전달해야 합니다.

크루와 함께 모두 모았습니다. 이제 실제로 크루에게 넘겨서 실행하도록 하겠습니다.

크루는 크루와 같다고 하고, 그 안에 에이전트를 지정할 것입니다. 처음에는 에이전트가 하나만 있지만 잠시 후에 다시 돌아오겠습니다. 그리고 저희가 가진 작업도 지정해야 합니다.

지금은 작업 1만 있고, verbose를 1로 지정하고, 이제 시작하기만 하면 됩니다. 크루를 실행하거나 크루를 인쇄할 것입니다.

좋습니다. 좋아요. 자, 일시 중지하겠습니다. 이제 실제로 가서 실행해 보겠습니다. 지금은 이것을 지우고 python.agentpy를 다시 실행할 것입니다. 모든 것이 동일하다면 연구를 시작해야 합니다.

일시 중지하겠습니다. 좋아요, 시계에 5분 32초가 찍혔습니다.

어떻게 되는지 봅시다. 이게 작동하면 이 작업을 시작해야 합니다. 인터넷을 검색하여 AI 연구 사례 5개를 찾습니다.

보시다시피 인터넷에 접속해서 정보를 요청하고 검색 결과를 받아오고 있습니다. 이렇게 액션 입력이 생성된 것을 볼 수 있습니다. 검색 기능을 사용하라고 되어 있는데, 검색어는 '유망한 AI 연구 및 양자 컴퓨팅'입니다. 결과를 보면 인터넷에서 응답을 받아온 것을 알 수 있습니다.

주황색으로 표시된 부분은 인터넷에서 실제로 받아온 정보입니다. 필요한 모든 정보를 취합하면 우리가 원하는 연구에 대한 요약 내용을 불릿 포인트로 생성할 것입니다.

다른 연구 결과도 계속 들어오는 것을 볼 수 있습니다. 자, 응답이 나왔습니다.

How to Build a Multi Agent AI System

How to Build a Multi Agent AI System

스크립트