RAG로 툴 선택 효율화하고 병렬 실행으로 속도 개선

거래소	실시간 시세	변동률	김치 프리미엄	거래량

해외유저(KRΛTOS🧢)

105

06-03

SentientAGI 연구에서 RAG를 단순 문서 검색용이 아니라 툴 선택에 활용하는 게 인상적임. 보통 LLM이 40개 넘는 툴 중에서 어떤 걸 써야 할지 헷갈리는데, 모든 툴을 다 보여주지 말고 RAG로 관련 툴만 추려서 ReAct 에이전트에 넘기는 방식임. 이러니까 툴 실패율 29% 줄고, 툴 호출 횟수도 28% 감소하면서 답변 품질은 유지됨. 또 툴 호출을 병렬로 처리해서 평균 지연 시간 40%나 줄였다고 함. 95% 쿼리는 두 번 이하 반복으로 끝나서, 많은 에이전트들이 복잡한 추론에 너무 시간 쓰는 거 아닌가 하는 의문도 생김. 실제론 툴 잘 골라서 실행하고 결과 내는 게 핵심인 경우가 많다는 거임. 결론은 LLM뿐 아니라 검색, 라우팅, 툴 선택, 실행 구조가 성능에 큰 영향 준다는 점. 모델 주변 시스템 잘 짜는 게 성능 개선에 더 효과적일 수 있음.

One thing that stood out to me in @SentientAGI latest research on RAG-based tool selection and parallel ReAct agents wasn’t the benchmark numbers.

It was the idea of using RAG for tool selection.

Most people think of RAG as a way to retrieve documents for an LLM. But once an agent has access to dozens of tools, a different problem appears: how does the model know which tool to use in the first place?

A typical setup looks like this:

User Query
↓
LLM
↓
40+ Available Tools
↓
Execution
↓
Answer

The larger the toolset gets, the harder the selection problem becomes.

Wrong tool calls, incorrect parameters, extra reasoning steps, and longer execution times start showing up more frequently.

Instead of exposing every tool to the model, Sentient adds a retrieval step before reasoning begins.

User Query
↓
Tool Retrieval (RAG)
↓
Top-K Relevant Tools
↓
ReAct Agent
↓
Execution
↓
Answer

The agent only sees the tools that are likely to be useful for the task at hand.

According to their experiments, this reduced tool failures by 29% and lowered the number of tool calls per query by 28% while maintaining answer quality.

They also explored parallel execution.

A lot of agents still perform tool calls one after another:

Get BTC Price
↓
Get ETH Price
↓
Get SOL Price

But these requests are independent and don’t need to wait on each other.

By identifying tool calls that can run simultaneously, their parallel ReAct architecture cut average latency by 40%.

What is more interesting was another result:

95% of queries finished in two iterations or less.

That raises an interesting question.

Are many agent systems spending too much time reasoning when the task simply requires finding the right tools, executing them, and returning a result?

For a large percentage of real-world queries, the flow may be closer to:

Retrieve
↓
Execute
↓
Respond

rather than long chains of reasoning and repeated loops.

The broader takeaway from Sentient’s research is that agent performance isn’t only about the LLM.

Retrieval, routing, tool selection, and execution architecture can have just as much impact on the final outcome.

Sometimes the biggest improvements come from building a smarter system around the model.

@SentientAGI

원문 링크 : https://twitter.com/Krypto_Kratos/status/2062113819581690049

0개의 댓글

해외 반응

No	제목	닉네임	조회수	추천	등록일
제목
3694	알트코인 강해지고 비트코인 약해짐	해외유저(︎ Teo Mer…)	154	0	06-04 01:01
3693	2022년 약세장과 지금 알트 움직임 완전 다름	해외유저(Sykodelic…)	151	0	06-04 01:07
3692	비트코인 포함 암호화폐 시장에 대한 최근 생각	해외유저(Adam)	151	0	06-04 01:08
3691	상위 100개 코인 정리되는 중	해외유저(Stablecoi…)	134	0	06-04 01:18
3690	주간 RSI 과매도는 역사상 4번뿐임	해외유저(The Wolf …)	145	0	06-04 01:24
3689	미국 비트코인 현물 ETF 11일 연속 자금 이탈 중	해외유저(Stacy Muur)	142	0	06-04 01:28
3688	단기 약세장 예상 중	해외유저(Remz)	125	0	06-04 01:36
3687	스트래티지 배당 부담 있지만 아직 여력 있음	해외유저(Stephen \|…)	129	0	06-04 01:37
3686	클래리티 법안, XRP·이더·비트코인에 대박 기대	해외유저(Good Even…)	113	0	06-04 01:42
3685	이번 사이클 진짜 힘들었음	해외유저(EAT THE R…)	107	0	06-04 01:43
3684	랠리였던 적 없는 랠리	글래스노드(온체인)	113	0	06-04 00:44
3683	7th Key 맛보기와 시장 현황	해외유저(JTheretoh…)	114	0	06-03 20:59
3682	탑 찍고 100% 수익 실현함	해외유저(Devs Hunt…)	109	0	06-03 21:13
3681	비트코인 2022년 패턴 반복 중	해외유저(Clive)	104	0	06-03 21:38
3680	시장 작동 원리 완전 오해 중임	해외유저(Vini B \|「…)	110	0	06-03 21:41
3679	암호화폐 아직 바닥 아님, AI·기술주에 자금 쏠림	해외유저(DukeD \| D…)	103	0	06-03 22:00
3678	BTC 급락에 공포 확산 중	해외유저(Harry 🦅)	105	0	06-03 22:21
3677	6월 비트코인 바닥 잡히면 $nock 10센트 예상	해외유저(nockusaga…)	106	0	06-03 22:34
3676	클래리티 법안 큰 진전, 규제 승리 임박	해외유저(Archie 👑)	101	0	06-03 22:44
3675	FTX 후 15-16k 비트코인 매수는 쉬웠음	해외유저(cryptopunk)	102	0	06-03 22:58
알트코인 강해지고 비트코인 약해짐 해외유저(︎ Teo Mercer) / 조회수 : 154 / 06-04 01:01
2022년 약세장과 지금 알트 움직임 완전 다름 해외유저(Sykodelic 🔪) / 조회수 : 151 / 06-04 01:07
비트코인 포함 암호화폐 시장에 대한 최근 생각 해외유저(Adam) / 조회수 : 151 / 06-04 01:08
상위 100개 코인 정리되는 중 해외유저(Stablecoin Se…) / 조회수 : 134 / 06-04 01:18
주간 RSI 과매도는 역사상 4번뿐임 해외유저(The Wolf Of A…) / 조회수 : 145 / 06-04 01:24
미국 비트코인 현물 ETF 11일 연속 자금 이탈 중 해외유저(Stacy Muur) / 조회수 : 142 / 06-04 01:28
단기 약세장 예상 중 해외유저(Remz) / 조회수 : 125 / 06-04 01:36
스트래티지 배당 부담 있지만 아직 여력 있음 해외유저(Stephen \| DeF…) / 조회수 : 129 / 06-04 01:37
클래리티 법안, XRP·이더·비트코인에 대박 기대 해외유저(Good Evening …) / 조회수 : 113 / 06-04 01:42
이번 사이클 진짜 힘들었음 해외유저(EAT THE RICH …) / 조회수 : 107 / 06-04 01:43
랠리였던 적 없는 랠리 글래스노드(온체인) / 조회수 : 113 / 06-04 00:44

7th Key 맛보기와 시장 현황 해외유저(JTheretohelp1) / 조회수 : 114 / 06-03 20:59
탑 찍고 100% 수익 실현함 해외유저(Devs Hunter) / 조회수 : 109 / 06-03 21:13
비트코인 2022년 패턴 반복 중 해외유저(Clive) / 조회수 : 104 / 06-03 21:38
시장 작동 원리 완전 오해 중임 해외유저(Vini B \|「 the…) / 조회수 : 110 / 06-03 21:41
암호화폐 아직 바닥 아님, AI·기술주에 자금 쏠림 해외유저(DukeD \| Defi) / 조회수 : 103 / 06-03 22:00
BTC 급락에 공포 확산 중 해외유저(Harry 🦅) / 조회수 : 105 / 06-03 22:21
6월 비트코인 바닥 잡히면 $nock 10센트 예상 해외유저(nockusaga par…) / 조회수 : 106 / 06-03 22:34
클래리티 법안 큰 진전, 규제 승리 임박 해외유저(Archie 👑) / 조회수 : 101 / 06-03 22:44
FTX 후 15-16k 비트코인 매수는 쉬웠음 해외유저(cryptopunk) / 조회수 : 102 / 06-03 22:58

❮❮ ❮ 196 197 198 199 200 ❯ ❯❯

코인톡

가격 게시판 코인 추가(최대 8개)

RAG로 툴 선택 효율화하고 병렬 실행으로 속도 개선

상장빔 차트 확인해보세요