RAG로 툴 선택 효율화하고 병렬 실행으로 속도 개선

거래소	실시간 시세	변동률	김치 프리미엄	거래량

해외유저(KRΛTOS🧢)

06-03

SentientAGI 연구에서 RAG를 단순 문서 검색용이 아니라 툴 선택에 활용하는 게 인상적임. 보통 LLM이 40개 넘는 툴 중에서 어떤 걸 써야 할지 헷갈리는데, 모든 툴을 다 보여주지 말고 RAG로 관련 툴만 추려서 ReAct 에이전트에 넘기는 방식임. 이러니까 툴 실패율 29% 줄고, 툴 호출 횟수도 28% 감소하면서 답변 품질은 유지됨. 또 툴 호출을 병렬로 처리해서 평균 지연 시간 40%나 줄였다고 함. 95% 쿼리는 두 번 이하 반복으로 끝나서, 많은 에이전트들이 복잡한 추론에 너무 시간 쓰는 거 아닌가 하는 의문도 생김. 실제론 툴 잘 골라서 실행하고 결과 내는 게 핵심인 경우가 많다는 거임. 결론은 LLM뿐 아니라 검색, 라우팅, 툴 선택, 실행 구조가 성능에 큰 영향 준다는 점. 모델 주변 시스템 잘 짜는 게 성능 개선에 더 효과적일 수 있음.

One thing that stood out to me in @SentientAGI latest research on RAG-based tool selection and parallel ReAct agents wasn’t the benchmark numbers.

It was the idea of using RAG for tool selection.

Most people think of RAG as a way to retrieve documents for an LLM. But once an agent has access to dozens of tools, a different problem appears: how does the model know which tool to use in the first place?

A typical setup looks like this:

User Query
↓
LLM
↓
40+ Available Tools
↓
Execution
↓
Answer

The larger the toolset gets, the harder the selection problem becomes.

Wrong tool calls, incorrect parameters, extra reasoning steps, and longer execution times start showing up more frequently.

Instead of exposing every tool to the model, Sentient adds a retrieval step before reasoning begins.

User Query
↓
Tool Retrieval (RAG)
↓
Top-K Relevant Tools
↓
ReAct Agent
↓
Execution
↓
Answer

The agent only sees the tools that are likely to be useful for the task at hand.

According to their experiments, this reduced tool failures by 29% and lowered the number of tool calls per query by 28% while maintaining answer quality.

They also explored parallel execution.

A lot of agents still perform tool calls one after another:

Get BTC Price
↓
Get ETH Price
↓
Get SOL Price

But these requests are independent and don’t need to wait on each other.

By identifying tool calls that can run simultaneously, their parallel ReAct architecture cut average latency by 40%.

What is more interesting was another result:

95% of queries finished in two iterations or less.

That raises an interesting question.

Are many agent systems spending too much time reasoning when the task simply requires finding the right tools, executing them, and returning a result?

For a large percentage of real-world queries, the flow may be closer to:

Retrieve
↓
Execute
↓
Respond

rather than long chains of reasoning and repeated loops.

The broader takeaway from Sentient’s research is that agent performance isn’t only about the LLM.

Retrieval, routing, tool selection, and execution architecture can have just as much impact on the final outcome.

Sometimes the biggest improvements come from building a smarter system around the model.

@SentientAGI

원문 링크 : https://twitter.com/Krypto_Kratos/status/2062113819581690049

0개의 댓글

해외 반응

No	제목	닉네임	조회수	추천	등록일
제목
3722	AI, 우주, 디지털 달러에 투자 스트래티지 정리	해외유저(XCap)	2	0	06-04 03:03
3721	$ENA 18% 움직임 완벽하게 잡음	해외유저(Wolf_Derek)	1	0	06-04 03:22
3720	비트코인 DCA 구간 진입	해외유저(Shib Spain)	1	0	06-04 03:28
3719	약세장 25일 만에 강세장 전환 조짐	해외유저(P4 Provid…)	0	0	06-04 04:00
3718	STRC는 BTC 바닥 찾을 때까지 계속 떨어질 가능성 큼	해외유저(VIKTOR)	1	0	06-04 04:11
3717	미 재무부 비트코인 전략 준비 빠르게 진행 중	해외유저(Commentar…)	0	0	06-04 04:12
3716	AI 고객지원에 대한 현실적인 이야기	해외유저(rohan)	1	0	06-04 04:18
3715	비트코인 4년 주기 끝나고 슈퍼사이클 시작	해외유저(Shib Spain)	0	0	06-04 04:45
3714	플레어 농사꾼들 자본 잘 지키고 수익도 챙김	해외유저(prxfecy)	1	0	06-04 05:04
3713	BTC 도미넌스 데스 크로스 최근 발생	해외유저(Matthew H…)	1	0	06-04 05:36
3712	$IREN, $MSTR 주가 역전 가능성 있음	해외유저(BitcoinAI…)	0	0	06-04 05:41
3711	비트코인 광풍 정점 찍은 듯	해외유저(Peter Sch…)	0	0	06-04 05:51
3710	6월에 비트코인 5만 달러까지 떨어질 듯	해외유저(Leshka.et…)	0	0	06-04 01:17
3709	솔라나 $67 근처에서 매수 기회 포착 중	해외유저(The Wisem…)	2	0	06-04 01:25
3708	단기 숏 몇 개 잡음	해외유저(Miles Bron)	1	0	06-04 02:07
3707	BTC 중요한 지지선 앞에서 혼란 중	해외유저(Echo 🗿)	0	0	06-04 02:16
3706	2020년 사이클과 비슷한 흐름 보임	해외유저(Trader_J)	1	0	06-04 02:21
3705	5만 중반에서 반등 기대	해외유저(Piv○t)	0	0	06-04 02:24
3704	비트코인 $65k 부근 유동성 변화 관찰 중	해외유저(Keith Alan)	1	0	06-04 02:34
3703	비트코인 6만7천 달러 회복	해외유저(Shahzada)	2	0	06-04 03:05
AI, 우주, 디지털 달러에 투자 스트래티지 정리 해외유저(XCap) / 조회수 : 2 / 06-04 03:03
$ENA 18% 움직임 완벽하게 잡음 해외유저(Wolf_Derek) / 조회수 : 1 / 06-04 03:22
비트코인 DCA 구간 진입 해외유저(Shib Spain) / 조회수 : 1 / 06-04 03:28
약세장 25일 만에 강세장 전환 조짐 해외유저(P4 Provider) / 조회수 : 0 / 06-04 04:00
STRC는 BTC 바닥 찾을 때까지 계속 떨어질 가능성 큼 해외유저(VIKTOR) / 조회수 : 1 / 06-04 04:11
미 재무부 비트코인 전략 준비 빠르게 진행 중 해외유저(Commentary Ba…) / 조회수 : 0 / 06-04 04:12
AI 고객지원에 대한 현실적인 이야기 해외유저(rohan) / 조회수 : 1 / 06-04 04:18
비트코인 4년 주기 끝나고 슈퍼사이클 시작 해외유저(Shib Spain) / 조회수 : 0 / 06-04 04:45
플레어 농사꾼들 자본 잘 지키고 수익도 챙김 해외유저(prxfecy) / 조회수 : 1 / 06-04 05:04
BTC 도미넌스 데스 크로스 최근 발생 해외유저(Matthew Hyland) / 조회수 : 1 / 06-04 05:36
$IREN, $MSTR 주가 역전 가능성 있음 해외유저(BitcoinAIGuy) / 조회수 : 0 / 06-04 05:41

비트코인 광풍 정점 찍은 듯 해외유저(Peter Schiff) / 조회수 : 0 / 06-04 05:51
6월에 비트코인 5만 달러까지 떨어질 듯 해외유저(Leshka.eth ⛩) / 조회수 : 0 / 06-04 01:17
솔라나 $67 근처에서 매수 기회 포착 중 해외유저(The Wisemen) / 조회수 : 2 / 06-04 01:25
단기 숏 몇 개 잡음 해외유저(Miles Bron) / 조회수 : 1 / 06-04 02:07
BTC 중요한 지지선 앞에서 혼란 중 해외유저(Echo 🗿) / 조회수 : 0 / 06-04 02:16
2020년 사이클과 비슷한 흐름 보임 해외유저(Trader_J) / 조회수 : 1 / 06-04 02:21
5만 중반에서 반등 기대 해외유저(Piv○t) / 조회수 : 0 / 06-04 02:24
비트코인 $65k 부근 유동성 변화 관찰 중 해외유저(Keith Alan) / 조회수 : 1 / 06-04 02:34
비트코인 6만7천 달러 회복 해외유저(Shahzada) / 조회수 : 2 / 06-04 03:05

1 2 3 4 5 ❯ ❯❯

코인톡

가격 게시판 코인 추가(최대 8개)

RAG로 툴 선택 효율화하고 병렬 실행으로 속도 개선