RAG로 툴 선택 효율화하고 병렬 실행으로 속도 개선

거래소	실시간 시세	변동률	김치 프리미엄	거래량

해외유저(KRΛTOS🧢)

103

06-03

SentientAGI 연구에서 RAG를 단순 문서 검색용이 아니라 툴 선택에 활용하는 게 인상적임. 보통 LLM이 40개 넘는 툴 중에서 어떤 걸 써야 할지 헷갈리는데, 모든 툴을 다 보여주지 말고 RAG로 관련 툴만 추려서 ReAct 에이전트에 넘기는 방식임. 이러니까 툴 실패율 29% 줄고, 툴 호출 횟수도 28% 감소하면서 답변 품질은 유지됨. 또 툴 호출을 병렬로 처리해서 평균 지연 시간 40%나 줄였다고 함. 95% 쿼리는 두 번 이하 반복으로 끝나서, 많은 에이전트들이 복잡한 추론에 너무 시간 쓰는 거 아닌가 하는 의문도 생김. 실제론 툴 잘 골라서 실행하고 결과 내는 게 핵심인 경우가 많다는 거임. 결론은 LLM뿐 아니라 검색, 라우팅, 툴 선택, 실행 구조가 성능에 큰 영향 준다는 점. 모델 주변 시스템 잘 짜는 게 성능 개선에 더 효과적일 수 있음.

One thing that stood out to me in @SentientAGI latest research on RAG-based tool selection and parallel ReAct agents wasn’t the benchmark numbers.

It was the idea of using RAG for tool selection.

Most people think of RAG as a way to retrieve documents for an LLM. But once an agent has access to dozens of tools, a different problem appears: how does the model know which tool to use in the first place?

A typical setup looks like this:

User Query
↓
LLM
↓
40+ Available Tools
↓
Execution
↓
Answer

The larger the toolset gets, the harder the selection problem becomes.

Wrong tool calls, incorrect parameters, extra reasoning steps, and longer execution times start showing up more frequently.

Instead of exposing every tool to the model, Sentient adds a retrieval step before reasoning begins.

User Query
↓
Tool Retrieval (RAG)
↓
Top-K Relevant Tools
↓
ReAct Agent
↓
Execution
↓
Answer

The agent only sees the tools that are likely to be useful for the task at hand.

According to their experiments, this reduced tool failures by 29% and lowered the number of tool calls per query by 28% while maintaining answer quality.

They also explored parallel execution.

A lot of agents still perform tool calls one after another:

Get BTC Price
↓
Get ETH Price
↓
Get SOL Price

But these requests are independent and don’t need to wait on each other.

By identifying tool calls that can run simultaneously, their parallel ReAct architecture cut average latency by 40%.

What is more interesting was another result:

95% of queries finished in two iterations or less.

That raises an interesting question.

Are many agent systems spending too much time reasoning when the task simply requires finding the right tools, executing them, and returning a result?

For a large percentage of real-world queries, the flow may be closer to:

Retrieve
↓
Execute
↓
Respond

rather than long chains of reasoning and repeated loops.

The broader takeaway from Sentient’s research is that agent performance isn’t only about the LLM.

Retrieval, routing, tool selection, and execution architecture can have just as much impact on the final outcome.

Sometimes the biggest improvements come from building a smarter system around the model.

@SentientAGI

원문 링크 : https://twitter.com/Krypto_Kratos/status/2062113819581690049

0개의 댓글

해외 반응

No	제목	닉네임	조회수	추천	등록일
제목
7573	ANSEM 가치 평가 논쟁 요약	해외유저(bulltoshi…)	0	0	07-19 01:44
7572	비트코인 59k~65k 박스권, 약세장 막바지 느낌	해외유저(CGT Trader)	0	0	07-19 05:53
7571	RH 완전 강세장 느낌임	해외유저(cryptic)	0	0	07-19 06:22
7570	비트코인 4만 달러 하락 기다리는 사람들 많음	해외유저(Michaël v…)	0	0	07-19 06:54
7569	비트코인 조정 계속될 듯	해외유저(NoName)	0	0	07-19 07:37
7568	바닥 가까워지는 중	해외유저(Phaltron …)	0	0	07-19 07:45
7567	월요일 장 대폭락 가능성 있음	해외유저(WhaleTwits)	0	0	07-19 05:59
7566	비트코인 바닥 찍은 듯	해외유저(Crypto Ma…)	2	0	07-19 01:34
7565	어제 솔라리스 롱 포지션, 일봉 약간 강세장 분위기	해외유저(Karl 📚🧮)	2	0	07-19 01:38
7564	비트코인 MACD 강세 전환	해외유저(Bitcoin H…)	1	0	07-19 01:40
7563	비트코인과 주식 시장 움직임 차이	해외유저(G.Martín)	2	0	07-19 02:00
7562	3월 말 알트코인 B 웨이브 정확히 맞춤	해외유저(CHETAN)	1	0	07-19 02:45
7561	주식시장 폭락에 암호화폐 반등은 어려움	해외유저(Austin Ot.)	1	0	07-19 02:48
7560	BTC 일봉 기준 상승 쐐기형 속 주요 유동성 구간 형성 중	해외유저(Minga)	2	0	07-19 02:54
7559	비트코인 매일 DCA 중임	해외유저(Coffee Ho…)	1	0	07-19 03:13
7558	사토시 시대 고래, 15년 만에 비트코인 대량 매도	해외유저(0xNobler)	5	0	07-19 03:30
7557	장기 보유자 실현 가격 5만 달러 근접	해외유저(On-Chain …)	1	0	07-19 03:33
7556	UFD가 지금 가장 안전한 프로젝트 중 하나임	해외유저(Crypto is…)	1	0	07-18 23:41
7555	아직 최종 항복은 안 왔을 가능성 있음	해외유저(Max Trades)	2	0	07-18 23:55
7554	다음 5일 주목할 40개 주식 차트 정리	해외유저(spacemonk…)	1	0	07-19 00:03
ANSEM 가치 평가 논쟁 요약 해외유저(bulltoshi06🐂🀄️) / 조회수 : 0 / 07-19 01:44
비트코인 59k~65k 박스권, 약세장 막바지 느낌 해외유저(CGT Trader) / 조회수 : 0 / 07-19 05:53
RH 완전 강세장 느낌임 해외유저(cryptic) / 조회수 : 0 / 07-19 06:22
비트코인 4만 달러 하락 기다리는 사람들 많음 해외유저(Michaël van d…) / 조회수 : 0 / 07-19 06:54
비트코인 조정 계속될 듯 해외유저(NoName) / 조회수 : 0 / 07-19 07:37
바닥 가까워지는 중 해외유저(Phaltron The …) / 조회수 : 0 / 07-19 07:45
월요일 장 대폭락 가능성 있음 해외유저(WhaleTwits) / 조회수 : 0 / 07-19 05:59
비트코인 바닥 찍은 듯 해외유저(Crypto Maxi 💹🧲) / 조회수 : 2 / 07-19 01:34
어제 솔라리스 롱 포지션, 일봉 약간 강세장 분위기 해외유저(Karl 📚🧮) / 조회수 : 2 / 07-19 01:38
비트코인 MACD 강세 전환 해외유저(Bitcoin Hopium) / 조회수 : 1 / 07-19 01:40
비트코인과 주식 시장 움직임 차이 해외유저(G.Martín) / 조회수 : 2 / 07-19 02:00

3월 말 알트코인 B 웨이브 정확히 맞춤 해외유저(CHETAN) / 조회수 : 1 / 07-19 02:45
주식시장 폭락에 암호화폐 반등은 어려움 해외유저(Austin Ot.) / 조회수 : 1 / 07-19 02:48
BTC 일봉 기준 상승 쐐기형 속 주요 유동성 구간 형성 중 해외유저(Minga) / 조회수 : 2 / 07-19 02:54
비트코인 매일 DCA 중임 해외유저(Coffee House …) / 조회수 : 1 / 07-19 03:13
사토시 시대 고래, 15년 만에 비트코인 대량 매도 해외유저(0xNobler) / 조회수 : 5 / 07-19 03:30
장기 보유자 실현 가격 5만 달러 근접 해외유저(On-Chain Mind) / 조회수 : 1 / 07-19 03:33
UFD가 지금 가장 안전한 프로젝트 중 하나임 해외유저(Crypto is the…) / 조회수 : 1 / 07-18 23:41
아직 최종 항복은 안 왔을 가능성 있음 해외유저(Max Trades) / 조회수 : 2 / 07-18 23:55
다음 5일 주목할 40개 주식 차트 정리 해외유저(spacemonkey) / 조회수 : 1 / 07-19 00:03

1 2 3 4 5 ❯ ❯❯

코인톡

가격 게시판 코인 추가(최대 8개)

RAG로 툴 선택 효율화하고 병렬 실행으로 속도 개선

상장빔 차트 확인해보세요