도구를 사용하는 모델을 위한 에이전트 작업 환경, 데이터 지정

단일 턴 샘플이 왜 충분하지 않나요?

에이전트 시스템에서 중요한 실패는 누적되기 때문입니다. 모델이 도구를 호출하고 결과를 잘못 읽으면 그 이후의 모든 것이 잘못된 해석에 기반하게 됩니다. 그 시퀀스의 어느 한 턴도 자체적으로는 잘못된 것처럼 보이지 않습니다.

따라서 고립된 턴에서 훈련하거나 평가하는 것은 관심 있는 것과 다른 것을 측정하게 됩니다. 각 단계의 중간 상태를 포함한 전체 경로가 필요하며, 실제로 어디에서 잘못되었는지를 확인할 수 있습니다.

왜 실패 경로를 의도적으로 작성해야 하나요?

생산에서만 수집하면 대부분 성공과 거의 성공에 가까운 데이터만 수집되며, 드문 실제 실패는 대표성이 없고 샘플링이 부족합니다.

잘된 것만 본 에이전트는 복구하는 법을 배우지 못했습니다. 도구 시간 초과, 잘못된 응답 및 그럴듯하지만 잘못된 중간 결과를 포함하여 예상되는 실패 모드를 의도적으로 작성하는 것이 유용한 밀도로 이를 다루는 유일한 방법입니다.

작업 사양은 무엇을 명확히 해야 하나요?

사용 가능한 도구 표면, 성공 기준, 허용 가능한 복구로 간주되는 것, 예상 경로에서 벗어날 수 있는 허용 범위. 마지막이 없으면 주석자들이 비정상적이지만 성공적인 경로가 올바른지에 대해 의견이 다릅니다.

사양을 데이터와 함께 버전 관리하세요. 에이전트 사양은 빠르게 변경되며, 이전 성공 기준 하에서 판단된 경로는 새로운 기준 하에서 판단된 경로와 비교할 수 없습니다.

• 사용 가능한 도구 표면
• 성공 기준
• 허용 가능한 복구로 간주되는 것
• 예상 경로에서 벗어날 수 있는 허용 범위
• 모든 경로에 찍힌 사양 버전

에이전트 작업 환경이란 무엇인가요?

모델이 도구를 사용하여 다단계 작업을 완료하는 설정으로, 중간 상태를 포함한 전체 경로가 기록되어 모델이 단일 턴이 아닌 전체 시퀀스에서 훈련되거나 평가될 수 있습니다.

왜 실패 경로를 의도적으로 작성해야 하나요?

생산 데이터는 대부분 성공적인 실행입니다. 도구 시간 초과나 잘못된 응답을 본 적이 없는 에이전트는 그러한 상황에서 복구하는 법을 배우지 못했습니다.

작업 사양은 버전 관리해야 하나요?

예. 에이전트 사양은 빠르게 변경되며, 이전 성공 기준 하에서 판단된 경로는 새로운 기준 하에서 판단된 경로와 비교할 수 없습니다. 버전이 기록되지 않으면 안 됩니다.