AI 에이전트를 위한 업무용 소프트웨어: 믿고 맡길 수 있는지 가리는 법

화면을 클릭하며 돌아다니거나 HTML을 긁어 오는 에이전트는 추측하고 있는 것입니다. JSON을 반환하고 자체 스키마를 공개하는 커맨드라인이나 API가 있는지 확인하세요. 어떤 명령이 있는지, 어떤 필드가 필수인지, 어떤 값이 허용되는지 알 수 있어야 합니다. 오류도 기계가 읽을 수 있어야 하며, 호출을 고칠지, 기다릴지, 사용자에게 물을지 알려 주는 코드가 있어야 합니다.

기능 범위도 확인하세요. UI에서만 되는 일은 에이전트가 우회하거나 아예 하지 못합니다.

에이전트에게는 비밀번호가 아니라 언제든 폐기할 수 있는 전용 키가 필요합니다. 키가 모든 요청에 실려 다니는 대신 수명이 짧은 토큰으로 교환되면 더 좋습니다.

에이전트에게 맡기면 안 되는 작업도 있습니다. 새 키 생성, 계정 삭제, 비밀번호 변경입니다. 소프트웨어는 문서에서 권하지 않는 데 그치지 말고, 에이전트 접근에 대해서는 서버에서 이를 막아야 합니다.

발행한 청구서는 되돌릴 수 없고 취소만 할 수 있습니다. 소프트웨어는 이런 단계를 파괴적 작업으로 표시하고 명시적인 확인이 있을 때만 실행해야 합니다. 이 확인은 도구 자체에 있어야 합니다. Replit에서 프롬프트 속 한 문장은 데이터베이스를 지켜 주지 못했습니다.

에이전트가 중요한 것을 바꾸기 전에 무엇을 보낼지 메서드, 주소, 본문까지 정확히 보여 줄 수 있어야 합니다. 그러면 말로 된 의도가 아니라 직접 본 내용을 승인하게 됩니다.

에이전트는 재시도합니다. 연결이 끊기면 다시 시도하고, 보호 장치가 없으면 시간 항목이나 입금이 시스템에 두 번 들어갑니다. 레코드를 만들 때 서버가 재시도를 알아볼 수 있도록 직접 정한 ID를 받는지, 일괄 작업이 전부 성공하거나 전부 실패하는지 확인하세요. 반복하면 안 되는 단계라면 오류가 그렇게 알려 줘야 합니다.

나중에 무슨 일이 있었는지 알고 싶어집니다. 그러려면 모든 작업이 직접 실행해 볼 수 있는 읽기 쉬운 명령이어야 하고, 필요할 때 키를 노출하지 않고 요청을 기록할 수 있어야 하며, 어떤 키가 언제 활동했는지 볼 수 있어야 합니다. 에이전트마다 키를 하나씩 쓰면 이것이 분명해집니다.

실수는 생깁니다. 중요한 것은 어떻게 바로잡느냐입니다. 초안을 수정하거나 삭제하고, 기록을 정정하고, 발행한 것은 조용히 덮어쓰지 않고 기록을 남기며 취소해야 합니다. 이미 청구한 것은 잠겨 있어야 합니다. 그래야 한 곳의 수정이 완료된 청구서를 바꾸지 않습니다.

에이전트가 요금제에 없는 기능이나 너무 많은 요청 같은 한도에 걸리면, 소프트웨어는 이유와 함께 기다리면 되는지 사용자가 결정해야 하는지를 분명히 알려야 합니다. 한도를 오류로 착각한 에이전트는 계속 재시도하거나 우회로를 찾습니다.

에이전트마다 필요한 최소 권한의 전용 키를 주고, 읽기만으로 충분하면 읽기 키를 주세요. 되돌릴 수 없는 작업은 직접 요청할 때만 허용하고, 승인하기 전에 드라이 런을 확인하세요. Time Momentum의 에이전트 접근은 Pro에 포함됩니다.