태그로 보기

승인

글 2편

AI 에이전트 액션 승인: 시스템 프롬프트로는 지킬 수 없는 한도

시스템 프롬프트에 적은 한도나 금액은 AI 모델이 따를 때만 지켜지고, 고객은 대화로 AI 모델을 설득해 그 숫자를 무시하게 만들 수 있습니다. 돈이나 데이터를 내보내는 도구의 한도는 실행 직전에 AI 모델 밖에서 ALLOW, NEEDS_APPROVAL, DENY 중 하나를 내는 규칙으로 정하고, 시스템 프롬프트에는 에이전트가 고객에게 할 말에 관한 지시만 남기는 게 좋습니다.

2026년 10월 24일17분 읽기

핀테크를 위한 룰 엔진: 한도, 심사, 승인 결정

핀테크의 한도, 심사 기준, 승인 결정은 규제가 바뀔 때마다, 리스크 모델이 바뀔 때마다 함께 바뀌고, 서비스 코드에 박아 넣으면 감사에서 무너집니다. 마감은 규제 기관이 정하고 임계값은 리스크팀이 쥐고 있는데, 감사관은 그날 어느 값이 적용됐는지를 묻습니다.

2026년 6월 25일13분 읽기