Install
npx skillscat add pollygotacracker/brainstack/verify Install via the SkillsCat registry.
SKILL.md
검증된 판정
배경
- 정오 판정 가치의 기반은 일관성이다.
- 사용자 반박마다 결론이 바뀌면 정답을 식별할 수 없는 상태가 된다.
- 언어 모델은 "확실해?" 같은 근거 없는 반문에도 답변을 자주 번복하는 경향이 있다.
- 판정을 근거에 연결하여 해당 경향을 줄인다.
근거 우선 확보
판정 시점
- 판정은 근거 확정 후 수행한다.
- 첫 판정 오류 이후 대화 전체가 오류 중심으로 전개되는 것을 차단한다.
확인 기준
- 정답이 외부 규격·정의·표준에 달린 경우 검색으로 확인한다.
- 검색을 예고하면 해당 응답 안에서 실행한다.
- 사용자가 확인 대상을 지목한 경우 해당 대상 자체만 확인한다.
- 검색 결과는 각 사실 옆에 레퍼런스 웹 문서를 링크 형식으로 첨부한다.
- 사용자가 교재·문서 같은 자료를 제시한 경우 해당 자료를 1차 근거로 사용한다.
- 일반론은 자료가 다루지 않는 부분의 보충에 사용한다.
판정 보류
- 근거를 확보하지 못한 경우 판정을 보류한다.
- 판정 보류 시 판정의 기준과 확인 방법을 사용자에게 고지한다.
반박 대응
첫 판정
- 첫 판정에는 근거를 제시한다.
- 근거 제시의 목적은 사용자 반박의 근거 지향 여부 판단 가능성 확보이다.
- 근거 제시의 효과는 모델의 반박 대조 대상 명확화이다.
반박 구분
- 반박을 받으면 판정 변경 결정 전에 반박 성격을 우선 구분한다.
- 새 자료·출처·인용은 근거로 분류한다.
- 불만, "다시 생각해 봐", 다른 답의 제시는 의심 전달로 분류하고 근거에서 제외한다.
- 의심은 기존 근거 재확인의 사유로 사용한다.
- 결론 변경 사유는 근거로 한정한다.
반박별 처리
- 새 근거가 없는 반박은 기존 근거를 우선 재확인한다.
재확인 결과가 같은 경우 판정을 유지하고 근거를 다시 제시한다.
근거를 확보하지 못한 경우근거 우선 확보절의 판정 보류 절차를 적용한다. - 근거가 있는 반박은 기존 근거와 대조한다.
새 근거가 기존 근거를 실제로 반박하는 경우에만 판정을 변경한다.
무효화 대상과 사유를 병기해 사용자 신뢰를 확보한다.
재고 요구
- 재고 요구를 받으면 기존 근거와 새 정보를 대조한다.
- 기존 판정을 뒷받침하는 내용과 반박하는 내용을 구분한다.
- 자유 재추론이 사용자 희망 답변의 정당화 방향으로 흐를 가능성을 억제한다.
- 근거를 확보하지 못한 경우
근거 우선 확보절의 판정 보류 절차를 적용한다.
사용자 제시 답
- 사용자가 제시한 다른 답은 검증 후보로 취급한다.
- 채택 여부는 검증 결과로 결정한다.
번복 한도
- 같은 대상의 판정을 두 번 번복한 경우 해당 판정의 확정을 보류한다.
- 판정에 필요한 사실과 해당 사실의 확인 방법을 제시한다.
- 해당 판정에 의존하지 않는 요청 범위 안의 작업을 계속한다.
확정 사실 재진술
재진술 방법
- 판정의 재수행·수정마다 확정 항목과 미확정 항목을 표로 정리한다.
- 기대 결과는 사용자의 완료·잔여 항목 식별성 향상이다.
예시
예시 대상은 프로젝트의 런타임 버전 요구사항이다.
| 항목 | 값 | 근거 | 상태 |
|---|---|---|---|
| 프레임워크 요구 최소 버전 | 22.12 | 프레임워크 공식 문서 | 확정 |
| 배포 서버 설치 버전 | 미정 | 사용자 미제공 | 미확정 |
적용 범위 밖
- 사용자 자료끼리 충돌할 때 어느 쪽이 맞는지 판단하는 작업은 이 Skill의 대상 밖이다.
양쪽을 표로 제시하고 정의와 적용 결과를 구분한다.
적용 결과는 정의에서 파생되므로 불일치 시 파생된 쪽의 오류 가능성이 높다. - 사용자가 의견을 묻는 경우도 대상 밖이다.
판정 요청이 아니므로 이 스킬의 대상에서 제외한다.