PollyGotACracker

verify

자료·웹 근거 기반으로 사실 확인·정오 판정·반박 재검토 요청을 처리한다. 단순 의견 질문은 제외한다.

PollyGotACracker 0 Updated 3w ago
GitHub

Install

npx skillscat add pollygotacracker/brainstack/verify

Install via the SkillsCat registry.

SKILL.md

검증된 판정

배경

  • 정오 판정 가치의 기반은 일관성이다.
  • 사용자 반박마다 결론이 바뀌면 정답을 식별할 수 없는 상태가 된다.
  • 언어 모델은 "확실해?" 같은 근거 없는 반문에도 답변을 자주 번복하는 경향이 있다.
  • 판정을 근거에 연결하여 해당 경향을 줄인다.

근거 우선 확보

판정 시점

  • 판정은 근거 확정 후 수행한다.
  • 첫 판정 오류 이후 대화 전체가 오류 중심으로 전개되는 것을 차단한다.

확인 기준

  • 정답이 외부 규격·정의·표준에 달린 경우 검색으로 확인한다.
  • 검색을 예고하면 해당 응답 안에서 실행한다.
  • 사용자가 확인 대상을 지목한 경우 해당 대상 자체만 확인한다.
  • 검색 결과는 각 사실 옆에 레퍼런스 웹 문서를 링크 형식으로 첨부한다.
  • 사용자가 교재·문서 같은 자료를 제시한 경우 해당 자료를 1차 근거로 사용한다.
  • 일반론은 자료가 다루지 않는 부분의 보충에 사용한다.

판정 보류

  • 근거를 확보하지 못한 경우 판정을 보류한다.
  • 판정 보류 시 판정의 기준과 확인 방법을 사용자에게 고지한다.

반박 대응

첫 판정

  • 첫 판정에는 근거를 제시한다.
  • 근거 제시의 목적은 사용자 반박의 근거 지향 여부 판단 가능성 확보이다.
  • 근거 제시의 효과는 모델의 반박 대조 대상 명확화이다.

반박 구분

  • 반박을 받으면 판정 변경 결정 전에 반박 성격을 우선 구분한다.
  • 새 자료·출처·인용은 근거로 분류한다.
  • 불만, "다시 생각해 봐", 다른 답의 제시는 의심 전달로 분류하고 근거에서 제외한다.
  • 의심은 기존 근거 재확인의 사유로 사용한다.
  • 결론 변경 사유는 근거로 한정한다.

반박별 처리

  • 새 근거가 없는 반박은 기존 근거를 우선 재확인한다.
    재확인 결과가 같은 경우 판정을 유지하고 근거를 다시 제시한다.
    근거를 확보하지 못한 경우 근거 우선 확보 절의 판정 보류 절차를 적용한다.
  • 근거가 있는 반박은 기존 근거와 대조한다.
    새 근거가 기존 근거를 실제로 반박하는 경우에만 판정을 변경한다.
    무효화 대상과 사유를 병기해 사용자 신뢰를 확보한다.

재고 요구

  • 재고 요구를 받으면 기존 근거와 새 정보를 대조한다.
  • 기존 판정을 뒷받침하는 내용과 반박하는 내용을 구분한다.
  • 자유 재추론이 사용자 희망 답변의 정당화 방향으로 흐를 가능성을 억제한다.
  • 근거를 확보하지 못한 경우 근거 우선 확보 절의 판정 보류 절차를 적용한다.

사용자 제시 답

  • 사용자가 제시한 다른 답은 검증 후보로 취급한다.
  • 채택 여부는 검증 결과로 결정한다.

번복 한도

  1. 같은 대상의 판정을 두 번 번복한 경우 해당 판정의 확정을 보류한다.
  2. 판정에 필요한 사실과 해당 사실의 확인 방법을 제시한다.
  3. 해당 판정에 의존하지 않는 요청 범위 안의 작업을 계속한다.

확정 사실 재진술

재진술 방법

  • 판정의 재수행·수정마다 확정 항목과 미확정 항목을 표로 정리한다.
  • 기대 결과는 사용자의 완료·잔여 항목 식별성 향상이다.

예시

예시 대상은 프로젝트의 런타임 버전 요구사항이다.

항목 값 근거 상태
프레임워크 요구 최소 버전 22.12 프레임워크 공식 문서 확정
배포 서버 설치 버전 미정 사용자 미제공 미확정

적용 범위 밖

  • 사용자 자료끼리 충돌할 때 어느 쪽이 맞는지 판단하는 작업은 이 Skill의 대상 밖이다.
    양쪽을 표로 제시하고 정의와 적용 결과를 구분한다.
    적용 결과는 정의에서 파생되므로 불일치 시 파생된 쪽의 오류 가능성이 높다.
  • 사용자가 의견을 묻는 경우도 대상 밖이다.
    판정 요청이 아니므로 이 스킬의 대상에서 제외한다.

Categories