AI 환각 막는 법 — 재료를 사실·결정·빈칸으로 갈라 넣습니다

AI는 왜 없는 사실을 쓰는가

지어내려고 지어내는 것이 아닙니다. 필요한 사실이 빠져 있고 그 자리를 그럴듯한 것이 메우는 것입니다. 날짜, 금액, 이름, 내가 하지 않은 주장이 그렇게 들어옵니다.

반대쪽으로 무너지는 경우도 있습니다. 재료가 거의 없으면 문서가 아니라 서식이 나옵니다. 빈칸이 예순 개 박힌 서식을 받으면 채우는 쪽이 더 힘듭니다. 두 실패는 원인이 같습니다. 내가 아는 것과 내가 정해야 하는 것과 정말 아직 모르는 것을 요청이 갈라 주지 않은 것입니다.

고치는 방법은 더 좋은 모델이 아니라 재료를 세 무더기로 갈라 넣는 요청입니다.

세 무더기로 갈라 넣습니다

① 사실 — 나만 갖고 있는 것

날짜, 금액, 이름, 실제로 있었던 일, 상대가 보낸 문장. 길어 보여도 원문 그대로 요청에 넣습니다. 빼놓은 사실 하나가 모델이 메울 자리 하나입니다.

② 결정 — 내가 고르고 모델이 실행하는 것

어조, 분량, 받는 사람, 무엇을 강조할지, 무엇을 말하지 않을지. 이것은 사실도 아니고 모르는 것도 아니며 나만 정할 수 있는 것입니다. 요청에서 정하지 않으면 모델이 정하고, 나는 그 선택을 고치는 일을 합니다.

③ 빈칸 — 표시하고 채우지 않게 합니다

찾아봐야 아는 계좌번호, 확인해야 아는 조항, 정확한 직함. 이런 것은 표시된 빈칸을 남기라고 시킵니다. [입력 필요: 계좌번호]처럼 적게 하면 한 번에 고칠 수 있습니다. 보이지 않는 추측은 그대로 문서에 남습니다.

빈칸이 너무 많아졌을 때

빈칸을 표시하게 했더니 빈칸만 남았다면, 그것은 요청이 약한 것이 아니라 재료가 아직 부족하다는 신호입니다. 빈칸 목록을 재료 수집 목록으로 읽고 그것부터 모읍니다.

그리고 재료가 없는 항목은 빈칸으로 만들지 않고 아예 뺍니다. 없는 것을 빈칸으로 바꾸면 문서가 빈칸 밭이 됩니다.

보내기 전 체크리스트

1. 1사실이 요청 안에 원문 그대로 들어 있는가, 기억으로 요약했는가
2. 2어조·분량·읽는 사람을 내가 정했는가, 모델에게 맡겼는가
3. 3모르는 것이 표시된 빈칸으로 남는가, 보이지 않는 추측으로 사라지는가
4. 4초안이 오면 숫자와 이름 하나하나가 내가 준 재료로 되짚어지는가

여기서 만드는 지시문은 이 구분을 기본으로 갖습니다. 「구체적으로 써」에는 「입력·출처에 있는 사실만」이 늘 짝으로 붙고, 모르는 것은 자신 있는 추측이 아니라 표시된 빈칸으로 나옵니다.