에피소드 01AI는 왜 자신 있게 틀린 답을 할까? — 핵심 해설 발췌
이 편의 출발점은 답이 그럴듯하게 들리는 것과 사실에 맞는 것이 다르다는 구분입니다.
궁금한 개념을 골라 보세요. 서로 어떻게 이어지는지 살펴보고, 관련 에피소드를 들을 수 있습니다.
기술의 정답표가 아니라, 에피소드를 이해하기 위한 개념 안내입니다. 연결을 고르면 그 이유를 글로 확인할 수 있습니다.
이 편의 출발점은 답이 그럴듯하게 들리는 것과 사실에 맞는 것이 다르다는 구분입니다.
관련성과 근거의 충분성을 나누는 것이 이 편의 핵심입니다.
용량이 늘었다는 사실과 답이 정확하다는 사실을 구분합니다.
사실 정보를 학습할 수 있어도 유창함이 정확성의 증거는 아닙니다.
크기나 실행 방식만으로 결과의 정확성을 판단할 수 없습니다.
다양한 입력을 처리하는 능력과 해석의 정확성은 구분해야 합니다.
계산의 양이나 답변의 길이보다 근거와 결과로 확인하는 관점입니다.
관찰된 행동에서 나온 예측과 실제 만족을 동일하게 볼 수 없습니다.
공개된 설계가 있다는 것과 안전성이 검증되었다는 것은 같은 근거가 아닙니다.