학습과 추론
질문할 때마다 모델 자체가 새로 배우는 걸까요?
모델의 매개변수를 조정하는 학습과 현재 입력으로 답을 계산하는 추론을 나눠 봅니다.
개념 살펴보기
일반적인 채팅에서는 질문마다 모델의 가중치를 새로 훈련하지 않습니다. 현재 문맥을 활용해 답을 바꾸는 일과 모델 자체를 학습시키는 일은 구분해야 합니다.
모델은 학습 과정에서 사실 정보도 익힐 수 있지만 유창한 답변이 정확성을 보장하지는 않습니다. 앱이 기록을 저장하거나 이전 지시를 다시 전달하는지도 별도로 살펴야 합니다.
이 개념을 다룬 에피소드 4
에피소드 01AI는 왜 자신 있게 틀린 답을 할까? — 핵심 해설 발췌
사전학습이 정보를 익히는 방식과 사실 판단을 구분하면 환각 설명을 읽는 바탕이 됩니다.
에피소드 04AI는 방금 한 말을 왜 잊어버릴까?
이미 학습한 정보와 요청 때 제공하는 정보를 비교합니다.
에피소드 05AI에게 질문하면 그때마다 배우는 걸까?
매개변수를 조정하는 학습과 현재 입력을 사용하는 추론을 나눕니다.
에피소드 08AI가 오래 생각하면 더 똑똑해질까?
학습 과정과 질문을 받은 뒤의 추론에 쓰는 계산을 비교합니다.