문맥과 기억
AI가 지금 참고하는 정보는 어디까지일까요?
배워 둔 정보, 이번 요청의 정보, 앱이 저장한 정보를 구분합니다.
개념 살펴보기
모델이 학습한 정보와 현재 요청에 담긴 문맥, 앱에 저장된 대화 기록은 같은 것이 아닙니다. 화면에 과거 대화가 보인다고 그 전체가 매번 모델에 전달된다고 단정할 수 없습니다.
문맥의 용량이 커져도 필요한 조건을 정확히 찾아 반영한다는 보장은 없습니다. 반복 입력을 최적화하는 캐시도 자료를 모델의 영구 기억으로 바꾸는 장치는 아닙니다.
이 개념을 다룬 에피소드 4
에피소드 02검색하는 AI는 무엇이 다를까?
찾은 문서는 모델이 현재 참고하는 입력의 일부가 됩니다.
에피소드 04AI는 방금 한 말을 왜 잊어버릴까?
현재 참고하는 정보와 저장된 기록을 구분하는 중심 개념입니다.
에피소드 05AI에게 질문하면 그때마다 배우는 걸까?
새 채팅에서 참고할 정보가 전달되는지는 현재 문맥과 앱의 기억 기능을 함께 봐야 합니다.
에피소드 07사진을 보고 목소리를 듣는 AI
같은 질문에 어떤 정보를 실제로 제공했는지 현재 입력의 관점에서 볼 수 있습니다.