스프링AI - 2. ChatCompletion 이해
- 챗 컴플리션은 오픈 AI에서 제공하는 API 이름이며, 질문-답변과 같이 쌍을 이루는 개념을 의미함. 🗣️
- 최신 모델은 시스템, 유저, 어시스턴트 역할을 학습 데이터에 포함하여 모델의 응답 성향을 조절함. 🤖
- 챗 컴플리션은 2인 간의 대화 구조로 학습되어 3자 이상의 화자가 등장하는 상황에서는 오작동할 수 있음. 💬
- 챗 컴플리션 모델은 멀티턴(multi-turn) 대화를 인식하고 처리할 수 있도록 학습되어 있음. 🔄
- LRM(Language Model)의 본질은 정답이나 사실을 말하는 것이 아닌, 그럴듯한 말을 지어내는 서비스임. 🎭
- 모델은 시멘틱(토큰의 가중치)을 기반으로 확률적으로 가장 적절한 토큰을 생성하여 응답을 만들어냄. 🧮
- 모델에게 점수 평가를 맡길 경우, 시멘틱 컨텍스트만으로 그럴듯한 점수를 내기 때문에 신뢰하기 어려움. 💯
- 현대화된 컴플리션 모델인 챗 컴플리션 모델은 맥락을 이해하고 출력 토큰을 계속 생성할 수 있음. 🧠
- 스프링 에어에서 채팅에 사용되는 모델은 모두 챗 컴플리션 모델을 대상으로 함. ☁️