AI 요약관련 정보

• 스프링 AI는 인공지능 모델 사용을 위한 자바 기반의 편의 라이브러리들을 제공하며, 파이썬 생태계의 랭체인에 대한 대안으로 부상하고 있음. 🐍
• 스프링 AI 프로젝트는 모듈 구조를 이해하는 것이 중요하며, 특히 스프링 AI 스타터로 시작하는 모듈만 사용해야 함. 🏗️
• 오픈 AI API를 사용하려면 유료 결제가 필요하며, 재미나이를 사용할 경우 무료 API 키를 발급받을 수 있지만 데이터가 구글에 저장될 수 있음. 🔑
• 다양한 공급사(오픈 AI, 엔트로픽 등)를 동시에 사용하려면 오토 컨피그레이션 충돌을 피하기 위해 수동 빈 설정을 해야 함. 🛠️
• 챗 컴플리션은 질문-답변 쌍으로 학습된 모델로, 시스템, 유저, 어시스턴트의 역할을 이해하고 순서대로 메시지를 전달하는 것이 중요함. 🗣️
• LM(Language Model)은 본질적으로 말을 지어내는 서비스이며, 모델의 튜닝을 통해 그럴싸한 답변을 생성하도록 유도함. 🎭
• 템퍼처, 탑-K, 탑-P 등의 파라미터를 조절하여 모델의 다양성과 예측 가능성을 제어할 수 있음. 🌡️
• 맥스 토큰은 답변의 길이를 제한하는 옵션이지만, 요약 기능을 제공하지는 않음. ✂️
• 메시지는 챗 컴플리션 모델과의 대화를 위한 입력 토큰을 의미하며, 순서와 컨텍스트를 고려하여 전달해야 함. ✉️