AI 요약관련 정보

• LLM의 핵심 목표는 방대한 텍스트 데이터에서 학습된 확률에 기반하여 다음 단어를 예측하는 것이며, 이는 '생각'이 아닌 텍스트 연속성입니다. 🧠
• 프롬프트 엔지니어링은 LLM이 원하는 작업을 정확히 수행하도록 안내하여 테스트 케이스 작성, 코드 생성, 디버깅, 로그 요약 등에서 시간을 절약하고 효율성을 높입니다. 🚀
• 초기 시퀀스-투-시퀀스 모델은 RNN 기반으로 토큰을 순차적으로 처리했지만, 고정된 '사고 벡터'로 인해 긴 입력에서 정보 손실이 발생하는 병목 현상이 있었습니다. ⏳
• 2015년 도입된 어텐션 메커니즘은 모든 은닉 상태 벡터를 디코더에 전달하여 모델이 입력의 전체 맵을 참조할 수 있게 함으로써 정보 병목 현상을 해결했습니다. 💡
• 2017년 'Attention is All You Need' 논문으로 등장한 트랜스포머는 RNN을 완전히 제거하고 어텐션에만 의존하여 모델을 더 빠르고 병렬적으로 만들었으며, 장거리 컨텍스트 캡처 능력을 획기적으로 향상시켰습니다. ⚡
• OpenAI의 GPT 모델은 대규모 훈련을 통해 프롬프트만으로 다양한 언어 작업을 수행하는 '제로샷' 능력을 보여주며, 태스크별 미세 조정에서 프롬프트 기반 접근 방식으로의 전환을 이끌어 프롬프트 엔지니어링의 기반을 마련했습니다. 🌐
• 프롬프트의 품질은 LLM 출력의 유용성과 정확성에 직접적인 영향을 미치므로, LLM이 데이터 패턴에 기반하여 추측한다는 점을 이해하고 원하는 결과에 맞춰 프롬프트를 정교하게 설계하는 것이 중요합니다. 🎯
• 실제 애플리케이션에서 프롬프트 엔지니어링은 사용자 입력에 컨텍스트를 추가하고, 외부 데이터를 활용하며, 심지어 LLM이 API 호출과 같은 실제 행동을 취하도록 유도하는 다층적인 시스템으로 발전합니다. 🛠️
• 궁극적으로 프롬프트 엔지니어링은 단순한 텍스트 작성을 넘어, 입력, 컨텍스트, 완성, 그리고 행동이 함께 작동하여 언어로 복잡한 문제를 해결하는 정교한 파이프라인입니다. 🔗