카
카카오엔터테인먼트FE
November 6, 20241회
지연 시간 순삭! LLM 추론 구조와 효율적 애플리케이션 설계 / if(kakaoAI)2024
간단 소개
LLM 추론 구조 분석을 통해 애플리케이션의 지연 시간을 줄이고 효율적인 설계를 구축하는 방법을 제시합니다.
AI Summary
- LLM 기반 애플리케이션의 지연 시간 최소화
- LLM 기반 앱에서 빠른 응답 속도가 중요하며, 지연 시간 최소화가 핵심 과제임
- 캐릭터 페르소나 구현 경험을 바탕으로 효율적인 활용 방안 제시
- LLM 시퀀스 생성 메커니즘 분석 및 최적화
- LLM의 시퀀스 생성 메커니즘 분석을 통해 지연 시간 최소화 방법 탐구
- 최적화된 설계를 통해 사용자 경험을 극대화하고 실시간 응답 애플리케이션의 성능을 향상시키는 전략 소개
Next Feeds
주니어 서버 개발자가 유저향 서비스를 개발하며 마주쳤던 이슈와 해결 방안
카카오페이 혜택 서비스 개발 중 발생한 동시성, DB 성능, 멱등성 이슈 해결 경험 공유 및 시스템 안정성 확보 방안 제시.
동시성트랜잭션멱등성Redis분산 락
2024. 11. 5.
카카오페이
Tech Week 2024, 사내 해커톤 Hack Day에 참여했습니다!
Tech Week 2024 Hack Day 참여를 통해 글로벌 협업, AI 기반 앱 개발, 그리고 새로운 아이디어 공유를 경험했습니다.
Tech WeekHack Day해커톤AI협업
2024. 11. 5.
LY Corp
슈퍼앱에서 선택하는 Micro FrontEnd Architecture
슈퍼앱 환경에서 Micro FrontEnd 아키텍처 도입을 고려하며 개념, 장점, 적용 방안 및 고려사항을 분석합니다.
Micro FrontEndMSA프론트엔드아키텍처슈퍼앱
2024. 11. 5.
현대자동차
Front-end 개발자가 회고하는 기획전 개편
올리브영 기획전 개편 과정에서 Next.js 환경에서 HTML 모듈과 기존 컴포넌트 통합 및 성능 최적화에 대한 프론트엔드 개발자의 경험 공유.
Next.jscreateRoot렌더링성능 최적화프론트엔드
2024. 11. 1.
올리브영
모든 개발자가 알아야 할 SOLID의 진실 혹은 거짓
SOLID 원칙의 역사, 각 원칙의 핵심 내용, 그리고 실제 개발에 적용하는 방법과 주의사항을 설명합니다.
SOLIDSRPOCPLSPDIP
2024. 11. 1.
카카오뱅크
Flutter 클린 아키텍처: 작은 앱부터 대규모 프로젝트까지 맞춤 설계
Flutter 앱의 클린 아키텍처 적용 과정을 6단계로 설명하고, 각 단계별 문제점과 해결 방안, 최종 아키텍처 구조를 제시합니다.
Flutter클린 아키텍처아키텍처UseCaseRepository
2024. 11. 1.
LY Corp