if(kakao)25 Krew Day AI 패널톡: AI 시대의 개발, 인프라, 전략 (외부 연사 초청 세션)

AI 인프라 및 하드웨어 제어

• 래블업의 '백엔드.AI'는 GPU 자원을 효율적으로 관리하는 AI 인프라 플랫폼으로, 수직 계열화된 스택을 통해 워크로드 최적화 및 스케줄링을 가능하게 합니다.
• LLM 시대에는 하드웨어(GPU) 제어가 매우 중요하며, PTX 레이어까지 깊이 관여하여 비결정성 문제 등을 해결해야 합니다. 구글의 AI 전략 및 검색 진화
• 구글은 'AI 퍼스트' 전략으로 조직을 개편하고 엔지니어들이 AI 관련 프로젝트를 경험하도록 집중하여 'AI는 구글'이라는 평가를 되찾았습니다.
• ChatGPT 등장 이후에도 구글 검색 트래픽은 증가했으며, **'AI 개요(AI Overviews)'**를 통해 LLM이 검색 결과를 요약, 재구성하여 답변하는 방식으로 진화하고 있습니다.
• 사내 AI 검색 시스템 구축 시, 정제되지 않은 원본 데이터를 LLM이 최대한 접근하도록 하여 시의성 있는 답변을 제공하는 것이 중요합니다. AI 시대 개발자의 역할 및 워크플로우
• AI 시대에 개발자는 코딩보다 AI 에이전트를 활용하고 오케스트레이션하는 '팀장' 역할로 변화하며, 새로운 툴과 방법을 적극적으로 시도해야 합니다.
• AI 네이티브 팀은 POC(Proof of Concept) 기반으로 프로젝트를 진행하고, 스펙 주도 개발 방식을 통해 프롬프트 작성으로 기능을 구현하는 등 워크플로우가 극적으로 변화했습니다.
• 협업 과정에서 빠른 의사결정이 중요하며, 시니어 엔지니어의 경험과 신속한 판단이 조직의 협력 비용을 줄이는 데 핵심적입니다. 엔지니어의 미래
• AI 활용은 이제 디폴트가 될 것이며, 엔지니어는 AI로 해결할 수 있는 것보다 더 많은 새로운 문제를 만들어내는 역할을 계속할 것입니다. 엔지니어의 미래는 밝습니다.