AI 요약관련 정보

• Context Engineering은 모델의 부족한 부분을 보완하는 '목발'과 같지만, 현재 AI 애플리케이션 개발에 필수적이다. 🩼
• Noam Brown은 scale이 모든 것을 해결할 것이라고 주장하지만, 현실에서는 6개월짜리 harness라도 서비스를 위해 필요하다. 🛠️
• Ilya Sutskever는 pre-training보다 reasoning에 투자해야 한다는 인사이트를 제시, Noam Brown에게 영향을 주었다. 🤔
• OpenAI는 주류 아이디어와 다른 reasoning 연구에 과감하게 투자하는 의사결정 구조를 가지고 있다. 🚀
• 시스템 1과 시스템 2는 독립적인 관계가 아닌 의존적인 관계이며, 충분히 좋은 시스템 1 없이는 시스템 2가 동작하지 않는다. 🧠
• 데이터는 프로그램 그 자체이며, 데이터에서 패턴을 찾아 rule로 꺼내는 것이 scale law의 핵심이다. 📊
• Superintelligence가 등장하면 현재의 context engineering 방식은 더 이상 유효하지 않을 수 있다. 🤯