작업 분해와 RAG를 통해 Low-code 완전한 워크플로우 생성하기

Generating a Low-code Complete Workflow via Task Decomposition and RAG

November 29, 2024

저자: Orlando Marquez Ayala, Patrice Béchard

cs.AI

초록

AI 기술은 연구에서 생산으로 신속히 진화하고 있습니다. 텍스트, 이미지 및 비디오를 생성하는 Foundation Models (FMs)의 인기로, AI 기반 시스템은 복잡성을 더하고 있습니다. 전통적인 AI 기반 소프트웨어와 비교했을 때, FMs 또는 GenAI 기반 시스템을 사용하는 시스템은 규모와 다양성으로 인해 설계하기 어려워집니다. 이로 인해 소프트웨어 공학에서의 디자인 패턴으로 알려진 최상의 실천 방법을 문서화하는 것이 필요합니다. 우리의 첫 번째 기여는 두 가지 기술, 작업 분해 및 검색 증강 생성 (RAG)을 GenAI 기반 시스템의 디자인 패턴으로 공식화하는 것입니다. 이러한 기술의 소프트웨어 품질 속성에 대한 트레이드오프를 논의하고 대안적 접근 방법에 대해 논평합니다. 우리는 AI 실무자들에게 이러한 기술을 과학적인 관점뿐만 아니라 유연성, 유지보수성, 안전성 및 보안과 같은 원하는 공학 특성의 관점에서 고려할 것을 권장합니다. 두 번째로, 우리는 작업 분해와 RAG를 산업 경험을 통해 설명하며 기업 사용자를 위한 복잡한 현실 세계 GenAI 응용 프로그램인 Workflow Generation을 구축하는 데 적용한 경험을 기술합니다. 워크플로우를 생성하는 작업은 시스템 환경의 데이터를 사용하여 사용자 요구 사항을 입력으로 받아들여 특정 계획을 생성하는 것을 의미합니다. 이 두 가지 패턴이 전체 AI 개발 주기에 영향을 미치므로, 데이터셋 생성, 모델 훈련, 모델 평가 및 배포 단계에 어떻게 영향을 미쳤는지 설명합니다.

English

AI technologies are moving rapidly from research to production. With the popularity of Foundation Models (FMs) that generate text, images, and video, AI-based systems are increasing their complexity. Compared to traditional AI-based software, systems employing FMs, or GenAI-based systems, are more difficult to design due to their scale and versatility. This makes it necessary to document best practices, known as design patterns in software engineering, that can be used across GenAI applications. Our first contribution is to formalize two techniques, Task Decomposition and Retrieval-Augmented Generation (RAG), as design patterns for GenAI-based systems. We discuss their trade-offs in terms of software quality attributes and comment on alternative approaches. We recommend to AI practitioners to consider these techniques not only from a scientific perspective but also from the standpoint of desired engineering properties such as flexibility, maintainability, safety, and security. As a second contribution, we describe our industry experience applying Task Decomposition and RAG to build a complex real-world GenAI application for enterprise users: Workflow Generation. The task of generating workflows entails generating a specific plan using data from the system environment, taking as input a user requirement. As these two patterns affect the entire AI development cycle, we explain how they impacted the dataset creation, model training, model evaluation, and deployment phases.