설명
Mirascope는 AI 에이전트 개발에 대한 새로운 접근 방식을 제공하며, "LLM 안티 프레임워크"로 자리매김하고 있습니다. 이 철학은 AI 엔지니어에게 유연성과 직접적인 제어를 강조하며, 경직되고 주관적인 프레임워크에서 벗어납니다. Mirascope의 핵심 약속은 개발자가 AI 애플리케이션을 보다 효율적으로 "구축하고, 관찰하고, 반복하고, 출시"할 수 있도록 지원하는 것입니다.
Mirascope는 OpenAI, Anthropic, Google과 같은 인기 LLM 제공업체와 원활하게 통합되는 강력한 툴킷을 제공합니다. 이 플랫폼은 개발자가 코드 내에서 도구와 LLM 호출을 정의할 수 있도록 하여 복잡한 AI 에이전트 생성을 촉진합니다. 시연된 주요 기능은 `library` 함수와 같이 장르별로 책을 검색하는 사용자 정의 도구를 정의하고, 이를 LLM 에이전트에서 활용할 수 있다는 것입니다.
이 시스템은 모든 LLM 상호 작용에 대한 자동 버전 관리, 추적 및 비용 추적을 포함한 고급 관찰 기능을 통합합니다. 이는 에이전트 실행을 자동으로 기록하고 모니터링하는 `@ops.version()` 데코레이터를 통해 입증됩니다. 제공된 코드 스니펫은 `library` 도구를 사용하고 LLM과 상호 작용하는 `librarian`이라는 에이전트를 보여줍니다. 도구 호출, 도구 출력 및 최종 텍스트 응답을 포함한 에이전트의 실행 흐름은 명확하게 추적 가능합니다.
Mirascope의 에이전트 루프 메커니즘은 에이전트가 도구를 실행하고 출력을 받은 다음 새 정보를 기반으로 사고 프로세스를 재개할 수 있는 동적 상호 작용을 허용합니다. 이러한 반복 기능은 다단계 추론 및 작업을 수행할 수 있는 정교한 AI 에이전트를 구축하는 데 중요합니다. 이 플랫폼은 AI 에이전트 개발의 복잡한 프로세스를 단순화하여 엔지니어에게 더 접근 가능하고 관리하기 쉽게 만드는 것을 목표로 합니다.
Mirascope의 대상 고객에는 AI 엔지니어, 머신러닝 실무자 및 대규모 언어 모델을 활용하는 애플리케이션을 개발하는 개발자가 포함됩니다. 특히 AI 에이전트의 동작에 대한 세밀한 제어가 필요하고, 에이전트 성능에 대한 자세한 통찰력이 필요하며, 비용 및 효율성을 최적화하려는 사람들에게 유용합니다. Mirascope는 많은 상용구 코드를 추상화하고 내장된 관찰 기능을 제공함으로써 개발 수명 주기를 가속화합니다.
Mirascope의 핵심 기능
유연한 AI 에이전트 개발을 위한 LLM 안티 프레임워크
OpenAI, Anthropic, Google LLM과 통합
AI 에이전트 내에서 사용자 정의 도구 정의 및 활용
에이전트 실행의 자동 버전 관리
LLM 상호 작용 및 도구 호출의 포괄적인 추적
LLM 사용에 대한 내장 비용 추적
동적 실행 및 응답을 위한 반복 에이전트 루프
빌드, 관찰, 반복 및 출시 주기를 위한 관찰 기능
실험부터 배포까지 간소화된 개발
Mirascope 사용 방법은?
LLM 도구 정의: 특정 작업을 위한 Python 함수를 만듭니다.
LLM 호출 데코레이션: 모델 및 도구를 지정하기 위해 `@llm.call`을 사용합니다.
에이전트 로직 구현: 에이전트의 상호 작용 흐름을 구성합니다.
에이전트 루프 실행: 에이전트를 실행하고 도구 호출을 반복적으로 처리합니다.
관찰 및 반복: 추적 및 버전 관리를 사용하여 에이전트 동작을 개선합니다.
AI 애플리케이션 출시: 개발 및 최적화된 AI 에이전트를 배포합니다.
Mirascope의 사용 사례
- AI 에이전트 개발
- LLM 관찰
- 반복 AI 설계
- 도구 통합
- 비용 최적화
- 자동 버전 관리
