Badacze opracowali LLM Agents Factory, nową metodę konstruowania specjalistycznych agentów AI, która radykalnie zmniejsza koszty obliczeniowe w stosunku do tradycyjnego podejścia generowania agentów na żądanie. Zamiast tworzyć agenta od podstaw dla każdego żądania użytkownika, system wyszukuje optymalny profil agenta z przechowywanych bazy ponad 20 tys. predefiniowanych konfiguracji.
Framework obsługuje dwa tryby działania: pierwszy wykorzystuje semantic search do znalezienia najlepszego profilu agenta z repozytorium, drugi kompresuje wiedzę do zwartego modelu dostrojskiego, który może bezpośrednio generować konfiguracje agentów. Podejście retrieval-based okazało się znacznie bardziej efektywne niż dynamiczna generacja - w testach na MMLU, BIG-bench i BIG-bench Hard zaproponowana metoda osiągnęła dokładność porównywalną z systemem AutoGen przy obecności 120-miliardowego modelu fundamentalnego, lecz wymagając zdecydowanie mniejszych zasobów obliczeniowych.
To rozwiązanie szczególnie ważne dla przemysłowego wdrażania agentów AI, gdzie koszty infrastruktury i stabilność systemu są krytyczne. Autorzy udostępnili kod implementacji oraz bazę agentów na platformie Hugging Face, otwierając drogę do praktycznego zastosowania tej technologii w aplikacjach wymagających zarówno precyzji, jak i efektywności ekonomicznej.