Agentowa AI — systemy, które planują, używają narzędzi i podejmują wieloetapowe działania samodzielnie — to najbardziej ekscytujący i najbardziej nadużywany pomysł w tej dziedzinie. Użyty dobrze, agent usuwa prawdziwą mozolną pracę. Użyty, bo jest modny, dodaje kruchości, kosztu i ryzyka do problemów, które prosty potok rozwiązałby pewniej. Wiedza, kiedy nie sięgać po agenta, jest tak samo cenna jak wiedza, jak go zbudować.
Czym naprawdę jest agent
Agent to więcej niż chatbot. Chatbot odpowiada; agent decyduje, co zrobić dalej, wywołuje narzędzia, obserwuje wynik i kontynuuje, aż osiągnie cel. Ta autonomia jest właśnie tym, co czyni go potężnym, i właśnie tym, co czyni go ryzykownym. Każdy krok to miejsce, w którym może pójść źle, a błędy kumulują się w łańcuchu decyzji podejmowanych z prędkością maszyny.
Kiedy wygrywa potok
Jeśli zadanie jest dobrze zdefiniowane i za każdym razem przebiega tymi samymi krokami, nie potrzebujesz agenta — potrzebujesz potoku. Wyciąganie pól z faktur, przekształcanie danych według harmonogramu, klasyfikowanie napływających dokumentów: mają znany kształt. Deterministyczny potok jest tańszy w budowie, szybszy w działaniu, trywialny w testowaniu i dużo łatwiejszy do zaufania. Owinięcie takiego zadania w autonomicznego agenta dodaje warstwę decyzyjną, która może jedynie wprowadzić nowe sposoby zawodzenia.
Test jest prosty. Jeśli potrafisz narysować schemat, zbuduj schemat. Agentów rezerwuj do przypadków, w których naprawdę nie da się wyliczyć kroków z góry, bo zależą od tego, co agent odkryje po drodze.
Kiedy agent zasługuje na swoje miejsce
Agenci błyszczą, gdy zadanie wymaga prawdziwego rozgałęzienia, którego nie da się oskryptować: badanie pytania w wielu źródłach, gdzie kolejne wyszukiwanie zależy od poprzedniego wyniku; triage zróżnicowanej skrzynki, gdzie każda pozycja wymaga innego traktowania; uzgadnianie rekordów, gdzie wyjątki są nieprzewidywalne. Tu elastyczność agenta nie jest wadą, lecz całym sensem.
Nawet wtedy liczy się inżynieria zabezpieczeń, nie autonomia. Dobry agent wie dokładnie, czego może dotknąć, wymaga akceptacji człowieka przed czymkolwiek istotnym, loguje każde działanie i ma twardy stop, gdy jest poza swoją głębią. Autonomia jest ograniczona ze wszystkich stron.
Ukryte koszty
Agenci są drożsi w działaniu, bo wieloetapowe rozumowanie oznacza wiele wywołań modelu na zadanie. Są trudniejsi do testowania, bo ich zachowanie jest niedeterministyczne. Są trudniejsi do debugowania, bo awaria trzy kroki w głąb może mieć źródło znacznie wcześniej. I niosą większe ryzyko, bo autonomiczny system podejmujący błędne działania pewnie i szybko może wyrządzić realną szkodę, zanim ktoś zauważy. Żadne z tych nie są powodami, by unikać agentów — ale są powodami, by być uczciwym co do kompromisu przed decyzją.
Prosta reguła decyzyjna
Zadaj trzy pytania. Czy potrafisz określić kroki z góry? Jeśli tak, zbuduj potok. Czy zadanie musi dostosowywać się na podstawie tego, co znajdzie? Jeśli tak, agent może być uzasadniony. Czy potrafisz ograniczyć i odwrócić jego działania, z człowiekiem akceptującym wszystko, co ma znaczenie? Jeśli nie, nie wdrażaj go, dopóki nie potrafisz. Większość zadań, do których ludzie sięgają po agentów, oblewa pierwsze pytanie — od początku były potokami.
Ścieżka pośrednia: agenci ograniczeni
Wybór nie zawsze jest binarny między sztywnym potokiem a w pełni autonomicznym agentem. Niektóre z najbardziej niezawodnych systemów leżą pośrodku: w większości oskryptowany przepływ z jednym–dwoma punktami, gdzie model podejmuje ograniczony osąd. Ogólna ścieżka jest przewidywalna i testowalna, ale system wciąż radzi sobie z wariacją, która uniemożliwiła czysty potok. Ten ograniczony projekt łapie dużą część elastyczności agenta, zachowując większość niezawodności potoku.
Myślenie w tych kategoriach — ile autonomii naprawdę potrzebuje ten konkretny krok — prowadzi do lepszych systemów niż domyślne sięganie po pełnego agenta. Większość kroków nie potrzebuje żadnej. Kilka potrzebuje odrobiny. Bardzo niewiele wymaga, by model naprawdę dowodził.
Ewaluacja jest tym, co czyni agentów bezpiecznymi
Jeśli już budujesz agenta, jedyną praktyką odróżniającą niezawodnego od ryzyka jest ewaluacja. Stały zbiór reprezentatywnych zadań, oceniany automatycznie przed i po każdej zmianie, mówi, czy „poprawa” faktycznie coś poprawiła, czy po cichu zepsuła kategorię przypadków. Bez tego niedeterminizm agenta oznacza, że wdrażasz zmiany na wiarę. Z tym możesz iterować z tą samą pewnością, jaką zespół programistów czerpie z zestawu testów.
Uczciwa rekomendacja
Budujemy systemy agentowe i często odradzamy je klientom. Celem nigdy nie jest użycie najbardziej imponującej technologii; jest nim rozwiązanie problemu w sposób najbardziej niezawodny, najtańszy w utrzymaniu i najłatwiejszy do zaufania. Czasem to agent. Często to ograniczony przepływ z odrobiną osądu na brzegach. Częściej, niż sugeruje szum, to zwykły, dobrze zbudowany potok — a rozpoznanie różnicy to miejsce, gdzie widać prawdziwy osąd inżynierski.