TL;DR
Agent AI to nie magia i nie framework, tylko pętla while z jednym wywołaniem modelu w środku. Model dostaje historię rozmowy i listę narzędzi, decyduje, czy któregoś użyć, a program wykonuje wywołanie i dokłada wynik do historii. Pętla kończy się, gdy model przestaje prosić o narzędzia, albo gdy skończy się limit iteracji. Całość mieści się w około 180 liniach Pythona i używa tylko biblioteki standardowej.
Najciekawsze są szczegóły, które decydują o tym, czy taki agent w ogóle działa. Błędy narzędzi wracają do modelu jako zwykły tekst, więc agent może sam się poprawić. Wyniki narzędzi trzeba trzymać zwięzłe, bo historia rośnie z każdym krokiem i pożera tokeny. Autor opisuje też trzy typowe awarie: kręcenie się w kółko, zbyt wczesne zakończenie i wybór złego narzędzia. Wszystkie leczy się raczej lepszymi opisami niż zmianą kodu.
Agent AI to nie magia i nie framework, to pętla while z jednym wywołaniem modelu w środku. Piszemy go od zera w około 180 liniach Pythona.
Czytaj cały wpis u źródła// tagi
