TL;DR
Agent pisze „gotowe” i testy przechodzą, a mimo to mógł zmienić nie to, co trzeba. Wystarczy lista zadań z dwoma pozycjami o identycznych tytułach, ale różnych ID. Jeśli agent wybiera element po tytule, oznaczy jako wykonane niewłaściwe zadanie, a zwykły test tego nie zauważy.
Autor proponuje trzy proste próby. Oznacz konkretne zadanie i sprawdź, czy drugie zostało nietknięte. Powtórz tę samą operację i zobacz, czy wynik się nie zmienił, bo ma ustawiać status, a nie go przełączać. Na końcu zmień kolejność listy i oznacz inną pozycję, żeby wykluczyć zależność od miejsca na ekranie.
Najciekawsza jest rada na koniec: celowo wprowadź błąd i sprawdź, czy twoje testy go wykryją. To przydatny nawyk przy każdej pracy z agentami, nie tylko dla początkujących.
Agent napisał „gotowe”. Trzy proste próby na dwóch zadaniach o tym samym tytule pokażą, czy zmienił właściwą rzecz i czy Twoje testy potrafią wykryć pomyłkę.
Czytaj cały wpis u źródła// tagi