// itwiz.pl

Agenci AI dryfują. Capgemini: w 2027 roku dotychczasowe zabezpieczenia nie wystarczą

Streszczenie wpisu i odnośnik do pełnej treści u źródła.

Agenci AI dryfują. Capgemini: w 2027 roku dotychczasowe zabezpieczenia nie wystarczą

TL;DR

Każdy agent może działać zgodnie ze swoimi regułami, a cały system i tak nie dowiezie wyniku. Capgemini nazywa to dryfem. Przykład: agent prognozujący przewiduje wzrost popytu o 25%, agent zakupowy idzie do dostawców, ci podnoszą ceny, a agent finansowy wstrzymuje proces z powodu budżetu. Przy 10 do 15 agentach jest około 100 interakcji do śledzenia, a przy tysiącu agentów setki tysięcy par.

Stąd teza, że pełne testowanie interakcji będzie niemożliwe, a guardraile i człowiek w każdej pętli nie skalują się. Capgemini proponuje wielowarstwowe ograniczanie skutków błędów: mają być małe, odwracalne i wychwytywane przez kolejną warstwę. To jeden z pięciu trendów na 2027 rok, obok AI-first security, agentów w R&D i handlu agentowego. Autor tekstu dodaje własną krytykę części porównań z briefingu.

Podczas wirtualnego briefingu poświęconego pięciu trendom technologicznym na 2027 rok, eksperci Capgemini postawili tezę, że w ciągu najbliższych dwunastu miesięcy systemy wieloage...

Czytaj cały wpis u źródła

// powiązane wpisy