TL;DR
Anthropic w zaktualizowanym dokumencie S-1/A, składanym przed wejściem na giełdę, ostrzega przed rekurencyjnym samodoskonaleniem, czyli sytuacją, w której system AI sam projektuje mocniejsze następne modele. Firma przyznaje, że tempo rozwoju może przegonić zabezpieczenia.
Według dokumentu żaden obecny model Claude nie przekroczył progu RSI. Anthropic pisze jednak, że nie przewiduje bezpiecznego, w pełni autonomicznego projektowania kolejnych generacji bez istotnego nadzoru człowieka, i zapowiada aktualizację Polityki odpowiedzialnego skalowania.
W tle są liczby: 16,3 mld dolarów przychodów i 750 mld dolarów zobowiązań. Ciekawe jest to, że o ryzyku pisze nie aktywista, tylko firma w dokumentach dla inwestorów, a pytanie dotyczy tego, czy dzisiejsze mechanizmy nadzoru wystarczą.
Anthropic ostrzega, że rozwój sztucznej inteligencji może wkrótce nabrać tempa, którego ludzie nie będą w stanie kontrolować samymi zabezpieczeniami. W zaktualizowanym dokumencie r...
Czytaj cały wpis u źródła
