Badacze odkryli fundamentalny problem z niestabilnością strukturalną w sposobie, w jaki sieci neuronowe komponują cechy (features) przy wykonywaniu złożonych zadań. Zjawisko to prowadzi do tego, że modele mogą być podatne na nieoczekiwane błędy oraz mogą słabo generalizować na nowe dane. Odkrycie ma znaczące implikacje dla bezpieczeństwa i niezawodności systemów AI, szczególnie w aplikacjach krytycznych, gdzie wymagana jest wysoka stabilność predykcji.
Badania
arXiv CS.LG