Badacze przedstawili BOHM, nową metodę do analizy przypisywania odpowiedzialności (attribution) w złożonych systemach AI bez dodatkowych kosztów obliczeniowych. Technika umożliwia zrozumienie, które komponenty systemu współpracującego z wieloma modelami AI odpowiadają za poszczególne wyniki. Jest to ważne dla przejrzystości i debugowania zaawansowanych systemów compound AI, które łączą wiele modeli w jednym pipeline'u.
Badania
arXiv CS.AI