Sędziowie federalni w Stanach Zjednoczonych borykają się z rosnącą liczbą pism procesowych wygenerowanych za pomocą narzędzi AI. Osoby nie mające stać na zatrudnienie prawnika sięgają po asystentów AI do przygotowania pozwów i innych dokumentów sądowych. Choć pozwala to ludziom bez dostępu do prawnika podjąć działania prawne, pojawia się poważny problem: dokumenty generowane przez modele AI często zawierają błędy prawne, cytują fikcyjne sprawy lub zawierają absurdalne argumenty.
Sytuacja musi być szczególnie frustrująca dla sędziów takich jak Maritza Braswell z Kolorado, którzy próbują być sprawiedliwi wobec osób reprezentujących się samodzielnie, jednocześnie utrzymując integralność procesu sądowego. Każdy dokument wymaga teraz szczególnej uważności, ponieważ nie wiadomo, czy pochodzi od człowieka, czy od AI. Sędziowie muszą spędzać coraz więcej czasu na wychwytywaniu błędów i zmyślonych referencji, zamiast skupiać się na meritum sprawy.
Problem ilustruje podstawowe napięcie w dyskusji wokół AI: narzędzia potrafią demokratyzować dostęp do zasobów, ale równocześnie mogą tworzyć nowe problemy w systemach, które opierają się na rzetelności i precyzji. Bez mechanizmów weryfikacji i kontroli, fala AI-generowanych pism procesowych grozi przeciążeniem sądów i utrudnieniem dostępu do sprawiedliwości dla tych, którzy rzeczywiście mają silne sprawy.