Dziennikarz The Verge decyduje się na regularne używanie AI, kierując się obawami o prywatność danych przechowywanych w usługach chmurowych. Zamiast uzależniać się od rozwiązań online, postanawia eksplorować możliwości uruchamiania potężnych modeli AI bezpośrednio na lokalnym sprzęcie, co daje znacznie większą kontrolę nad wrażliwymi informacjami.
Historyczne wyzwania związane z AI na lokalnym sprzęcie były zdominowane przez wymagania obliczeniowe - modele wymagały ogromnych mocy GPU i pamięci RAM, co czyniło je niedostępnymi dla zwykłych użytkowników. Dzisiaj sytuacja się zmienia. Optymalizacja modeli oraz pojawianie się wydajnych architektur pozwala na uruchamianie zaawansowanego AI nawet na konsumenckich maszynach. Apple mocno promuje to jako argument sprzedażowy swoich nowych Mac'ów, podkreślając zdolność do lokalnego przetwarzania AI bez uzależnienia od chmury.
Podróż autora stanowi testowanie granicy między tym, co praktyczne a co wciąż jest za drogie i zbyt techniczne dla przeciętnego użytkownika. Wzrastająca dostępność lokalnych modeli AI może zmienić sposób, w jaki ludzie myślą o prywatności i posiadaniu swoich danych, ale wymaga to pierwsze zdecydowanego wyboru: czy warto zainwestować w drogi sprzęt, aby uniknąć wysyłania informacji do chmury.