System AI w amerykańskim ruchu lotniczym: FAA odpiera zarzuty
Amerykańska Federalna Administracja Lotnictwa (FAA) wdrożyła w całym kraju system SMART oparty na sztucznej inteligencji, wart 875 mln dolarów. Kilka dni później doszło do zatrzymania lotów, które zakłóciło podróże w USA. Urzędnicy i twórca systemu zapewniają, że jedno z drugim nie ma związku, ale pytania o bezpieczeństwo takich rozwiązań wciąż padają.
Skąd podejrzenia o związek z postojem
SMART zaczął działać dla przestrzeni powietrznej wszystkich 22 centrów kontroli ruchu lotniczego 10 listopada. Zatrzymanie lotów nastąpiło trzy dni później. Sekretarz bezpieczeństwa krajowego Markwayne Mullin powiedział w piątek, że nic nie wskazuje na to, by problemy z łącznością, które wywołały postój, miały związek z nowym systemem. W sobotę to samo powtórzyli czołowi urzędnicy resortu transportu i FAA.
Firma Air Space Intelligence (ASI), która stworzyła system, oświadczyła, że przyczyną nie był ani SMART, ani żaden jej produkt, ani integracja z systemami FAA i kontroli ruchu.
Do czego służy SMART
Nazwa to skrót od Strategic Management of Airspace, Routes and Trajectories. System zbiera około 200 strumieni danych, między innymi o pogodzie, trasach lotów, natężeniu ruchu i obsadzie kontrolerów. Ma pokazywać, dokąd lecą samoloty, ile ruchu da się obsłużyć i gdzie mogą pojawić się korki lub kłopoty pogodowe.
Działa to tak: zespół specjalistów w jednym miejscu pod Waszyngtonem analizuje dane i wysyła rekomendacje do centrum dowodzenia FAA. Stamtąd trafiają one do kontrolerów w całym kraju, którzy je rozważają. Na razie sztuczna inteligencja nie steruje więc ruchem, tylko podpowiada ludziom.
FAA podaje, że w testach w rejonie Waszyngtonu system pomógł zmienić trasy 180 lotów. Średnio oszczędzało to 10 minut i 80 galonów (303 litry) paliwa na lot. Jeden samolot z Tampy do Dallas skrócił podróż o 42 minuty.
Ważna ma być też pogoda. Dziś FAA zamyka fragmenty przestrzeni jako duże prostokąty, choć burze mają nieregularne kształty i wąskie korytarze, którymi można bezpiecznie przelecieć. SMART ma dokładniej pokazywać, jak pogoda wpłynie na ruch w czasie, żeby nie zamykać niepotrzebnie dużych obszarów.
Obawy o niezawodność AI
W październiku demokraci z Izby Reprezentantów wysłali do Government Accountability Office pismo z prośbą o audyt oprogramowania. Napisali w nim, że kontrolerzy mieli niewielki wpływ na jego powstanie i dostali ograniczone szkolenia. Wskazali też ryzyko, że AI zakłóci decyzje doświadczonych kontrolerów albo „zahalucynuje” informacje istotne dla bezpieczeństwa.
Mike O’Donnell, wieloletni urzędnik FAA, a dziś konsultant ds. bezpieczeństwa lotniczego, ocenił, że agencja nie może sobie pozwolić na pomyłkę. Jego zdaniem SMART ma być jednym z narzędzi, a nie maszyną wykonującą pracę. Potrzebne są mechanizmy weryfikacji i walidacji, a pełne zaufanie do AI wymaga czasu i wielokrotnego potwierdzenia skuteczności.
Wdrożenie zbiegło się z długotrwałym niedoborem kontrolerów. Związek zawodowy NATCA, który reprezentuje około 14 tysięcy kontrolerów (w tym ok. 3 tysiące w trakcie szkolenia), alarmuje o tym od ponad dekady. Eksperci podkreślają, że żaden system AI nie zastąpi ludzi, którzy latami uczą się tego zawodu. Szef ASI Phillip Buckendorf mówił w NPR, że to człowiek podejmuje decyzję o przyjęciu lub odrzuceniu rekomendacji.
Co to oznacza dla Polski i Europy
Postój w USA i sam SMART nie dotyczą bezpośrednio polskich pasażerów ani polskiej kontroli ruchu. Warto jednak śledzić ten przypadek, bo podobne narzędzia pojawiają się także w Europie. Według eksperta cytowanego w artykule żaden inny kraj nie ma jeszcze działającego narzędzia AI tego typu, a Eurocontrol testuje własny system. Kilku producentów pracuje nad prototypami.
Doświadczenia z amerykańskiego wdrożenia, czyli sposób szkolenia kontrolerów, weryfikacji podpowiedzi AI i podziału odpowiedzialności, mogą więc być użytecznym punktem odniesienia także dla europejskich dyskusji o bezpieczeństwie lotów.
Źródło: Tech Xplore – „Questions swirl around FAA’s new SMART AI system, though officials say no link to ground stop”


