Naukowcy ostrzegają: Problemy z detekcją pieszych!

Najnowsze badania przeprowadzone przez naukowców z King's College London ujawniają niepokojące niedociągnięcia w systemach detekcji pieszych wykorzystywanych w technologii autonomicznych pojazdów. Sprawdzono aż osiem różnych systemów, które przeszły przez ponad 8 tysięcy zdjęć testowych. Jakie wyniki uzyskano?

Dorośli traktowani lepiej niż dzieci!

Systemy rozpoznawania były o niemal 20% skuteczniejsze w wykrywaniu dorosłych niż dzieci! Co więcej, osoby o jasnej karnacji były identyfikowane o 7,5% lepiej niż osoby z ciemną skórą. To zjawisko stawia pytania o równouprawnienie w kontekście sztucznej inteligencji.

Słabe oświetlenie pogarsza sytuację!

Problem staje się jeszcze bardziej niepokojący w złych warunkach oświetleniowych. W nocy i o zmierzchu algorytmy mają poważne trudności z detekcją osób o ciemniejszej karnacji, co może prowadzić do tragicznych skutków na drodze.

Jak to możliwe? Algorytmy mają swoje uprzedzenia!

Dr Jie Zhang, współautor badania, zwraca uwagę na to, że AI uczy się na podstawie dostarczonych danych, które w większości przypadków zawierają zdjęcia dorosłych osób o jasnej karnacji. Taki nierówny zestaw danych powoduje, że systemy powielają te dysproporcje, co jest nie do zaakceptowania w kontekście bezpieczeństwa.

Czy technologia jest gotowa do użycia?

Pomimo że technologiczne rozwiązania są szeroko rozpowszechniane, jak w przypadku systemów rozpoznawania twarzy, które doprowadzały do błędnych aresztowań, autonomiczne pojazdy wciąż zmagają się z tymi samymi problemami. W sierpniu 2023 roku władze Kalifornii dały zielone światło dla całodobowej operacji autonomicznych taksówek, co skutkowało rosnącą liczbą wypadków.

Odpowiedzi firm motoryzacyjnych!

W odpowiedzi na te zarzuty firma Waymo podkreśla, że ich samochody nie polegają wyłącznie na kamerach, a korzystają z różnych czujników, takich jak lidary i radary. Rzeczniczka firmy, Sandy Karp, twierdzi, że ich technologia jest specjalnie zaprojektowana do rozpoznawania ludzi i dostosowywania się do ludzkich zachowań, jednak informacje o współczesnych metodach nie są jeszcze dostępne z innych firm takich jak Cruise i Tesla.

Co czeka autonomiczne pojazdy w przyszłości?

Jedno jest pewne — bez poprawy systemów detekcji pieszych, technologia autonomicznych pojazdów pozostaje niebezpieczna dla wszystkich, a szczególnie dla najbardziej narażonych grup. Bezpieczeństwo na drodze to priorytet, a innowacje technologiczne powinny temu sprostać!