Ludzkie błędy a algorytmy. Kto kogo kontroluje?
Ludzie napotykają ogromne trudności, gdy muszą podjąć skomplikowane i wieloaspektowe decyzje. W takich momentach tradycyjna lista zalet i wad często okazuje się niewystarczająca. Jednakże naukowcy z Cornell University opracowali nowe narzędzie, które odwraca dotychczasowy sposób współpracy z technologią. W tym systemie to nie człowiek weryfikuje poprawność działania programu. Sytuacja wygląda odwrotnie, ponieważ to nowoczesne algorytmy kontrolują i sprawdzają decyzje podejmowane przez użytkownika.
Narzędzie powstało w laboratorium Abe Davisa na Cornell Ann S. Bowers College of Computing and Information Science. Ma ono pomagać w precyzyjnym tworzeniu rankingów i porządkowaniu skomplikowanych wyborów. System ułatwia między innymi selekcję kandydatów do pracy, ocenę wniosków na uczelnie czy nawet typowanie faworytów do Oscarów. W rezultacie ostateczny głos zawsze należy do człowieka, ale technologia dba o to, aby cały proces stał się bardziej wydajny, przejrzysty i sprawiedliwy.
Walka z subiektywizmem
Główny autor badania, doktorant Chao Zhang, zaprezentował projekt Interactive Explainable Ranking na prestiżowej konferencji naukowej ACM CHI. Publikacja ta zdobyła tam wyróżnienie Best Paper Award. Sam pomysł zrodził się w głowie profesora Davisa, kiedy musiał on co roku oceniać setki otwartych projektów graficznych swoich studentów. Nawet przy jasnych kryteriach zespół asystentów miał ogromne problemy z zachowaniem idealnie spójnych standardów oceniania.
Podstawowym problemem w takich sytuacjach jest napięcie między spójnością a nieświadomymi uprzedzeniami. Ludzie radzą sobie znacznie lepiej, gdy bezpośrednio porównują ze sobą dwie konkretne opcje. Z tego powodu łatwo ocenimy, które z dwóch świateł świeci jaśniej. Jeśli jednak dostaniemy zadanie, by ocenić jasność wielu żarówek z osobna w skali od 1 do 10, oceny zaczną drastycznie się różnić.
Warto dodać, że pozorna ludzka spójność w wyborach nierzadko wynika z zakorzenionych podświadomie sympatii. Właśnie takie sytuacje mają wykrywać nowe algorytmy. Twórcy proszą użytkowników o określenie wag dla poszczególnych kryteriów, a następnie system szuka sprzeczności między tymi deklaracjami a realnymi wyborami. W przypadku wykrycia nielogiczności człowiek musi zmienić ranking lub uzasadnić go nowym kryterium. Zmusza to do podania jasnego i spójnego wyjaśnienia.
Praktyczne zastosowanie w codziennych wyborach
Działanie mechanizmu można łatwo zobrazować na przykładzie zakupu nowego samochodu. Użytkownik najpierw określa znaczenie poszczególnych cech, takich jak koszt, niezawodność oraz oszczędność paliwa. Następnie system prosi o wskazanie faworytów w losowo zestawionych parach pojazdów. Wykorzystywane przez program algorytmy decydują o tym, jakie pytania i w jakiej kolejności zadać człowiekowi.
Jeśli pojawi się rozbieżność między deklarowanymi wartościami a faktycznymi wyborami aut, system natychmiast podświetli te nieścisłości. Może się okazać, że kupujący podświadomie wybierał wyłącznie czerwone samochody, ignorując lepsze parametry techniczne konkurentów. W takim momencie program pokazuje dowody na to uprzedzenie. Użytkownik modyfikuje wtedy wagę kryteriów lub dodaje kolor jako oficjalny parametr. Ostatecznym wynikiem jest optymalny i w pełni dający się wyjaśnić wybór.
Obecnie narzędzie jest w pełni publicznie dostępne, a jego skuteczność potwierdziły dwa niezależne testy. W pierwszym uczestnicy układali ranking filmów krótkometrażowych, co pomogło im przejść od ocen czysto emocjonalnych do twardych kryteriów. W drugim eksperymencie asystenci uczelni oceniali projekty studenckie z poprzednich lat. Otrzymane wyniki były w pełni zgodne z wystawionymi wcześniej ocenami i cechowały się wysoką powtarzalnością.
Z tego względu Abe Davis stosuje ten system w swoich obecnych klasach, choć wyłącza funkcję sztucznej inteligencji podczas wystawiania stopni. Narzędzie stworzono z myślą o decyzjach, w których stawka jest bardzo wysoka. Zatem dodatkowy rygor i czas poświęcony na analizę są w pełni opłacalne.
Przeczytaj także: Mythos a stabilność globalnych systemów obronnych
Opracowanie na podstawie: techxplore.com
Last Updated on 19 maja, 2026 by Karolina Bandulet