Sztuczna inteligencja staje się wiarygodna

Wykorzystywanie zaawansowanych algorytmów do wspierania lub bezpośredniego podejmowania kluczowych decyzji staje się powszechne. Zjawisko to widać wyraźnie w obszarach takich jak opieka zdrowotna czy administracja publiczna. W takich realiach kluczowego znaczenia nabiera precyzyjne zrozumienie tego, w jaki sposób systemy informatyczne dochodzą do konkretnych wniosków. Nowa praca doktorska przygotowana przez Johannę Hillgren z Uniwersytetu w Göteborgu prezentuje innowacyjną metodę projektowania oprogramowania. Publikacja ta przeszła redakcję Lizy Lock oraz recenzję Roberta Egana. Dzięki tym badaniom sztuczna inteligencja zyskuje zdolność do jasnego wyjaśniania dowodów, na których opiera swoje końcowe ustalenia.

Współcześni asystenci wirtualni bazują na dużych modelach językowych. Narzędzia te generują odpowiedzi w oparciu o statystyczne wzorce wykrywane w analizowanych tekstach. Taka charakterystyka sprawia jednak, że systemy tego typu potrafią halucynować. Generują one informacje, które brzmią niezwykle wiarygodnie, lecz w rzeczywistości są całkowicie błędne. Głośny przykład takiego zdarzenia miał miejsce w Szwecji, gdzie wicepremier Ebba Busch udostępniła sfabrykowany cytat. Technologia błędnie twierdziła, że odnalazła go w dwóch niezależnych źródłach, co okazało się nieprawdą.

Strategia ludzkiego dialogu w służbie technologii

Innowacyjne rozwiązanie tego problemu zaprezentował w swojej rozprawie doktorskiej Alexander Berman. Udowodnił on, że systemy informatyczne można zaprojektować w sposób umożliwiający prowadzenie dialogu wyjaśniającego z użytkownikiem. W trakcie takiej rozmowy algorytm wskazuje konkretne fakty, zasady lub obserwacje stanowiące podstawę jego wnioskowania. Działanie to przypomina sposób, w jaki ludzie uzasadniają swoje własne opinie podczas dyskusji.

Główny autor badania, będący doktorantem w dziedzinie językoznawstwa komputerowego na Uniwersytecie w Göteborgu, zwraca uwagę na kluczową różnicę nowej metody. Prezentowane wyjaśnienia autentycznie odzwierciedlają rzeczywistą ścieżkę, jaką program przebył, by wygenerować konkluzję. Nie jest to więc jedynie generowanie przekonująco brzmiącego tekstu, co stanowiło główną słabość dotychczasowych rozwiązań.

Struktura bezpiecznego systemu informatycznego

Zamiast polegać wyłącznie na autonomicznym modelu językowym, nowa metoda rozdziela procesy generowania odpowiedzi i weryfikacji danych. Proponowane rozwiązanie pozwala programowi na stały dostęp do bazy informacji o dowodach leżących u podstaw decyzji. Oprogramowanie wykorzystuje te twarde dane w momencie, gdy wyjaśnia użytkownikowi swój tok rozumowania.

Same modele językowe nadal mogą być używane jako istotne komponenty wewnątrz całej struktury. Mogą one odpowiadać za interpretowanie pytań zadawanych przez człowieka lub dostosowywanie formy odpowiedzi do konkretnego kontekstu. Taki podział ról sprawia, że sztuczna inteligencja zachowuje pełną elastyczność bez jednoczesnego kompromitowania swojej niezawodności.

Wiarygodność oraz pełna przezroczystość są absolutnie kluczowe w momentach, gdy algorytmy decydują o istotnych kwestiach życiowych. Użytkownicy muszą mieć realną możliwość oceny, czy dana decyzja ma mocne i uzasadnione podstawy. Nowe podejście badawcze ma przyczynić się do rozwoju systemów, którym ludzie będą mogli autentycznie zaufać. Rozprawa doktorska zatytułowana „What do you base that conclusion on? Grounding explainable AI in human dialogue strategies” została publicznie obroniona 4 czerwca o godzinie 10:15 w Jubileumssalen, Humanisten przy ulicy Renströmsgatan 6 w Göteborgu. Alexander Berman wyraża nadzieję, że jego praca zainspiruje kolejnych naukowców do dalszych badań w tej dziedzinie.

Przeczytaj także: Cyberbezpieczeństwo w UE. Nowy raport agencji ENISA

Opracowanie na podstawie: techxplore.com

Last Updated on 10 czerwca, 2026 by Karolina Bandulet