Płynność wypowiedzi chatbotów może usypiać czujność użytkowników
Płynność wypowiedzi chatbotów może sprawiać, że użytkownicy uznają je za wiarygodne, nawet gdy generują nieprawdziwe informacje. Badania pokazują, że system posługujący się naturalnym, rozbudowanym językiem może budzić podobne zaufanie jak chatbot udzielający krótkich, ale bezbłędnych odpowiedzi. Wyniki analizy opublikowało czasopismo „Computers in Human Behavior: Artificial Humans”.
Narzędzia takie jak ChatGPT, Gemini czy Claude stały się częścią codzienności wielu użytkowników. Każdego dnia odpowiadają na miliony pytań. Jednak modele językowe mają tendencję do generowania tzw. halucynacji. Są to nieprawdziwe lub nieuzasadnione informacje, które system przedstawia z dużą pewnością siebie.
Z badań medioznawczyni Marianny de Sa Siqueiry i jej współpracowników z Uniwersytetu im. Radbouda w Nijmegen wynika, że sposób formułowania wypowiedzi wpływa na ocenę chatbotów. Użytkownicy częściej uznają system posługujący się naturalnym językiem za inteligentny i użyteczny. Dzieje się tak nawet wtedy, gdy przekazuje on błędne informacje.
Płynność wypowiedzi wpływa na ocenę wiarygodności AI
W ramach eksperymentu naukowcy przedstawili uczestnikom cztery warianty rozmowy z chatbotem na temat „Władcy Pierścieni”.
W dwóch przypadkach chatbot posługiwał się płynnymi, naturalnie brzmiącymi zdaniami. Jeden wariant zawierał poprawne odpowiedzi, drugi natomiast przedstawiał błędne informacje.
Pozostałe dwa warianty wykorzystywały krótkie, rzeczowe komunikaty. Pierwszy przekazywał wyłącznie prawdziwe informacje, a drugi zawierał subtelnie zmyślone fakty.
Zgodnie z przewidywaniami uczestnicy najwyżej ocenili chatbota, który łączył elegancki język z poprawnymi odpowiedziami. Jednak wyniki ujawniły również inne zjawisko.
Chatbot formułujący płynne, lecz nieprawdziwe wypowiedzi uzyskał podobne oceny inteligencji i przyjemności użytkowania jak system przekazujący poprawne informacje w sposób oszczędny i sztywny.
Co więcej, aż 80 proc. uczestników nie dostrzegło błędów w odpowiedziach. Stało się tak mimo wcześniejszej selekcji badanych pod kątem podstawowej znajomości „Władcy Pierścieni”.
– Przede wszystkim pokazuje to, jak łatwo można wprowadzić ludzi w błąd i jak szybko zaczynamy ufać czemuś, co w rzeczywistości wygaduje bzdury – wskazała Barbara Müller, profesor nadzwyczajna i współautorka badania. – Jeśli tekst brzmi elegancko i naturalnie, ludzie automatycznie przypisują mu inteligencję. Podświadomie zakładamy wtedy: „wszystko w porządku, nie muszę tego dalej sprawdzać”.
Dlaczego użytkownicy ufają chatbotom?
Wyniki badania zwracają uwagę na ryzyko bezkrytycznego korzystania ze sztucznej inteligencji. Naturalny język i pewny ton wypowiedzi mogą bowiem sprawiać wrażenie, że system dysponuje rzetelną wiedzą.
Profesor Tibor Bosse, współautor badania, wyjaśnił, że sposób działania modeli językowych sprzyja powstawaniu takich sytuacji.
– Tak zwane modele językowe, takie jak GPT czy Claude, są przede wszystkim trenowane w tworzeniu zdań, które są statystycznie prawdopodobne i łatwe w odbiorze. Systemy te nie zawsze przywiązują dużą wagę do prawdy. Zostały zaprojektowane tak, by brzmiały jak wypowiedzi człowieka i były przekonujące, ale to, czy zawarte w nich informacje są faktycznie poprawne, ma dla nich drugorzędne znaczenie.
Zdaniem badacza rozwój technologii zmienił sposób, w jaki użytkownicy postrzegają chatboty. Dawniej głównym problemem była niska jakość odpowiedzi. Obecnie coraz większe zagrożenie stanowi ich pozorna wiarygodność.
– Kiedyś ludzie narzekali, że chatboty są irytujące i nic nie wiedzą. Teraz brzmią tak inteligentnie, że zbyt łatwo im wierzymy – zauważył Bosse.
Jak ograniczyć ryzyko dezinformacji ze strony chatbotów?
W ocenie naukowców samo ostrzeżenie o możliwości występowania błędów nie zapewnia użytkownikom wystarczającej ochrony. Problem wymaga bardziej przejrzystego informowania o wiarygodności generowanych odpowiedzi.
Bosse podkreśla, że firmy technologiczne powinny wyraźniej sygnalizować niepewność modeli językowych. Takie rozwiązanie mogłoby ograniczyć ryzyko uznawania nieprawdziwych informacji za fakty.
– Większość chatbotów wyświetla na wstępie krótką informację, że generowane treści mogą nie być w pełni precyzyjne, jednak firmy te z pewnością nie będą przy każdej odpowiedzi same z siebie zaznaczać, że system nie jest pewny swoich słów. Jeśli naprawdę chcemy chronić użytkowników przed chatbotami wygadującymi bzdury, musimy na przykład zobowiązać firmy technologiczne do uwidaczniania tej niepewności. Jeśli sam chatbot wyrazi wątpliwość, można zapobiec sytuacji, w której ludzie uznają nonsensy za prawdę – zwrócił uwagę badacz.
Przeczytaj także: Czy AI odbiera pracę młodym? Dane z Europy nie potwierdzają tych obaw
Źródło: naukawpolsce.pl
Last Updated on 2 listopada, 2026 by Aleksandra Fenikowska