Eksperci: zanim zapytasz AI, pomyśl sam
Sztuczna inteligencja zmienia sposób, w jaki zdobywamy wiedzę, podejmujemy decyzje i rozumiemy świat. Chatboty wyszukują informacje, piszą teksty, tworzą obrazy i coraz częściej doradzają w sprawach osobistych – wskazali eksperci podczas Festiwalu Przemiany w Centrum Nauki Kopernik. Zwrócili uwagę, że zdobywanie określonych umiejętności oraz sprawczości wymaga wysiłku intelektualnego, a nie bezkrytycznego przyjmowania odpowiedzi od AI i rozwiązań dostarczanych przez algorytmy.
Korzystamy z AI podczas pracy, nauki i codziennych czynności. Sięgamy po jej porady przed podjęciem ważnych decyzji. Podczas XVI edycji Festiwalu Przemiany organizowanego przez Centrum Nauki Kopernik, eksperci i uczestnicy szukali odpowiedzi na festiwalowe pytanie: „czy AI myśli za ciebie”. Zastanawiali się także, jakie mogą być tego konsekwencje dla społeczeństwa.
Wpływ AI na samodzielność myślenia, budowanie kompetencji oraz sprawczość analizowali specjaliści podczas panelu mistrzowskiego pt. „Po rozum do głowy, czy do AI?”. W dyskusji wzięli udział prof. Michael Gerlich z The Human Factor Association, dr Gabriela Czarnek z Uniwersytetu Jagiellońskiego i dr hab. Konrad Talmont-Kamiński z Uniwersytetu w Białymstoku. Rozmowę aktywnie moderował dr Iwo Zmyślony z Uniwersytetu Warszawskiego.
Technologia to nie wszystko
Prof. Gerlich zwrócił uwagę na podstawowy problem z AI, obecny nawet w dużych korporacjach. Polega on na spłaszczaniu znaczenia technologii tylko do działań z obszaru technicznego i informatycznego.
– Tymczasem konsekwencje są znacznie szersze i wykraczają daleko poza obszar informatyczny, wpływając na całą organizację. Dlatego zarządy przed zastosowaniem AI powinny analizować przede wszystkim jej wpływ na pracowników i ocenić skutki dla całej organizacji w dłuższej perspektywie – powiedział ekspert.
Jak chatboty nami manipulują?
Według dr Gabrieli Czarnek warunkiem pozytywnego doświadczenia i korzystania z AI jest zachowanie sprawczości użytkownika. Oznacza to możliwość rozumienia sytuacji i wpływania na nią.
Badaczka wyjaśniała, że skuteczność chatbotów wiąże się z ich personalizacją. Chodzi o dopasowywanie języka i argumentów do konkretnej osoby. Rozróżniła przy tym dwa zjawiska często łączone pod hasłem pochlebstwa (sykofancji).
– Pierwsze to emocjonalne utwierdzanie rozmówcy w poczuciu, że jest rozumiany i może bezpiecznie wyrażać swoje przekonania. Drugie polega na dobieraniu faktów i dowodów zgodnie z tym, co chciałby usłyszeć. Chatbot może korzystać z pierwszego mechanizmu, a równocześnie dążyć do zmiany opinii użytkownika – zaznaczyła dr Czarnek.
Jak podkreśliła, „uprzejmy” chatbot może budzić zaufanie i tym skuteczniej wywierać na użytkowniku określoną perswazję.
Dr Czarnek dodała również, że przeanalizowała ostatnie kampanie prezydenckie w USA oraz w Polsce. Na tej podstawie zauważyła, że pozornie niewielkich efektów perswazji nie należy lekceważyć. W tych konkretnych kampaniach efekty „perswazji chatbotów” wynosiły od 3 do 10 punktów procentowych wzrostu poparcia dla kandydatów. Wskazała, że tradycyjne reklamy i banery dają efekt wzrostu poparcia na poziomie około 1 punktu procentowego.
– Nie jest to uniwersalna miara skuteczności chatbotów w ogóle. Ponadto w analizowanych rozmowach nie obserwowano też oporu podobnego do reakcji na nielubianą reklamę – zaznaczyła badaczka.
Zagrożenie profilowaniem i brak kontroli
W odpowiedzi prof. Gerlich ostrzegał, że rozmowy z chatbotami mogą ujawniać preferencje, przekonania i reakcje użytkowników. Przywołał firmę Cambridge Analytica i ich działania poprzedzające Brexit. Wskazał w ten sposób na możliwość wykorzystania danych do profilowania i precyzyjnej perswazji.
Dr hab. Konrad Talmont-Kamiński podkreślał z kolei, że sama informacja o zagrożeniach nie wystarcza. Podobnie ostrzeżenia na paczkach papierosów nie gwarantują przecież zmiany zachowania.
W jego opinii trzeba kształtować społeczne warunki kontaktu z AI. Należy też zadbać o kontrolę nad technologią, której rozwój pozostaje w rękach niewielkiej grupy podmiotów.
– Samo ostrzeżenie użytkownika nie zastępuje namysłu nad tym, jakie zachowania promuje sam system, kto wyznacza jego cele i czy interesy dostawców odpowiadają potrzebom społeczeństwa – powiedział naukowiec.
Przyznał, że sam używa sztucznej inteligencji w swojej pracy. Traktuje ją jednak raczej jako interlokutora do podważania własnych hipotez.
Myśl najpierw, pytaj potem
W odpowiedzi na taką deklarację prof. Gerlich zarekomendował, żeby najpierw myśleć samodzielnie. Sztuczną inteligencję należy włączać do działania dopiero po samodzielnym zmierzeniu się z problemem.
– Chodzi o to, żeby AI poszerzała nasze rozumowanie, a nie zastępowała ćwiczenia umiejętności. Używaj AI tak, by to „bolało” – powiedział profesor, wyjaśniając, że chodzi o wysiłek poznawczy, a nie fizyczny ból.
Dr Iwo Zmyślony powiązał tę zasadę z ograniczaniem przenoszenia procesów poznawczych na narzędzia (cognitive offloading).
– Nie mam nic przeciwko używaniu AI jako narzędzia do zapisywania i przechowywania wiedzy, a chatbotów do poznawania różnych perspektyw, ale to my sami powinniśmy konfrontować stanowiska i podejmować decyzje – podkreślił.
Pułapka ludzkich cech w maszynie
Przestrzegał jednocześnie przed antropomorfizacją, czyli przypisywaniem AI osobowości, intencji czy świadomości. Takie podejście może bowiem budować nadmierne zaufanie. Przypomniał o „efekcie Elizy”. Wywodzi się on z programu ELIZA stworzonego w 1966 roku przez Josepha Weizenbauma. Badacz wykazał wtedy psychologiczną skłonność ludzi do przypisywania programom komputerowym oraz sztucznej inteligencji ludzkich cech, takich jak świadomość czy empatia.
Dr hab. Konrad Talmont-Kamiński zauważył, że w tworzeniu takich wyobrażeń mają udział interfejsy i przekazy medialne.
– Precyzyjny język powinien przypominać, że są to zaprojektowane technologie, które ludzie mogą kontrolować – ocenił.
Z kolei dr Czarnek postulowała ujawnianie, kto sponsoruje AI. Zwróciła przy tym uwagę, że informacja o źródle finansowania danego systemu daje kontekst do oceny przekazu. Nie gwarantuje jednak ochrony przed manipulacją.
Nie uciekniesz przed rewolucją AI
Według prof. Gerlicha sztuczna inteligencja jest już obecna w pracy, edukacji i przekazach medialnych. Unikanie bezpośredniej rozmowy z chatbotem nie oznacza więc życia poza oddziaływaniem tej technologii w sposób pośredni.
Ekspert zwrócił uwagę na możliwość wykluczenia osób, które nie nadążają za zmianami. Jako przykład podał cyfryzację płatności i usług w Szwajcarii. Początkowo było to zjawisko opcjonalne. Z czasem stało się jednak warunkiem uczestnictwa w życiu społecznym.
Na zakończenie dyskusji eksperci byli zgodni. Bezpieczna współpraca z AI wymaga od ludzi zdolności do wysiłku, uczenia się na błędach i samodzielnego osądu. Proces ten musi iść w parze z przejrzystością narzędzi oraz społeczną i instytucjonalną odpowiedzialnością za ich dalszy rozwój i nadzór.
Przeczytaj także: Uniwersytet medyczny opracuje zasady korzystania z AI
Źródło: pap-mediaroom.pl
Last Updated on 7 października, 2026 by Aleksandra Fenikowska