Wyzwania technologiczne i bezpieczeństwo przy wdrażaniu rozwiązań opartych na GenAI
Ekspert: Sylwia Gwiazda, Senior Manager, Lider GenAI w sektorze finansowym w Accenture w Polsce
Potencjał generatywnej AI
Mija półtora roku, odkąd generatywna sztuczna inteligencja zagościła na stałe w naszym świecie. Nowe rozwiązania oferują więcej niż znana i stosowana od wielu lat „klasyczna” sztuczna inteligencja – pozwalają pracować z tekstem, obrazem, dźwiękiem, tworząc nowe treści. Zmienia się sposób w jaki pracujemy – wspierają nas różnorodni asystenci AI, którzy podsumowują spotkania, pomagają w pisaniu maili, a także odnajdują odpowiedzi na te łatwiejsze i trudniejsze pytania w wielodomenowych bazach wiedzy, zwiększając tym samym naszą produktywność. Aż 97% kadry zarządzającej na świecie uważa, że generatywna AI zmieni ich organizację i branżę, co pokazuje, jak duży potencjał tkwi w tej technologii.
Mając bezpośrednie doświadczenie z wdrażaniem generatywnej sztucznej inteligencji w instytucjach sektora finansowego, widzę jak coraz bardziej złożone rozwiązania, obejmują kolejne procesy operacyjne w bankach, firmach ubezpieczeniowych oraz windykacyjnych, i pozwalają zautomatyzować i usprawnić funkcje tych organizacji, zwiększyć efektywność ich działalności.
Zastosowanie automatyzacji opartych na AI pozwala uwolnić cenny czas, który poświęcony na interakcje z klientami (interakcje – oczywiście – wspierane magią generatywnej sztucznej inteligencji) przyczynia się do zwiększenia przychodów przedsiębiorstw.
Ta wizja przyciąga wielu. Istotne jest, by przekształcać tę wizję w rzeczywistość zaczynając od solidnych fundamentów.
Bezpieczne mury potrzebują solidnych fundamentów
Rozwiązania oparte na generatywnej sztucznej inteligencji wymagają nowoczesnego podejścia do stosowania technologii. „Cyfrowy rdzeń” (ang. Digital core) to podejście integrujące chmurę, sztuczną inteligencję, analitykę danych i bezpieczeństwo, które pozwala firmom nieustannie się przeobrażać, realizować ambicje biznesowe oraz trafnie reagować na zmieniające się warunki rynkowe.
Firmy, które chcą realizować potencjał GenAI, muszą nieuchronnie zmierzyć się z decyzją o migracji do chmury. Nie mówimy tu o punktowym wejściu i badaniu gruntu (na przykład poprzez powołanie jednej usługi chmurowej umożliwiającej wykorzystanie wybranego LLM’a), a o odważnej decyzji o podjęciu strategii cloud-first, popartej walidacją celów biznesowych i korzyści, jakie mogą być zrealizowane dzięki technologiom chmurowym i zbudowaniu przemyślanej, efektywnej i zabezpieczonej infrastruktury chmurowej, która w perspektywie czasu będzie umożliwiała przepinanie się z kolejnymi aplikacjami ze środowisk on-premise oraz budowanie nowych, skalowalnych rozwiązań cloud-native.
GenAI to także dane. Dopiero połączenie modeli bazowych GenAI z danymi organizacji pozwala uzyskać wartościowe wnioski – na temat produktów i preferencji klientów, a także efektywności procesów operacyjnych. Kluczowym elementem budowy „cyfrowej podstawy” organizacji jest wypracowanie odpowiednich procesów zarządzania danymi. Mówimy zarówno o ustrukturyzowanych, nieustrukturyzowanych, ale też syntetycznych danych niezbędnych do eksplorowania różnorodnych scenariuszy bez konieczności zbierania danych rzeczywistych. W kolejnym kroku powinniśmy zbudować platformy danych oraz zdefiniować reguły ich ochrony przed nieuprawnionym dostępem. Zgodnie z przepisami trzeba zadbać o integralność oraz odpowiednie procedury przetwarzania i przechowywania danych. Z badań Accenture wynika, że 56% dyrektorów zarządzających wskazuje przygotowanie danych jako główne wyzwanie we wdrażaniu GenAI. Solidne fundamenty cyfrowe są niezbędne, aby w pełni wykorzystać potencjał tej technologii.
GenAI walczy po obu stronach
Wraz z nadejściem ery generatywnej sztucznej inteligencji do cyberprzestrzeni wkroczyły nowe zagrożenia. Branże wykorzystujące tę technologię – m.in. sektor finansowy i edukacyjny, oraz służba zdrowia – muszą przygotować się na nowe rodzaje cyberataków.
Konieczne jest zabezpieczanie środowiska AI na wielu poziomach: od warstwy danych, poprzez model, aż po aplikacje GenAI i kontrolę tożsamości. Tradycyjne rozwiązania dla cyberbezpieczeństwa nadal są skuteczne i potrzebne, jednak konieczne jest uzupełnienie ich o dodatkowe zabezpieczenia. Warto rozważyć zainstalowanie dedykowanych filtrów chroniących nasze zasoby informatyczne np. przed prompt injection – formą ataku hackerskiego, który manipuluje poleceniami wejściowymi w celu zniekształcenia odpowiedzi otrzymywanych od dużych modeli językowych. Atak może polegać też na zleceniu przez hackera komendy typu DAN (Do Anything Now), co może doprowadzić do ujawnienia przez model poufnych danych organizacji. Kluczowe jest włączenie GenAI w procesy zarządzania ryzykiem, monitorowanie zagrożeń i dostosowywanie zabezpieczeń, przeprowadzanie penetracyjnych testów bezpieczeństwa wdrażanych aplikacji i usuwanie zidentyfikowanych podatności.
Duże modele językowe znajdują niestety zastosowanie także “po ciemnej stronie mocy”. W ciągu ostatnich kilkunastu miesięcy liczba ataków phishingowych wzrosła ponad dziesięciokrotnie, a wzrost ransomware od premiery Chatu GPT wynosi 76%. Przykładowo złośliwy LLM o nazwie Fraud GPT istniejący w dark webie tworzy spersonalizowane i skuteczne kampanie phishingowe oraz ransomware. Generatywna AI jest także zdolna do tworzenia coraz bardziej wyszukanych i niebezpiecznych deepfake’ów. W ramach zabezpieczenia organizacji istotnym aspektem jest edukacja pracowników w zakresie tego typu zagrożeń. Dobrym podejściem może być także przeprowadzenie symulacji – kontrolowanego przez firmę deepfake’u, który pozwoli przetestować i ocenić istniejące procesy cyberochrony, a także zwiększyć świadomość członków organizacji.
Kolejne wyzwania na horyzoncie
Obok ogromnych możliwości transformacji biznesu jakie daje generatywna sztuczna inteligencja, będą pojawiać się wyzwania. Wśród nich zaprojektowanie odpornej na zagrożenia i skalowalnej architektury, obranie właściwej strategii danych, opracowanie kompleksowego podejścia do bezpieczeństwa rozwiązań. Kluczowe jest by obok inwestycji w innowacje były także inwestycje w fundamenty technologiczne, które umożliwią bezpieczne i efektywne wykorzystanie możliwości GenAI. Nie zapominając oczywiście o odpowiedzialnym stosowaniu tego dobrodziejstwa – ale tak szeroki obszar jak Responsible AI to już temat na inne rozważania.
Przeczytaj także: IoT: skuteczne zarządzanie energią i temperaturą dla biznesu
Last Updated on 9 grudnia, 2024 by Anastazja Lach