– Początkowo organizacje skupiały się na punktowym zastosowaniu AI, często w celu automatyzacji rutynowych zadań. Obecnie automatyzacja powtarzalnych zadań nie jest już najważniejszym priorytetem. Zaledwie 25 proc. ankietowanych przedsiębiorstw w ramach PwC 2021 AI Predictions wskazało to jako najważniejszy priorytet w stosunku do 35 proc. w ramach poprzedniej edycji tego badania. Odejście od wykorzystania AI na potrzebę wybranych obszarów (silosów) i przejście na “cross-funkcjonalne” zastosowanie, które dotyka wielu aspektów działalności przedsiębiorstwa, stanowi naturalną ścieżką rozwoju w wykorzystywaniu AI i może być elementem strategicznym w realizacji wizji przedsiębiorstwa opisującej, w jaki sposób dana organizacja ma działać w przyszłości. Często wpływ jest tak ogromny, że wiąże się z reorganizacją całego przedsiębiorstwa, a nawet zmianą modelu biznesowego – mówi Marcin Makusak, partner PwC Polska.

Organizacje dostrzegają potrzebę właściwego AI governance i zarządzania ryzykiem wykorzystywania AI

Powszechniejsze wykorzystanie AI jest procesem, który wymaga odpowiedniej strategii, planu i organizacji (operacjonalizacji). W ramach tego procesu, przedsiębiorstwa zaczęły zwracać również uwagę na zagadnienia związane z ryzykiem korzystania z AI, a co za tym idzie, odpowiednimi działaniami, aby tym ryzykiem zarządzać (governance).

– Kolejna kwestia, która stała się niezwykle istotna, to analiza interakcji między AI a interesariuszami (np. klientami zewnętrznymi). Mowa tutaj o podejmowaniu kroków, które pomogą zapewnić, aby rozwijane systemy sztucznej inteligencji były: odpowiedzialne, godne zaufania, stabilne i uczciwe - w skrócie: wiarygodne i przewidywalne. W PwC nazywamy takie rozwiązania: Responsible AI – komentuje Mateusz Szajdak, manager PwC Polska.

Wśród najważniejszych działań, jakie podejmowane są przez organizacje, które dostrzegły istotność zagadnienia odpowiedzialnej sztucznej inteligencji są m.in.:

• zwiększenie bezpieczeństwa AI dzięki zastosowaniu walidacji, monitorowaniu i weryfikacji,
• stworzenie przejrzystych, rozszerzalnych i sprawdzalnych modeli AI,
• stworzenie systemów AI, które będą etyczne, zrozumiałe i legalne,
• usprawnienie zarządzania dzięki modelom operacyjnym i procesom AI,
• przeprowadzenie testów pod kątem weryfikacji ewentualnej stronniczości danych, modeli lub wykorzystania algorytmów przez człowieka.

Kluczowe elementy dla właściwego AI governance

Aby móc mówić o Responsible AI należy uwzględnić kilka aspektów, które są ważne na wszystkich etapach wykorzystywania sztucznej inteligencji, od samego projektu rozwiązania, po utrzymanie działającego systemu:

• obowiązujące przepisy prawa i zasady etyczne,
• model governance, który pozwala zaprojektować, przygotować, przetestować, wdrożyć i utrzymać system AI w zdefiniowanym środowisku organizacji,
• zasady bezpieczeństwa, które będa chronić sam system i użytkowników wchodzących z nim w interakcje,
• wyjaśnialność/interpretowalność, czyli czytelne i zrozumiałe zasady działania AI, pozwalające na jego łatwe, czytelne i jednoznaczne zinterpretowanie.

Poza tym, warto zwrócić uwagę na to, że odpowiedni model governance jest także istotny z punktu widzenia obszarów environmental, social, corporate governance (ESG):

• zużycie znacznej ilości energii elektrycznej dla potrzeb działania skomplikowanych systemów AI może wpłynąć na generowany przez organizację ślad węglowy - Environmental,
• zagadnienie równego traktowania interesariuszy jest ważnym aspektem obszaru Social,
• fakt wykorzystywania AI ma wpływ na wartość przedsiębiorstwa, a brak odpowiedniego zarządzania takim systemem może negatywnie wpłynąć zarówno na jego reputację, jak i, w konsekwencji na wycenę - Governance.

Projekt unijnego rozporządzenia w zakresie AI

Zasadność zapewnienia odpowiedniego poziomu wiarygodności i przewidywalności systemu sztucznej inteligencji i ochrony praw użytkowników wchodzących z nim interakcję zauważyła Unia Europejska, która przygotowała projekt Rozporządzenia Parlamentu Europejskiego i Rady ustanawiające zharmonizowane przepisy dotyczące sztucznej inteligencji.

Projekt rozporządzenia, co do którego osiągnięto w grudniu 2023 r. porozumienie polityczne, ma mieć charakter regulacyjny i kłaść nacisk na zapewnienie, aby wprowadzone do obrotu i użytkowane systemy AI były bezpieczne i zgodne z obowiązującymi przepisami w obszarze praw podstawowych i wartości unijnych oraz aby przepisy i wymogi bezpieczeństwa wobec AI były skuteczne egzekwowane – wyjaśnia Marcin Makusak. – Oprócz tego, celem przygotowywanego rozporządzenia jest ułatwienie rozwoju jednolitego, bezpiecznego i wiarygodnego rynku oraz wsparcie innowacyjności – doprecyzowuje.

W przygotowanym projekcie przyjęte zostało podejście oparte na ryzyku, przewidujące cztery grupy ryzyka:

• niedopuszczalne ryzyko - dotyczy zbioru zastosowań AI, które są sprzeczne z wartościami UE, np. scoring obywateli, wykorzystanie technik podprogowych, zdalna identyfikacja biometryczna w czasie rzeczywistym przez organy ścigania, kategoryzacja biometryczna, prognozowanie przestępczości, rozpoznawanie emocji w miejscu pracy i placówkach edukacyjnych, przeszukiwanie Internetu,
• wysokie ryzyko - ograniczony zbiór zastosowań, które mogą mieć negatywny wpływ na bezpieczeństwo ludzi lub ich prawa podstawowe, np. dostęp do usług publicznych i prywatnych, procesy rekrutacyjne, migracja, azyl i kontrola granic, edukacja i szkolenia,
• szczególne ryzyko w zakresie przejrzystości - dotyczy niektórych systemów AI, dla których wprowadzone zostaną konkretne wymogi w zakresie przejrzystości, tzn. że użytkownicy powinni mieć świadomość wejścia w interakcję z AI w celu minimalizacji ryzyka manipulacji,
• minimalne ryzyko - wszystkie pozostałe systemy AI.

Ponadto w projekcie uwzględniono ryzyko systemowe, które może wynikać z wykorzystywania modeli sztucznej inteligencji ogólnego przeznaczenia (Gen AI).

Swoim zakresem projekt rozporządzenia obejmuje m.in. następujące aspekty:

• zharmonizowane przepisy dotyczące wprowadzania do obrotu, oddawania do użytku oraz wykorzystywania AI w UE,
• zakazane praktyki w zakresie AI,
• szczególne wymogi dotyczące wprowadzania do obrotu systemów AI wysokiego ryzyka, w tym w zakresie przeprowadzenia oceny skutków praw podstawowych,
• szczególne wymogi dostawców modeli Gen AI
• przepisy dotyczące monitorowania AI po jego wprowadzeniu do obrotu i nadzoru nad rynkiem,
• kary za naruszenie przepisów.

Rozporządzenie, po przygotowaniu ostatecznej wersji tekstu rozporządzenia i zatwierdzeniu jego przez Parlament Europejski i Radę, zacznie obowiązywać dwa lata po jego wejściu w życie. Wyjątek od tego stanowić będą przepisy szczegółowe, tzn. zakazy będą obowiązywały już po 6 miesiącach, a przepisy dotyczące sztucznej inteligencji ogólnego przeznaczenia – po 12 miesiącach.

Następne kroki

Z uwagi na rosnący udział i poziom skomplikowania wykorzystywanych systemów sztucznej inteligencji, nacisk na właściwy governance i przestrzeganie zasad etycznych będzie rósł.

Wczesne rozpoczęcie analizy wpływu gotowości i dojrzałości systemów, procesów, mechanizmów kontrolnych i innych komponentów ładu organizacyjnego może pomóc w planowaniu przyszłych inwestycji i ograniczeniu kosztów związanych ze zbyt późnym wdrażaniem koniecznych zmian, koniecznych np. pod względem zapewnienia zgodności z przepisami unijnymi. Warto przy tej okazji odpowiedzieć sobie na poniższe pytania w danym kontekście:

• Dane: Czy organizacja posiada zasób danych lub dostęp do danych o jakości odpowiadającej celom systemu AI? Czy Twoja organizacja posiada odpowiednie mechanizmy zarządzania danymi wejściowymi i kontrolą wyboru zestawu danych?
• Modele i algorytmy: Czy w Twojej organizacji istnieje nadzór nad rozwojem modelu? Czy proces i wyniki są przejrzyste? Czy wzięto pod uwagę ryzyko dotyczące stronniczości algorytmu?
• Wyniki i decyzje: Czy istnieje proces ciągłej weryfikacji wyników modelu pod kątem zapewnienia dokładności i zgodności z pierwotnym jego celem?
• Nadzór i monitorowanie: Jakie organy nadzoru są zaangażowane w zarządzanie AI? Jakie działania monitorujące są podejmowane?
• Uczenie maszynowe: Czy kierownictwo ma pewność co do procesów i metod uczenia maszynowego na wszystkich jego etapach?
• Wpływ na biznes i sprawozdawczość: Modele danych wpływają na sprawozdawczość finansową, decyzje operacyjne i interakcje z klientami. Czy Twoja organizacja jest na to gotowa?

Zapisz się na newsletter PwC Retail Platform, aby na bieżąco dostawać najważniejsze analizy z sektora handlu detalicznego i dóbr konsumpcyjnych!

Polecane artykuły

Buduj przewagę konkurencyjną kompleksowo zarządzając ryzykiem

Wprowadź raportowanie na wyższy poziom

Komisja Europejska opublikowała projekt Rozporządzenia ws. Zarządzania Danymi (Data Governance Act)

Studium przypadku. Data-driven organisation