20 listopada 2026
Część merytoryczną poprowadziła Aleksandra Hinc, radca prawny z HiBusiness. Dyskusja koncentrowała się na praktycznym pytaniu: jak korzystać z narzędzi AI, nie tracąc kontroli nad informacjami, wynikami ich pracy i konsekwencjami biznesowymi.
Jednym z najłatwiejszych do przeoczenia zagrożeń jest zakres informacji przekazywanych narzędziom AI. Dane osobowe to nie tylko imię, nazwisko czy adres. Osobę można zidentyfikować także na podstawie stanowiska, opisu sytuacji zawodowej lub zestawu szczegółów, które pozornie nie wydają się wrażliwe. Usunięcie podstawowych danych identyfikacyjnych nie gwarantuje więc anonimowości dokumentu.
Ryzyko nie ogranicza się przy tym do przepisów o ochronie danych osobowych. W materiałach przesyłanych do publicznych lub zewnętrznych systemów mogą znajdować się warunki handlowe, oferty, dokumentacja przetargowa, fragmenty umów, informacje o klientach czy firmowe know-how. Nawet zadania wyglądające na rutynowe – przygotowanie tabeli klientów, analiza kontraktu czy opracowanie odpowiedzi na reklamację – mogą wiązać się z przekazaniem informacji, których firma nie powinna udostępniać poza własną organizacją.
Podczas spotkania padło pytanie, które może być praktycznym testem przed wgraniem dokumentu do zewnętrznego narzędzia: „czy chcesz zobaczyć ten tekst w Internecie z logo swojej firmy?”. Warto też stosować zasadę minimalizacji danych. Jeżeli do wykonania zadania wystarczy fragment umowy, nie ma powodu przesyłać całego dokumentu. Zastąpienie nazwiska neutralnym oznaczeniem może ograniczyć ryzyko, ale nie zapewni anonimowości, jeśli pozostałe informacje nadal pozwalają ustalić, kogo dotyczą.
Bezpieczeństwo zależy nie tylko od tego, jakie informacje trafiają do narzędzia, lecz także od tego, co dzieje się z nimi po przesłaniu. Regulaminy dostawców mogą określać m.in. zasady przechowywania promptów, możliwość wykorzystywania ich do dalszego trenowania modeli, zakres dostępu do danych czy ograniczenia odpowiedzialności usługodawcy. Akceptowanie takich warunków bez sprawdzenia ich treści może prowadzić do sytuacji, w której firma nieświadomie udostępnia informacje poufne na zasadach, których nie zaakceptowałaby w tradycyjnej relacji z dostawcą usług.
Korzystanie z AI nie znosi również obowiązków wynikających z RODO. Organizacja nadal musi określić podstawę przetwarzania danych, zadbać o obowiązki informacyjne i zweryfikować warunki powierzenia przetwarzania. Znaczenie mogą mieć także zasady przekazywania danych poza Europejski Obszar Gospodarczy, czas ich przechowywania oraz sposób podejmowania decyzji zautomatyzowanych. W relacjach B2B nie wystarczy przy tym założyć, że ogólna klauzula w umowie z kontrahentem automatycznie oznacza poinformowanie wszystkich osób, których dane są przetwarzane.
Odpowiedzią na te ryzyka powinna być firmowa polityka AI. Nie może ograniczać się do wskazania kilku zatwierdzonych aplikacji. Powinna określać, do jakich zadań można wykorzystywać poszczególne narzędzia, jakie informacje wolno im udostępniać, jak traktować materiały klientów i tajemnice przedsiębiorstwa oraz kto odpowiada za kontrolę wygenerowanych wyników. Pomocna jest klasyfikacja informacji – na przykład na publiczne, wewnętrzne i poufne – połączona z jasnymi zasadami dostępu do zatwierdzonych rozwiązań.
Brak takich reguł sprzyja zjawisku określanemu jako shadow AI: pracownicy korzystają z narzędzi, których firma oficjalnie nie wdrożyła, a niekiedy nawet nie wie o ich użyciu. Dlatego tworzenie polityki powinno być poprzedzone rozpoznaniem rzeczywistych praktyk zespołów. Formalny zakaz korzystania z nieautoryzowanych aplikacji nie rozwiąże problemu, jeżeli pracownicy nadal będą używać ich do codziennych zadań, nie znając konsekwencji.
Ważnym obszarem dyskusji były również prawa autorskie do treści i rozwiązań tworzonych z pomocą sztucznej inteligencji. Samo wpisanie polecenia i otrzymanie gotowego tekstu, grafiki czy kodu nie przesądza o tym, że powstał utwór chroniony prawem autorskim. Kluczowe znaczenie ma twórczy, indywidualny wkład człowieka.
Inaczej może wyglądać sytuacja, w której użytkownik nie ogranicza się do krótkiego promptu, lecz samodzielnie opracowuje koncepcję, specyfikację lub architekturę rozwiązania, szczegółowo kieruje kolejnymi etapami pracy i modyfikuje rezultat. W przypadku oprogramowania znaczenie mogą mieć między innymi dokumentacja projektowa, przygotowane instrukcje i historia zmian. Dokumentowanie procesu twórczego pomaga wykazać udział człowieka, nie daje jednak automatycznej gwarancji ochrony prawnej – każdy rezultat wymaga indywidualnej oceny.
Trzeba też pamiętać, że korzystanie z AI nie usuwa praw osób trzecich. Tłumaczenie lub streszczenie cudzego utworu może stanowić jego opracowanie, a wprowadzanie do systemów cudzego kodu, wizerunku czy głosu może wymagać odpowiednich uprawnień. Ostrożności wymaga również tworzenie elementów identyfikacji wizualnej. Znak wygenerowany przez AI może być podobny do oznaczenia już funkcjonującego na rynku, a wykorzystanie go nie wyklucza ryzyka sporu o naruszenie praw osób trzecich.
Osobną kwestią jest wiarygodność narzędzi służących do wykrywania treści wygenerowanych przez AI. Podczas spotkania zwracano uwagę, że ich wskazania mogą być błędne, a sam wynik detektora nie powinien stanowić rozstrzygającego dowodu autorstwa.
Wdrożenie sztucznej inteligencji powinno znaleźć odzwierciedlenie również w relacjach z klientami, podwykonawcami i dostawcami technologii. Firma musi sprawdzić, czy sposób korzystania z AI jest zgodny z oświadczeniami i gwarancjami składanymi w umowach – na przykład w zakresie poufności, ochrony danych czy zabezpieczeń. Jeżeli zobowiązuje się wobec klienta, że określone informacje nie będą przekazywane zewnętrznym podmiotom, musi wiedzieć, czy korzystanie z konkretnego narzędzia nie narusza tej deklaracji.
Zasady uzgodnione z klientem powinny mieć odpowiednie odzwierciedlenie w umowach z podwykonawcami. Warto precyzyjnie określić, jakie narzędzia mogą być wykorzystywane, na jakich warunkach, kto odpowiada za poufność informacji i w jaki sposób regulowane są prawa do poszczególnych elementów rezultatu. Podobnej weryfikacji wymagają umowy z dostawcami systemów AI, zwłaszcza w zakresie przetwarzania danych, retencji promptów, udziału dalszych podwykonawców i ograniczeń odpowiedzialności. Nie należy też bezrefleksyjnie gwarantować klientowi pełni praw do wszystkich elementów rezultatu, jeżeli część z nich powstała z wykorzystaniem AI lub oprogramowania open source.
Zwrócono również uwagę na różnice w zakresie odpowiedzialności pracowników i osób współpracujących na podstawie umów B2B. W tym drugim przypadku, zależnie od formy prowadzenia działalności i zapisów kontraktu, ryzyko może obejmować także odpowiedzialność własnym majątkiem. Dlatego warto sprawdzić, czy umowa przewiduje limity odpowiedzialności i jasno określa zasady korzystania z narzędzi AI oraz rozwiązań chmurowych.
Podczas spotkania omówiono również AI Act i wynikający z niego podział obowiązków. Znaczenie ma zarówno rola organizacji – dostawcy systemu lub podmiotu, który z niego korzysta – jak i przeznaczenie konkretnego rozwiązania. Określone systemy wykorzystywane w rekrutacji, na przykład do filtrowania zgłoszeń i oceny kandydatów, zostały zaliczone do kategorii wysokiego ryzyka. Rozporządzenie zakazuje natomiast wybranych praktyk, w tym określonych form scoringu społecznego oraz rozpoznawania emocji w miejscu pracy, z przewidzianymi w przepisach wyjątkami.
Warto przy tym rozróżnić klasyfikację systemu od terminu stosowania związanych z nią wymogów. Zgodnie z aktualnym harmonogramem obowiązki dotyczące samodzielnych systemów wysokiego ryzyka mają być stosowane od 2 grudnia 2027 roku. Wymóg zapewniania odpowiedniego poziomu kompetencji AI obowiązuje natomiast od 2 lutego 2025 roku. Dla firm oznacza to, że edukacja pracowników nie powinna ograniczać się do instrukcji obsługi narzędzi. Powinna obejmować także rozpoznawanie ich ograniczeń, ocenę wyników i wiedzę o tym, jakie zastosowania są dopuszczalne.
Wraz z rozwojem agentów AI zmienia się charakter ryzyka. Chatbot odpowiada przede wszystkim za wygenerowaną treść, natomiast agent może otrzymać dostęp do plików, baz danych i firmowych systemów, a następnie samodzielnie wykonywać w nich operacje. Podczas spotkania przytoczono przykłady narzędzi, które po otrzymaniu polecenia wykroczyły poza oczekiwany zakres działania – zamiast sprawdzić ustawienia, zaczęły je zmieniać, a próba usunięcia pojedynczego rejestru doprowadziła do skasowania całej bazy.
Takie sytuacje pokazują, że samo sformułowanie ograniczeń w poleceniu nie wystarcza. Agent powinien otrzymywać tylko te uprawnienia, które są niezbędne do wykonania zadania. Szczególnej kontroli wymagają operacje mogące zmieniać lub usuwać dane, zwłaszcza w środowiskach produkcyjnych. Znaczenie mają tu podstawowe zabezpieczenia: wieloskładnikowe uwierzytelnianie, uporządkowany system uprawnień, kontrola dostępu oraz oddzielenie środowisk testowych od zasobów wykorzystywanych w bieżącej działalności.
Nie mniej ważna jest kontrola odpowiedzi chatbotów kierowanych do klientów. Jeżeli narzędzie przekazuje błędną informację o warunkach usługi, zwrocie lub zobowiązaniach firmy, klient nadal otrzymuje komunikat w jej imieniu. Automatyzacja obsługi nie oznacza zatem automatycznego przeniesienia odpowiedzialności na dostawcę technologii. Podobnie jest z treściami publikowanymi w kanałach firmowych – fałszywe recenzje czy fikcyjne profile klientów mogą wprowadzać odbiorców w błąd i narazić markę na konsekwencje.
Ryzyko może pojawić się także po stronie danych, które firma sama pobiera z zewnątrz. W dyskusji przywołano przykłady ukrytych instrukcji umieszczanych w dokumentach rekrutacyjnych, między innymi tekstu niewidocznego dla człowieka, ale możliwego do odczytania przez system AI. Ich celem może być wpłynięcie na ocenę kandydata lub wymuszenie określonego działania narzędzia. Dlatego automatyczna selekcja dokumentów nie powinna zastępować ludzkiej oceny, zwłaszcza w procesach mających wpływ na decyzje dotyczące ludzi.
Podobny mechanizm wykorzystują oszuści posługujący się deepfake’ami. Głos lub wizerunek osoby zarządzającej może zostać podrobiony w celu nakłonienia pracownika do wykonania przelewu albo przekazania informacji. W przypadku nietypowych dyspozycji finansowych warto więc stosować dodatkowe potwierdzenie innym, niezależnym kanałem komunikacji.
Wspólnym mianownikiem omawianych zagadnień jest potrzeba zachowania kontroli nad tym, co system AI otrzymuje, jakie działania może wykonać i w jaki sposób wykorzystywane są jego wyniki. Bezpieczne wdrożenie wymaga połączenia kilku elementów: przemyślanej polityki, ochrony danych, odpowiednich zapisów umownych, kontroli dostępu i przygotowania pracowników do świadomego korzystania z technologii.
Same procedury nie wystarczą, jeżeli nie odpowiadają codziennej pracy zespołów. Z kolei nawet dobrze dobrane narzędzie może stać się źródłem problemów, jeśli jego użytkownicy bez weryfikacji przyjmują wygenerowane odpowiedzi albo przyznają mu zbyt szerokie uprawnienia. AI może rekomendować rozwiązania, przygotowywać dokumenty i wykonywać zadania, ale to człowiek podejmuje decyzje, zatwierdza rezultaty i odpowiada za działania firmy. Jak podsumowano podczas spotkania: „Nie myl rekomendacji z decyzją i nie myl szybkości z jakością”.
Partnerami spotkania Grupy Fokusowej Pro Progressio były firmy Balma i HiBusiness. Po zakończeniu części merytorycznej uczestnicy spotkali się w salonie Balma na networkingu z cyklu Talks&Drinks.
Powrót do listy aktualności