• Sztuczna inteligencja stała się kluczowym narzędziem cyberprzestępców, umożliwiając im m.in. automatyzację kampanii socjotechnicznych. Stąd wzrost liczby cyberataków do rekordowego poziomu.
• - Sztuczna inteligencja to broń w obszarze cyberprzestrzeni i musimy jasno o tym mówić - stwierdza wicepremier i minister cyfryzacji Krzysztof Gawkowski.
• Cyberbezpieczeństwo jest jednym z tematów Europejskiego Kongresu Gospodarczego w Katowicach, który startuje już w środę 22 kwietnia.
• Ponadto o wykorzystaniu sztucznej inteligencji w cyberprzestrzeni będziemy dyskutować podczas konferencji Cybersec EXPO & Forum, która odbędzie się 15-16 czerwca w Katowicach.

- Przy wszystkich dobrych rzeczach, które przynosi, sztuczna inteligencja stała się również narzędziem w rękach cyberprzestępców - powiedział Krzysztof Gawkowski, wicepremier, minister cyfryzacji i pełnomocnik rządu do spraw cyberbezpieczeństwa, prezentując sprawozdanie z tej ostatniej funkcji za 2025 rok.

Sztuczną inteligencję wskazano w tym dokumencie jako ważny trend w cyberprzestrzeni. 

„W 2025 roku sztuczna inteligencja stała się kluczowym narzędziem dla grup cyberofensywnych” – czytamy. Wykorzystanie tej technologii umożliwiło cyberprzestępcom m.in. masową automatyzację kampanii socjotechnicznych. AI przyspieszyła również „etap techniczny ataków, automatyzując rekonesans, omijając reguły detekcji oraz wspomagając pisanie złośliwych skryptów” – stwierdzono w sprawozdaniu pełnomocnika rządu do spraw cyberbezpieczeństwa za 2025 rok.

AI robi bezbłędne deepfaki i zwiększa możliwości cyberprzestępców

W 2025 r. zgłoszono w Polsce ponad 682 tys. cyberzagrożeń, co przełożyło się na prawie 273 tys. zarejestrowanych i obsłużonych incydentów (przeszło 144 proc. więcej niż rok wcześniej). Jak informowaliśmy, obie liczby są rekordowe.

Zdaniem autorów sprawozdania ta sytuacja jest spowodowana pozycją geopolityczną Polski „oraz dynamiczną adaptacją nowych technologii przez cyberprzestępców”. 

Sztuczna inteligencja to broń w obszarze cyberprzestrzeni i musimy jasno o tym mówić, bo AI stała się mnożnikiem siły, którą przestępca, adwersarz międzynarodowy, kieruje przeciwko Polsce bądź przeciwko osobie prywatnej – podkreślił Krzysztof Gawkowski na konferencji prasowej.

- Widzimy masowe generowanie bezbłędnych wiadomości phishingowych. Coraz częściej obserwujemy deepfake’i, które nie są w żaden sposób rozróżnialne – dodał.

Na to zjawisko zwracają uwagę wszystkie krajowe zespoły reagowania na incydenty bezpieczeństwa komputerowego (CSIRT-y). Np. CSIRT GOV, prowadzony przez Szefa Agencji Bezpieczeństwa Wewnętrznego, zaobserwował następujące zagrożenia związane z wykorzystaniem AI w kampaniach socjotechnicznych:

• użycie interfejsów AI do generowania komend mających wywołać szkodliwe dyspozycje na zainfekowanej stacji roboczej, 
• użycie AI w wiadomości socjotechnicznej mającej na celu skłonienie odbiorcy do uruchomienia złośliwego oprogramowania,
• wykorzystania ogólnodostępnych narzędzi AI do generowania treści wiadomości socjotechnicznych mających brzmieć wiarygodnie dla odbiorcy, w tym z wykorzystaniem technologii deepfake.

Rekordowa liczba cyberataków w 2025 roku to skutek m.in. stosowania nowych technologii przez cyberprzestępców. Fot: Materiały prasowe / Ministerstwo Cyfryzacji Cyberataków i dezinformacji z wykorzystaniem AI będzie jeszcze więcej

Sprawozdanie pełnomocnika rządu do spraw cyberbezpieczeństwa wskazuje oprócz tego, że rozwój AI jest czynnikiem ryzyka dla podmiotów krajowego systemu cyberbezpieczeństwa. „KSC mierzy się z presją na znacznie szybsze wykrywanie i korelację zdarzeń, ponieważ rośnie wolumen i wariantowość ataków” - czytamy. 

Ponadto pojawiają się ataki na same systemy AI, „które mogą skutkować wymuszeniem błędnych decyzji, a ich wykrycie jest trudne, gdyż nie przypominają klasycznych włamań”. O takim zjawisku mówili też eksperci z CERT Orange.

Zdaniem CSIRT MON, prowadzonego przez ministra obrony narodowej, technologia deepfake będzie coraz powszechniejszym wektorem ataku w kampaniach socjotechnicznych.

Syntetyczne nagrania audio i wideo będą wykorzystywane do podszywania się pod urzędników, menedżerów czy zaufanych współpracowników, w celu manipulowania osobami do wykonywania nieautoryzowanych działań, ujawniania danych logowania czy obchodzenia procedur weryfikacyjnych – stwierdza CSIRT MON w swoim raporcie za 2025 rok.

Dodaje, że treści generowane przez AI są też wykorzystywane w operacjach wpływu i dezinformacji. „Prognozowanym jest zwiększenie poziomu wykorzystania AI w operacjach ofensywnych przez adwersarzy” – przewiduje CSIRT MON.

Wzrost roli AI w rękach cyberprzestępców prognozuje też CSIRT NASK, działający w Naukowej i Akademickiej Sieci Komputerowej – PIB. Z drugiej strony według tego zespołu wzrośnie w tym roku także „wykorzystanie narzędzi AI do wykrywania cyberzagrożeń i cyberprzestępstw przez zespoły CSIRT”.

Resorty rekomendują wykorzystanie AI - z zachowaniem zasad bezpieczeństwa

O tym, że odpowiednio wytrenowane modele AI mogą pomóc obrońcom i przyspieszyć reakcję na cyberataki, mówił WNP Michał Kurek, partner, advisory, szef zespołu cyberbezpieczeństwa w KPMG w Polsce i Europie Środkowo-Wschodniej.

- Problem w tym, że adopcja AI w firmach jest dużo wolniejsza względem wykorzystania tej technologii przez cyberprzestępców. Dlatego mają oni obecnie dużą przewagę nad osobami chroniącymi firmy – stwierdził Michał Kurek.

Resort energii rekomenduje pełnomocnikowi rządu do spraw cyberbezpieczeństwa zbadanie „możliwości implementacji sztucznej inteligencji w systemie S46”, tj. systemie teleinformatycznym do zgłaszania incydentów przez podmioty KSC, będącym ważnym elementem krajowego systemu cyberbezpieczeństwa.

Dzięki temu system „w sposób automatyczny analizowałby sprawozdania z audytów podmiotów ważnych i kluczowych i wskazywał, na których spółkach należy skupić zadania nadzorcze” – argumentuje Ministerstwo Energii, dodając, że ręczna weryfikacja „przy obecnych zasobach osobowych” wydaje się niemożliwa.

Z kolei Kancelaria Prezesa Rady Ministrów rekomenduje pełnomocnikowi utworzenie „spójnych polityk bezpieczeństwa regulujących wykorzystanie AI w instytucjach publicznych”. Jak uzasadnia, pozwoli to „w sposób odpowiedzialny i bezpieczny” wprowadzać rozwiązania oparte na AI, które mogą usprawnić procesy, „odciążyć urzędników od zadań powtarzalnych i podnieść jakość usług publicznych”. 

Zdaniem KPRM wytyczne dotyczące AI „powinny zapewniać najwyższe standardy bezpieczeństwa danych, przejrzystość działania algorytmów oraz zachowanie pełnej odpowiedzialności człowieka za decyzje administracyjne”. Muszą również „uwzględniać zasady etyki, niedyskryminacji oraz konieczność kontroli ryzyk związanych z automatyzacją procesów urzędowych”.

©

Materiał chroniony prawem autorskim - zasady przedruków określa regulamin