Artykuł prof. Bogdana Księżopolskiego oraz Leszka Wrońskiego z Katedry Cyberbezpieczeństwa Akademii Leona Koźmińskiego został przyjęty na SECRYPT 2026 – 23rd International Conference on Security and Cryptography. Praca dotyczy jednego z najbardziej aktualnych wyzwań cyberbezpieczeństwa: ochrony systemów wykorzystujących modele LLM przed nowymi typami ataków.
Artykuł pt. “LogSanitizer: Defending LLM-Integrated SOCs against Backdoor Triggers Delivered through Firewall Logs” został przyjęty jako Short Paper i będzie prezentowany podczas konferencji SECRYPT 2026 w Porto. Autorzy podejmują temat bezpieczeństwa centrów operacji bezpieczeństwa, czyli SOC, które coraz częściej mogą wykorzystywać modele językowe do analizy zdarzeń, logów i potencjalnych incydentów. Praca dotyczy scenariusza, w którym źródłem ryzyka mogą stać się same modele LLM które zostały wcześniej zatrute i zawierają ukryte mechanizmy aktywujące atak typu backdoor. Kluczowym wynikiem pracy jest zaproponowanie modułu ochronnego, który pozwala czyścić dane wchodzące do zatrutego modelu w taki sposób, że ukryty w modelu LLM mechanizm nie będzie aktywowany.
To ważny kierunek badań, ponieważ rozwój narzędzi opartych na generatywnej sztucznej inteligencji zmienia nie tylko sposób pracy zespołów cyberbezpieczeństwa, ale również katalog zagrożeń, które trzeba brać pod uwagę przy projektowaniu bezpiecznych systemów. Badania prowadzone w Akademii Leona Koźmińskiego wpisują się w globalną debatę o odporności modeli LLM, bezpieczeństwie danych wejściowych oraz odpowiedzialnym wdrażaniu AI w środowiskach organizacyjnych.
SECRYPT to międzynarodowa konferencja poświęcona bezpieczeństwu informacji i komunikacji, prywatności, ochronie danych oraz kryptografii stosowanej. Wśród obszarów tematycznych edycji 2026 znajduje się m.in. bezpieczeństwo AI i uczenia maszynowego.
Cyberbezpieczeństwo modeli LLM przestaje być wyłącznie tematem badawczym. Dzisiaj dotyczy on kluczowych systemów, które wspierają analizę zdarzeń i decyzje w organizacjach. Dlatego trzeba badać nie tylko możliwości samych modeli, ale także sposoby, w jakie mogą zostać wprowadzone w błąd przez dane, z którymi pracują – mówi prof. Bogdan Księżopolski, reprezentujący Katedrę Cyberbezpieczeństwa w Akademii Leona Koźmińskiego.
