O obecności sztucznej inteligencji na uczelni i najważniejszych wyzwaniach z nią z związanych, o zjawisku Shadow AI, bezpieczeństwie i odpowiedzialnym korzystaniu z AI, a także o przyszłości prac naukowych, licencjackich czy magisterskich i „znikających zawodach” – mówi  dr hab. Wojciech Filipkowski, prof. UwB z Wydziału Prawa Uniwersytetu w Białymstoku i kierownik projektu „Świadomość Zagrożeń i Szans Systemów Sztucznej Inteligencji w Środowisku Akademickim – Diagnoza, Edukacja i Wzorcowe Polityki dla Polskich Uczelni na przykładzie Uniwersytetu w Białymstoku”.

Naszą rozmowę zacznijmy od zjawiska Shadow AI. Czym ono jest w praktyce i czy uczelnie/firmy powinny się go obawiać?

Dr hab. Wojciech Filipkowski, prof. UwB z Wydziału Prawa Uniwersytetu w Białymstoku i pełnomocnik Rektora UwB ds. nowoczesnych technologii i metod nauczania: wyobraźmy sobie pracownika, który chce szybciej wykonać zadanie i wkleja do internetowego chatbota dokument zawierający dane studentów albo nieopublikowane wyniki swoich badań. Nie zamierza nikomu zaszkodzić — szuka po prostu wygodnej pomocy. Problem zaczyna się wtedy, gdy uczelnia nie wie, że takie narzędzie jest używane, i nie sprawdziła, co dzieje się dalej z przekazywanymi informacjami. To właśnie Shadow AI, czyli korzystanie ze sztucznej inteligencji poza wiedzą, zgodą lub nadzorem danej instytucji – a w naszym przypadku Uniwersytetu.

Nie chodzi zatem o jakąś szczególnie niebezpieczną odmianę AI. Ten „cień” oznacza brak przejrzystości: nie wiemy, kto korzysta z jakiego systemu, do czego i na jakich danych. Samo użycie prywatnego narzędzia nie oznacza jeszcze wycieku czy naruszenia prawa, ale bez rozpoznania warunków jego działania trudno ocenić ryzyko dla danych, ludzi oraz ewentualnych konsekwencji prawnych.

Na pewno z punktu widzenia instytucji należy poważnie traktować to zjawisko. Jednocześnie nie powinniśmy reagować panicznie i zabraniać wszystkiego, każdego użycia systemów sztucznej inteligencji. Nie tędy droga. Opowiadam się za połączeniem jasnych zasad, edukacji i dostępu do odpowiednich narzędzi. Chcemy, żeby użytkownik wiedział nie tylko, czego nie robić, lecz także jak bezpiecznie wykonać swoje zadanie.

O tym zjawisku nie rozmawiamy przypadkowo. Na największej podlaskiej uczelni realizowany jest projekt „Świadomość Zagrożeń i Szans Systemów Sztucznej Inteligencji w Środowisku Akademickim – Diagnoza, Edukacja i Wzorcowe Polityki dla Polskich Uczelni na przykładzie Uniwersytetu w Białymstoku” (AI@UwB), którego jest Pan kierownikiem. Shadow AI jest jednym tematów, na które zwracacie Państwo uwagę, ale nie jedynym. Na co jeszcze będziecie Państwo zwracać uwagę?

Interesuje nas cały obraz obecności sztucznej inteligencji na uczelni: jak korzystają z niej studenci, doktoranci i pracownicy, czego potrzebują, co już potrafią i z jakimi problemami się spotykają. Nie chcemy i nie zakładamy, że wszyscy używają AI w podobny sposób ani że te same rozwiązania sprawdzą się w każdej jednostce. Dlatego punktem wyjścia jest diagnoza wiedzy, umiejętności, postaw i rzeczywistych zastosowań.

Przyglądamy się również ochronie danych osobowych, prawom autorskim, rzetelności akademickiej oraz jakości odpowiedzi generowanych przez systemy. Ważna jest dla nas przede wszystkim przydatność narzędzi: czy rzeczywiście pomagają w nauczaniu, badaniach i codziennej pracy uczelni? Podchodzimy do tego wyzwania kompleksowo. Pilotaż ma objąć pięć obszarów — dydaktykę, badania naukowe, administrację, rekrutację i funkcjonowanie biblioteki. Chcemy sprawdzać nie tylko możliwości technologiczne, ale też bezpieczeństwo i warunki odpowiedzialnego i legalnego wykorzystania.

Jakie w takim razie są główne cele projektu?

Najkrócej to ujmując, to chcemy wypracować model odpowiedzialnego korzystania z AI na uczelni, oparty na badaniach i doświadczeniu, a nie wyłącznie na wybujałych oczekiwaniach lub uprzedzeniach o tej technologii. Model powstający na przykładzie Uniwersytetu w Białymstoku ma być użyteczny również dla innych polskich szkół wyższych. Taka jest intencja zlecającego realizację tego zadania, czyli Ministerstwo Nauki i Szkolnictwa Wyższego.

Dlatego też łączymy w tym celu kilka działań. Rozpoznajemy potrzeby i praktyki społeczności akademickiej, porównujemy narzędzia, sprawdzamy ich zastosowania w pilotażu, rozwijamy kompetencje użytkowników i przygotowujemy zasady korzystania z AI. Następnie chcemy ocenić efekty tych działań i udostępnić wnioski innym uczelniom.

Zależy mi na tym, aby nie utożsamiać sukcesu projektu z samą liczbą zakupionych licencji czy przeprowadzonych szkoleń. Istotne jest, czy jego uczestnicy potrafią lepiej oceniać narzędzia, bezpieczniej z nich korzystać i rozpoznawać sytuacje, w których ich użycie nie jest właściwe lub wręcz nielegalne.

Dlaczego świadomość zagrożeń jest równie istotna jak umiejętność korzystania ze sztucznej inteligencji?

Ponieważ sprawne wydawanie poleceń, tzw. promptów nie wystarcza do odpowiedzialnej pracy. Można świetnie obsługiwać narzędzie, a jednocześnie przekazać mu dane, których nie powinno otrzymać, albo wykorzystać przekonująco brzmiącą, lecz błędną pod względem merytorycznym odpowiedź. Umiejętność techniczna odpowiada na pytanie „jak to zrobić?”, a świadomość zagrożeń — „czy mogę to zrobić w ten sposób i co muszę sprawdzić?”.

Na uczelni szczególnie ważna jest odpowiedzialność za rezultat. Jeżeli wykorzystuję AI do przygotowania materiałów dydaktycznych, analizy danych czy tekstu naukowego, nie mogę uznać, że za ewentualne błędy odpowiada program. To ja - użytkownik muszę zweryfikować informacje, źródła i wnioski.

Nie chodzi o zniechęcanie do technologii. Przeciwnie: znajomość jej ograniczeń pozwala korzystać z niej bardziej świadomie. Chcemy uczyć zarówno dostrzegania szans, jak i rozpoznawania granic.

W ramach projektu (AI@UwB) przeprowadzane są m.in. szkolenia dla studentów, doktorantów i pracowników UwB. Co przewiduje program tych spotkań?

Program łączy podstawy działania systemów sztucznej inteligencji z praktyką jej bezpiecznego i etycznego wykorzystywania. Obejmuje rozumienie możliwości i ograniczeń systemów, ochronę danych, prawa autorskie, zagadnienia związane z unijnym AI Act oraz rozpoznawanie ryzyk Shadow AI. Ważne miejsce zajmuje wykorzystanie sztucznej inteligencji w badaniach i dydaktyce.

Projekt przewiduje szkolenia ogólne i warsztaty, a także odrębne przygotowanie pracowników uczestniczących w pilotażu. Ta druga ścieżka jest związana z obsługą testowanego systemu i jego zastosowaniami w konkretnych zadaniach uczelni. Nie należy więc traktować wszystkich spotkań jako jednego, identycznego kursu.

Chciałbym, aby uczestnik wychodził z takich zajęć nie tylko z pomysłem na skuteczne promptowanie chatbotów czy agentów AI. Równie ważne jest, żeby umiał ocenić, czy może przekazać takiemu narzędziu dany dokument, co powinien sprawdzić w odpowiedzi i gdzie szukać pomocy w razie wątpliwości. Projekt przewiduje pomiar kompetencji przed działaniami edukacyjnymi i po nich.

Jednym z efektów projektu mają być wzorcowe polityki dla polskich uczelni. Czy w praktyce powstanie zbiór dobrych praktyk - rozwiązań?

Tak, ale zamierzamy pójść dalej niż ogólne zalecenia w rodzaju „korzystajmy z AI odpowiedzialnie”. Potrzebne są dokumenty, które pomagają rozstrzygać konkretne sytuacje. Projekt przewiduje politykę etycznego użycia AI, zasady dla dydaktyki i badań, procedury dotyczące zgodności z prawem oraz wytyczne dla administracji. Już teraz mogę powiedzieć, że tworzenie tych dokumentów jest skomplikowane, a zakres regulacji bardzo szczegółowy.

Chcemy powiązać te dokumenty z wynikami naszych badań i doświadczeniami z pilotażu. Mają odpowiadać na rozpoznane potrzeby, a nie być regulaminami tworzonymi w oderwaniu od codziennej pracy. Szerszy model ma obejmować również kwestie organizacyjne, kompetencje użytkowników oraz analizę kosztów i korzyści. Postępujemy wg założenia „najpierw zasady, potem narzędzia”.

Dlatego też, będzie to zestaw rozwiązań do adaptacji, nie instrukcja do bezrefleksyjnego skopiowania. Inne uczelnie powinny móc skorzystać z naszych doświadczeń i dostosować je do własnej struktury oraz potrzeb. Temu ma służyć otwarte udostępnienie rezultatów.

Jakie są najważniejsze wyzwania związane z obecnością sztucznej inteligencji na uczelni, na studiach?

Najważniejsze wyzwanie to zachowanie swoistej samodzielności intelektualnej użytkowników, zwłaszcza studentów, którzy przyszli przecież na studia po wiedzę i umiejętności. AI powinna pomagać w uczeniu się, a nie zastępować myślenie. Powinna wspierać osiąganie efektów kształcenia, a nie zastępować je. Dobrze napisany tekst nie wystarcza — student powinien rozumieć problem, sprawdzać źródła i umieć uzasadnić własne wnioski. Dlatego potrzebujemy również zmian w ocenianiu: większego nacisku na dyskusję, pracę etapową i pokazanie sposobu rozumowania.

Równie ważne są jasne zasady korzystania z AI, przygotowanie kadry, ochrona danych oraz równy dostęp do narzędzi. W AI@UwB łączymy więc badania, szkolenia i opracowanie uczelnianych zasad. Nie chodzi o to, żeby korzystać z AI jak najczęściej lub na siłę pod presją jakiejś mody, lecz żeby robić to świadomie i z korzyścią dla jakości kształcenia.

W którą stronę należy zmierzać, by nadążyć za zmieniającym się światem? W końcu to uczelnie kształcą młode pokolenia.

Powinniśmy przygotowywać ludzi do samodzielnego działania w zmieniającym się otoczeniu, a nie tylko do obsługi aktualnie popularnego chatbota czy innej usługi chmurowej. Narzędzia będą się zmieniać. To jest nieuniknione. Natomiast, umiejętność postawienia problemu, sprawdzenia informacji i oceny argumentów pozostanie potrzebna.

Dlatego opowiadam się za łączeniem kompetencji AI z wiedzą kierunkową. Przyszły np. prawnik, pedagog czy ekonomista nie musi być twórcą modeli sztucznej inteligencji, ale powinien umieć ocenić ich przydatność w swoim zawodzie. Potrzebuje do tego zarówno znajomości technologii, jak i solidnych podstaw własnej dyscypliny. Zdajemy sobie sprawę, że też takie są oczekiwania rynku pracy od naszych absolwentów.

Nie rezygnowałbym też z zadań wykonywanych bez AI. Trzeba stworzyć przestrzeń zarówno do samodzielnego ćwiczenia podstaw, jak i do świadomej współpracy z narzędziem. Rolą uczelni nie jest bezkrytycznie podążać za każdą nowinką, lecz również wskazywać granice jej zastosowania.

W przypadku szkół wyższych trwa już dyskusja, czy np. prace licencjackie/magisterskie mają jeszcze sens. Pod lupą znajdują się prace naukowe.

Najprostszym rozwiązaniem jest zastąpienie ich egzaminami. Natomiast moim zdaniem prace dyplomowe, zwłaszcza magisterskie nadal mogą mieć sens. Musimy jednak jasno powiedzieć, czemu mają one służyć. Ich celem nie jest samo powstanie kilkudziesięciu stron tekstu, lecz wykazanie, że student potrafi sformułować problem, dobrać metodę, przeanalizować materiał i uzasadnić wnioski, a także obronić swoje wyniki badań, wniosku lub postulaty.

Dlatego proponowałbym większy nacisk na proces: pracę etapową z promotorem, omawianie decyzji badawczych, dokumentowanie własnego wkładu i obronę pokazującą rzeczywiste rozumienie tematu. Samo ujawnienie użycia AI nie rozstrzyga jeszcze, czy praca spełnia wymagania samodzielności.

W publikacjach naukowych równie istotna jest możliwość sprawdzenia podstaw przedstawianych twierdzeń. Wygenerowany tekst nie zastępuje wiarygodnych danych, właściwej metody ani zweryfikowanych źródeł. Badacz pozostaje odpowiedzialny za publikację. Zamiast ograniczać dyskusję do pytania „kto napisał te zdania?”, warto pytać: „jaki jest wkład autora i na czym opierają się jego wnioski?”. Wydawnictwa lub konkretne periodyki mają już swoje wewnętrzne polityki dotyczące wykorzystywania AI w publikacjach. Wydaje mi się, że coraz mniej jest takich, które całkowicie zakazują używania tego rodzaju systemów.

Bez wątpienia sztuczna inteligencja staje się coraz bardziej zaawansowana i dotyczy coraz większej liczby aspektów naszego życia. Zaczynamy np. rozmawiać o zawodach, które nam zabierze. Czy może też zmienić funkcjonowanie uczelni?

Tak — i nie tylko sposób przygotowywania prac przez studentów. Możliwe zastosowania obejmują tworzenie materiałów dydaktycznych, wsparcie analiz naukowych, wyszukiwanie informacji czy pomoc w odpowiadaniu na powtarzalne pytania administracyjne. Właśnie dlatego w AI@UwB przyglądamy się kilku obszarom funkcjonowania uczelni jednocześnie.

Odróżniałbym jednak automatyzację określonej czynności od zastąpienia całej roli zawodowej. Nauczyciel akademicki nie jest wyłącznie dostawcą informacji, a pracownik administracji — osobą przepisującą dane. Ich praca obejmuje także ocenę sytuacji, kontakt z człowiekiem i odpowiedzialność. Nie wyprowadzałbym więc z rozwoju narzędzi prostych prognoz dotyczących likwidacji stanowisk lub całych zawodów. Niektórzy wskazują, że wykorzystanie AI będzie efektywne w powtarzalnych czynnościach, które najłatwiej automatyzować. Najprawdopodobniej zmianie ulegnie rola człowieka – z bezpośredniego wykonawcy, na nadzorcę lub kontrolera systemów AI. Dlatego m.in. edukacja uniwersytecka będzie miała nadal sens; ktoś będzie musiał weryfikować efekty zastosowania tych systemów.

Jaka będzie nasza rzeczywistość za 10 lat?

Nie potrafię tego określić, a obserwacja ostatnich zaledwie paru lat pokazuje, że tempo zmian przyśpiesza. Mogę natomiast powiedzieć, jakiej przyszłości bym sobie życzył: takiej, w której technologia uwalnia część naszego czasu, poszerza dostęp do wiedzy i pomaga rozwiązywać problemy, ale nie odbiera nam samodzielności.

Dlatego wolałbym przygotowywać ludzi, którzy poradzą sobie również wtedy, gdy obecne narzędzia przestaną istnieć. Dla mnie taki jest sens działań podejmowanych w AI@UwB: rozwijać zdolność świadomego korzystania z technologii, zamiast jedynie dostosowywać się do jej kolejnych odsłon.

Dziękuję za rozmowę.

Rozmawiała Marta Gawina